license: cc-by-4.0
task_categories:
- text-generation
language: - en
tags: - activation-steering
- mechanistic-interpretability
- sparse-autoencoder
- gpt2
pretty_name: GPT-2 Steering Repair Metrics
GPT-2 Steering Repair Results
Итоговые machine-readable результаты исследования
gpt2-stearing-repair.
Опубликованный checkpoint:
gpt2-steering-denoiser.
Датасет содержит только метрики, без текстов prompts и сгенерированных
продолжений.
Файлы
| Файл | Строки | Назначение |
|---|---|---|
confirm_neural_v2.csv |
80 000 | Итоговая common-RNG оценка пяти методов |
confirm_isotropic_v2_seed1.csv |
16 000 | Независимое повторение isotropic checkpoint |
pareto_neural_v2.csv |
50 | Агрегаты по method и alpha |
diagnostics/*.csv |
— | Activation-level go/no-go диагностики v2 |
manifest.json |
— | Протокол и SHA-256 артефактов |
Протокол
LM: GPT-2 small
hook: blocks.6.hook_resid_pre
SAE: gpt2-small-res-jb
held-out features: 8
prompts: 100
alpha values: 10
generation seeds: 2
continuation tokens: 24
sampling: temperature 1.0, top-k 50
BOS: исключён из steering и denoising
Методы используют common random numbers. judge_nll относится только к
продолжению. Corpus PPL вычисляется как exp(mean(judge_nll)).
Вырожденные строки сохранены в поле degenerate, но исключаются из обеих осей
верхней Pareto envelope. Основная метрика — concept_sae_mean; lex_any
служит независимым контролем.
На графиках по горизонтали используется PPL, поэтому желаемое направление
фронта — влево-вверх.
Схема основной таблицы
Ключ строки:
(method, feature, alpha_multiplier, seed, prompt_id)
Основные поля:
| Поле | Описание |
|---|---|
method |
Метод steering/denoising |
feature |
Held-out SAE feature |
alpha_multiplier |
Множитель feature-specific steering scale |
concept_sae_mean |
Основная оценка концепта после чистого повторного прохода |
lex_any |
Наличие слова из concept lexicon |
judge_nll |
NLL продолжения по GPT-2 large |
ppl_judge |
Индивидуальная PPL строки; не усреднять напрямую |
dist1–dist4 |
Доля уникальных n-грамм |
repeated_4gram_share |
Доля повторённых 4-грамм |
max_token_share |
Максимальная доля одного токена |
degenerate |
Флаг коллапса генерации |
Итог
Ни linear MMSE-denoiser, ни isotropic MLP-denoiser не показали значимого
преимущества над naive steering. Structured denoising значимо ухудшил основной
Pareto front. Подробная интерпретация и аудит протокола приведены в отчёте.
Лицензия
Таблицы метрик распространяются по CC BY 4.0. Исходный код распространяется
отдельно по MIT License.