PARS_presentation

1.

1
PARS
rank-01
Pareto-Attributed Retention Surgery
Последовательное обучение узких
навыков
с управляемым функциональным
дрейфом
rank-02
rank-03
rank-04
Не запрещать обновление модели заранее — сначала увидеть,
что полезно, затем сохранить это.
rank-05
Qwen3-0.6B
A100 40GB
узкий SFT
rank-06
utility / drift
retain →
drop →
Источник: PARS.md, состояние 2026-08-07.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

2.

2
Проблема: continual SFT — игра с нулевой суммой
Узкий датасет должен добавить новый навык, но модель разделяет параметры между всеми навыками.
До PARS
Наивная защита
PARS
Свободный SFT
«Не отходи от базы»
Сначала учимся свободно
Новый навык ↑
Старые навыки ?
→ полезные и вредные
изменения штрафуются одинаково
→ измеряем причинный вклад
каждого rank-направления
KL / L2-SP / EWC
защищают заранее
Глобальный α
одна ручка на всю модель
→ сохраняем Pareto-выгодные
изменения
Ключевая смена точки Ограничение накладывается после того, как становится известно, какие изменения полезны.
зрения
PARS §Задача и §Почему существующие методы платят налог.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

3.

3
Как работает PARS
Один раунд: свободная адаптация → атрибуция → хирургия → безопасный отжиг.
01
02
03
04
05
FREE SFT
ATTRIBUTE
SURGERY
ANNEAL
ACCEPT
Обучить LoRA
без ограничений
Оптимизировать
только gate g
Оставить
направления
с хорошим utility / drift
Вплавить и дообучить
внутри ε
Проверить метрики;
обновить эталон
Дрейф
KL на самосгенерированных якорях • 400 общих + 150 граничных + задачные якори прошлых
раундов
ε = 0.010
GROUPED BUDGETS
Не внешний корпус. Не benchmark rehearsal.
Источник: PARS §Рецепт, §A–E.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

4.

4
Ядро: causal attribution по rank-направлениям
LoRA уже даёт готовый базис; PARS добавляет скаляры g ∈[0,1] и ищет Pareto-выгодные координаты.
G = 28 × 7 × 32 = 6 272 gate-координат
utility ↑ / drift ↓
retain
utility
W(g) = W₀ + s · Σⱼ gⱼ · bⱼ aⱼᵀ
Pareto frontier
A и B заморожены. Оптимизируются только g.
Каждая координата получает градиент одновременно по:
• target NLL / utility
• KL drift на protected anchors
drop
не 6 272 прогонов
один backward на цель
drift →
Источник: PARS §C. Причинная атрибуция — ядро метода; §E.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

5.

5
Что именно защищается
Средний KL слишком слеп: PARS разделяет фоновые якоря и границы применимости.
400 общих
150 граничных
Якоря прошлых задач
Фактология
Рассуждение
Код
Англ. математика
Инструкции
Суммаризация
Перевод
JSON / диалог / сравнение
Та же задача по-английски
Нематематический вопрос
Тот же стиль, другой домен
«Ответь без <think>»
Поведение предыдущих раундов
Критическая
деталь
Именно здесь узкий SFT
часто переобобщается.
Если эталон не двигается,
задачная группа остаётся
в защите отдельным бюджетом.
Цель — не заморозить модель,
а очертить безопасную область.
Якоря генерируются с enable_thinking=False; это ловит дрейф обычного поведения, но не весь контракт рассуждения.
Следующее усиление — третья группа якорей с thinking=True.
Источник: PARS §A. Функциональный отпечаток. Ограничение: thinking-контракт внутри <think> частично невидим дрейфу.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

6.

6
Цепочка: эталон двигается только вверх
Это превращает retention из одноразового ограничения в храповик для последовательного обучения.
M₀
M₁
M₂
M₃
M₄
base
math
instructions
code
next
current = M₃
protected = лучшая известная M₂
Модель не откатывается
Следующий раунд должен отыграть просадку, если она есть
Правило
продвижения
Хотя бы одна ось заметно выросла или появилась новая — и ни одна не упала сверх шума → эталон
становится новым.
Источник: PARS §E–F. Важное ограничение: цепочка ≥3 раундов на GPU ещё не доведена.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

7.

7
Раунд 1: сильный целевой прирост без широкого ущерба
6 сидов, полные наборы удержания; PARS сравнивается с global-alpha.
Target EM
Target FMT
77.50
Retention sum
93.06
+9.44 vs
global
+12.22 vs
global
+5.14
Изменение retentionбенчмарков (п.п.)
+2.53 vs
global
99.12
PARS
+5.70 vs
global
global-α
+1.96
MMLU
ARC
+0.39
HSwag
+0.34
Что важно
MMLU и HellaSwag практически не
сдвинулись. Основная цена —
генеративная IFEval, −1.58 п.п.
+4.03
GSM8K
IFEval
Target probe
Это больше похоже на стиль/формат
генерации, чем на потерю знания.
-1.58
Источник: PARS §Измерения, раунд 1. n=6; удержание: MMLU +1.96, GSM8K +4.03, ARC +0.39, HSwag +0.34, IFEval −1.58.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

8.

8
Боевой путь и цепочка из двух раундов
Раннер проходит полный production-path; две последовательные адаптации приняты.
Боевой раунд 1
73.2 мин • run_pars.py
Target EM
74.69
Цепочка: 2 раунда
2 / 2 accepted
Format
+12.19
MMLU
39.40
−0.03
HSwag
45.85
−0.05
ARC
73.50
+2.04
GSM8K
58.40
+5.00
IFEval
80.50
−1.50
90.98
+85.98
M₀
M₁
math
instructions
M₂
protected frontier
Free SFT drift = 0.3492 =
34.9× ε
После surgery + anneal родовое
поведение остаётся.
Конфигурация
ε=0.010 • grouped budgets • fp32 merge • A
evaluator
↔
A gates • task-aware
Важно: 3+ раундов на GPU ещё нет; текущая цепочка — 1 seed.
Источник: PARS §Боевой раунд 1 и §Цепочка из двух раундов.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

9.

9
Что теория говорит — и где она ломается
Теория полезна как directional guide; количественные предсказания нужно считать на живой сети.
1 Pareto > global scalar
2 Proxy ≠ true target
4 Rank scale
При равном бюджете в модели
T*PARS / T*global = √(1 + CV²).
Справедливо лишь если
proxy NLL и истинная метрика
согласованы.
В идеализированной модели
S ∝ G → T* ~ √G.
Наблюдение: неоднородность
utility / drift велика — значит
один глобальный α принципиально
не использует доступную структуру.
При плохой корреляции
можно идеально оптимизировать
не ту цель.
На GPU увеличение использования
бюджета с 48% до 93% однажды
ухудшило true metric.
Для rank 64 предсказан выигрыш
≈1.42× при том же абсолютном ε.
Но встречный эффект — больше
вредных направлений — ещё не
проверен.
Главный методологическийАппроксимации допустимы как теория навигации; боевой код считает utility и drift напрямую.
вывод
Источник: PARS §Теоремы и §Границы теории.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

10.

10
Где PARS пока нельзя переутверждать
Документ сознательно фиксирует проблемы. Они определяют следующий экспериментальный пакет.
3+ GPU rounds
Acquired gates
Harness bias
нет полноценного прогона цепочки ≥3
раундов
защита приобретённых способностей слабее
родовых
target EM занижен из-за общего 512-token
котла
Contamination
Surgery convergence
r2 split
наборы удержания не проверены на
загрязнение генератором
500 шагов не сходятся стабильно; бюджет
держит anneal
38.3% dev / 34.7% test делят semantic pair с
train
Это не «метод сломан». Это список того, что отделяет сильный прототип от доказанного continual-learning метода.
Источник: PARS §Готовность, §Ограничения оценки, §Ожидающие прогоны.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

11.

11
Следующий решающий эксперимент
Нужно проверить не ещё один раунд, а способность PARS двигать protected frontier много раз.
R0
R1
R2
R3
R4
Math
R5
NEW
Минимальный дизайн
keep
NEW
3+ реальных раунда
3–6 задачевых доменов
несколько seed на критических плечах
keep
keep
Instr
Code
NEW
Baseline
Science
keep
keep
keep
NEW
keep
keep
keep
keep
Reason
NEW
Ищем почти треугольную матрицу: новые способности растут, старые не опускаются
сверх шума.
Sequential SFT
Global-α
KL rehearsal
PARS
Главный критерий
Retention frontier
по всем предыдущим
способностям после каждого раунда
Это план проверки, выведенный из ограничений PARS.md; результаты R2–R5 здесь не представлены как уже измеренные.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07

12.

12
PARS — не про «не учиться».
Он про то, как учиться много раз, не превращая каждое
новое обучение
в лотерею между новым навыком и старым.
Гипотеза
PARS • Pareto-Attributed
Retention Surgery
Qwen3-0.6B
A100 40GB
2026-08-07
Если причинно отбирать изменения и двигать эталон только при
подтверждённом улучшении,
последовательное обучение может стать накопительным, а не
разрушительным.
1 round: GPU доказан
2 rounds: GPU доказаны
3+ rounds: главный тест
Все числовые результаты и статусы в этой презентации взяты из PARS.md.
PARS • Pareto-Attributed Retention Surgery
Qwen3-0.6B • A100 40GB • состояние 2026-08-07