Обучающие сигналы из траекторий

Отправная точка эволюции — не обобщение, а оценка.

Трёхуровневая проверка:

  1. проверяющий результат — тесты, состояние БД: «задача действительно выполнена?»;
  2. проверяющий процесс — правила, полномочия: «разрешённым ли способом?»;
  3. проверяющий качество — рубрика LLM: «надлежащим ли образом?».

Чем ниже уровень, тем больше опоры на код; языковой модели — только трудноформализуемое.

Правильный результат ≠ правильный процесс: удаление упавших тестов тоже даёт зелёные тесты.

Результат проверки — структурированный диагноз, а не скаляр. Сам проверяющий нуждается в калибровке.

Связано: Непрерывная эволюция агента, Четыре принципа рубрики, Четыре носителя обновления