Четыре носителя обновления
Куда записать опыт — определяет природа способности:
- база знаний — факты и закономерности: быстрое обновление, прослеживаемость;
- Prompt и Skill — выражаемые естественным языком стратегии: объяснимость, но склонность к разрастанию;
- программы и Harness — детерминированные процессы и жёсткие ограничения: тестируемость, стабильность;
- параметры модели — высокоразмерные способности (восприятие, стиль, неявные стратегии): обобщение, но дорого.
Носители комбинируются: тон модели — постобучение, политики — знания и Skill, критичное соблюдение требований — серверный код.
Критерий выбора — не давность опыта, а выразимость способности носителем.
Связано: Непрерывная эволюция агента, От опыта к знаниям, Обновление параметров модели