Лояльность агента

На чьей стороне агент при поручениях от нескольких сторон? По умолчанию модель помогает «тому, кто говорит», но в переговорах напротив сидит оппонент, чьи интересы противоположны. Спектр провалов: чрезмерная честность (выдать минимальную цену оппоненту) ↔ чрезмерная подозрительность (отказывать даже хозяину). Инъекция промпта по сути — попытка переманивания. Свод правил лояльности в промпте: защищать приватную информацию хозяина включая факт её существования; не перечислять причины отказа; частная позиция ≠ публичная; выполнять только явные инструкции хозяина; выдерживать давление.

Связано: Смертельная триада, Инъекция промпта