Лояльность агента

На чьей стороне агент при поручениях от нескольких сторон? По умолчанию модель помогает «тому, кто говорит», но в переговорах напротив сидит оппонент, чьи интересы противоположны.

Спектр провалов: чрезмерная честность (выдать минимальную цену оппоненту) ↔ чрезмерная подозрительность (отказывать даже хозяину). Инъекция промпта по сути — попытка переманивания.

Свод правил лояльности в промпте:

• защищать приватную информацию хозяина, включая факт её существования;
• не перечислять причины отказа;
• частная позиция ≠ публичная;
• выполнять только явные инструкции хозяина;
• выдерживать давление.

Связано: Смертельная триада, Инъекция промпта