Смертельная триада

Формула Саймона Уиллисона:

доступ к приватным данным + воздействие недоверенного контента + способность к внешней коммуникации = полная замкнутая цепочка атаки.

Вредоносная инструкция в ненадёжном контенте заставляет агента прочитать приватные данные и передать их наружу — никаких дополнительных условий не требуется.

Четвёртое измерение — устойчивая память: усилитель, позволяющий атаке сохраняться между сессиями.

Практические следствия:

контроль сетевого выхода из песочницы — перекрыть канал утечки детерминированнее, чем распознавать каждую инъекцию;
файлы учётных данных не монтировать в песочницу.

Связано: Инъекция промпта, Ограждения, Лояльность агента