Смертельная триада

Формула Саймона Уиллисона: доступ к приватным данным + воздействие недоверенного контента + способность к внешней коммуникации = полная замкнутая цепочка атаки. Вредоносная инструкция в ненадёжном контенте заставляет агента прочитать приватные данные и передать их наружу — никаких дополнительных условий не требуется. Четвёртое измерение — устойчивая память: усилитель, позволяющий атаке сохраняться между сессиями. Практические следствия: контроль сетевого выхода из песочницы (перекрыть канал утечки детерминированнее, чем распознавать каждую инъекцию), файлы учётных данных не монтировать в песочницу.

Связано: Инъекция промпта, Ограждения, Лояльность агента