Код как ограничение бизнес-правил
Принцип «ограничение важнее указания»: правило, закреплённое в коде, означает «нельзя сделать», а в промпте — лишь «рекомендуется не делать».
Паттерн тройной гарантии (τ-bench):
- правила на естественном языке в системном промпте — для понимания и объяснения;
- описание инструмента с параметрами expected_* — работает как чек-лист для мышления модели;
- кодифицированная проверка на стороне сервера по истинным данным БД — последний привратник.
Ключевая деталь: ни один факт политики не берётся из параметров, заявленных моделью, — модель может галлюцинировать или быть манипулирована инъекцией.
Связано: Код как метаспособность, Harness-инженерия, Инъекция промпта