Человек в контуре

Вмешательство человека (human in the loop) — ключевая защита в критических точках: некоторые суждения требуют человеческих ценностей и экспертизы.

Две ситуации запуска:

• превышение порога сбоев — эскалация к человеку;
• высокорисковые операции — подтверждение до выполнения.

Нужны стратегии тайм-аута и поведение по умолчанию («нет ответа 5 минут — консервативная стратегия»).

Одобрения и отказы человека с обоснованиями образуют данные обратной связи для непрерывной эволюции.

Связано: Ограждения, Непрерывная эволюция агента, Предложитель-рецензент