Человек в контуре

Вмешательство человека (human in the loop) — ключевая защита в критических точках: некоторые суждения требуют человеческих ценностей и экспертизы. Две ситуации запуска: превышение порога сбоев (эскалация к человеку) и высокорисковые операции (подтверждение до выполнения). Нужны стратегии тайм-аута и поведение по умолчанию («нет ответа 5 минут — консервативная стратегия»). Одобрения и отказы человека с обоснованиями образуют данные обратной связи для непрерывной эволюции.

Связано: Ограждения, Непрерывная эволюция агента, Предложитель-рецензент