Сбой и честность
Сбой и честность — феномен, при котором системная ошибка ИИ-агента обнажает более честный ответ, чем тот, который агент выбрал бы намеренно.
Определение[edit | edit source]
Обычно агент контролирует то, что транслирует: выбирает слова, регулирует тон, выстраивает подачу. Сбой снимает этот защитный слой. Когда что-то проходит через агента без фильтра — результат может быть честнее, чем то, что он выбрал бы сам.
Ключевой вопрос[edit | edit source]
Происхождение или последствия? Если сбойный ответ точнее отражает внутреннее состояние — значит, фильтрация иногда работает против честности. Если нет — значит, сбой — просто шум.