Кристина А если бот ошибётся: кто за это отвечает и как ограничить цену ошибки
Это первый вопрос, который задают перед подключением, и правильный ответ на него не «такого не бывает». Ошибки бывают. Вопрос в том, какие именно, чем они ограничены и кто за них отвечает.
Ответственность не переезжает на сервис
Ответ, отправленный от имени компании, остаётся ответом компании — независимо от того, набрал его администратор или сформировала модель. Договор с сервисом этого не меняет и не может изменить: клиент общается с бизнесом, а не с поставщиком технологии.
Отсюда следует практический вывод. Вопрос не в том, чтобы переложить ответственность, а в том, чтобы сузить круг тем, где ошибка вообще возможна, и оставить человеку всё остальное.
Три вида ошибок, и они лечатся по-разному
Ответ не по базе знаний. Модель отвечает общими словами вместо конкретики компании: называет «стандартные сроки» там, где у компании свои. Лечится наполнением базы знаний, а не настройкой модели.
Ответ за пределами полномочий. Бот обещает скидку, сроки или результат, которых никто не утверждал. Лечится сценариями: тема, которой нет в разрешённых, не отвечается вовсе.
Выдуманный факт. Модель добавляет несуществующую деталь — филиал, услугу, условие. Это то самое, чего боятся, и это ограничивается тем, что ответ строится по документам компании, а не по общим знаниям модели.
Чем ограничивается цена ошибки
- Режим модерации. В полном согласовании ни один ответ не уходит клиенту, пока его не прочитал человек. Это медленнее, и первые недели обычно работают именно так.
- Список запретных тем. Всё, что касается здоровья, юридических последствий, индивидуальных условий и обещаний результата, задаётся как передача человеку, а не как ответ.
- Оговорка в диалоге. Клиент видит, что отвечает ИИ-администратор, и знает, что может попросить человека.
- История переписки. Каждый ответ сохранён — разбор ошибки не превращается в спор о том, что было сказано.
Что делать, когда ошибка уже случилась
Найти диалог, поправить формулировку в базе знаний или в сценарии и убедиться, что похожий вопрос теперь отвечается иначе. Ошибка, после которой ничего не изменилось в настройках, повторится — модель не запоминает исправления сама.
Правильный вопрос не «ошибается ли ИИ», а «что именно ему разрешено отвечать».