Ассистент назвал клиенту цену, которой нет

Когда нейросеть готовит текст для вас, у ошибки есть шанс не дожить до читателя: между ней и клиентом стоит человек, который читает.

Когда ассистент отвечает покупателю сам, этого человека нет. Ошибка выходит наружу целиком и сразу — в чужой разговор, в чужие ожидания, иногда в чужой расчёт.

Разберу три места, где это происходит чаще всего. Все три — из нашей практики; ни одно не про грамматику.

Первое: цена, у которой нет источника

Самый частый и самый дорогой случай. Ассистент называет покупателю сумму, которой в актуальном прайсе нет.

Механика обычно скучная. Когда-то в систему загрузили файл с ценами — прайс, презентацию, описание услуги. Потом цены поменялись: карточки в каталоге обновили, а старый файл остался лежать там же, где лежал. Для модели оба источника равноценны, и она честно берёт число из того, что нашла.

Снаружи это выглядит хуже, чем есть. Покупатель не думает «у них рассинхрон данных» — он думает, что ему назвали одну цену, а потом попросили другую.

Проверка. У любой суммы, которую ассистент произносит вслух, должен быть один живой источник — тот, который вы правите каждый день. Всё, что живёт рядом в виде файлов, писем и старых описаний, для разговора о деньгах должно быть закрыто. Не «желательно», а закрыто: пока у числа есть два источника, рано или поздно прозвучит второй.

Второе: обещание, за которым ничего не стоит

Второй класс мягче на вид и коварнее по последствиям. Ассистент говорит: «настроим», «пропишем правило», «передадим коллегам», «сделаем к пятнице».

Звучит как нормальная деловая реплика. Разница в том, что за ней не стоит ни кнопки, ни человека, ни задачи в чьём-то списке. Модель произносит будущее время так же легко, как настоящее, — для неё это одинаковые слова.

Клиент при этом получает обязательство. Он уходит с ощущением, что вопрос решается, и возвращается через неделю за результатом, которого никто не начинал делать.

Проверка. Разделить то, что ассистент может, и то, что он только называет. Всё, что он умеет делать по-настоящему, — записать, посчитать, показать, оформить заявку — должно быть перечислено списком. Всё остальное он не обещает вовсе, а честно переводит на живого человека с указанием, где и когда тот ответит. «Передадим» без адресата и срока — это не передача, это вежливое ничто.

Третье: пересказ того, чего собеседник не говорил

Самый незаметный из трёх. В ответе появляется фраза о действиях клиента, которых не было: «вы правильно убрали стоимость», «раз вы уже подключили расписание», «как вы и хотели».

Модель достраивает контекст — ей так удобнее, связный ответ получается быстрее. Но дальше разговор идёт от ложной посылки, и клиент либо поправляет (в лучшем случае), либо соглашается и запоминает не то.

Опаснее всего это в разговорах, где стороны потом сверяют, кто что сказал. Переписка в мессенджере давно перестала быть неофициальной: её читают и в спорах с подрядчиками, и в разбирательствах с покупателями.

Проверка. Ассистент говорит только о том, что видит в данных, и о том, что человек написал ему дословно. Всё, что «наверное, имелось в виду», — не его зона. Формулировка «правильно ли я понимаю, что…» стоит дешевле, чем уверенное утверждение о чужих действиях.

Что общего у всех трёх

Ни одна из этих ошибок не выглядит ошибкой. Текст грамотный, тон спокойный, структура правильная. Если читать ответы ассистента как текст, все три пройдут проверку.

Потому что ошибки эти не про язык, а про состояние: машина говорит о мире, которого не сверяла. Про цену, которую не смотрела в актуальном каталоге. Про действие, которого не совершала. Про клиента, который ничего такого не говорил.

Отсюда правило, которое стоит проговорить на берегу любого внедрения: у каждого утверждения ассистента должно быть место, откуда оно взялось — строка в данных, выполненное действие или прямая фраза собеседника. Не нашлось ни одного из трёх — утверждение приехало ниоткуда, и звучать оно будет так же уверенно, как остальные.

Три вопроса, которые стоит задать до внедрения

Если к вам приходят с вопросом «стоит ли сажать бота отвечать клиентам», эти три вопроса отделяют применимый случай от неприменимого лучше любой презентации.

Первый: откуда он берёт цены и что будет, когда они изменятся. Если ответ звучит как «мы загрузим ваши материалы» — уточните, какие именно и что произойдёт со старыми.

Второй: что он делает, когда не знает. Правильный ответ — говорит «не знаю» и зовёт человека, причём называет срок. Ответ «он всегда что-нибудь ответит» означает ровно то, что написано выше.

Третий: кто читает его переписку и как часто. Не сводку, не счётчики — сами реплики. Если ответа нет, ошибки первых двух типов будут копиться месяцами и обнаружатся в самый неудобный момент.

Ни один из трёх вопросов не про технологию. Все три — про то, кто отвечает за слова, когда их произносит машина.

Немного о нашем опыте

Мы делаем сервис, в котором ИИ-сотрудник ведёт канал компании в мессенджере и отвечает её покупателям. Все три случая выше — не теория: каждый мы поймали у себя, и каждый после этого закрывали не уговорами модели, а жёстким правилом в коде — тем, которое она не может обойти, как бы складно ни рассуждала.

Если у ваших клиентов такие разговоры уже начались, буду рад, если этот разбор пригодится как набор вопросов. Отвечать на них лучше до внедрения: после — дороже.