Ограничения ИИ-ассистентов: 58% упираются в затраты

Руководитель подключает ИИ-ассистента, чтобы разгрузить отдел продаж. Через месяц он разбирает жалобу: бот пообещал скидку, которой нет, или назвал цену прошлого квартала. Ниже разобрано, где проходят ограничения ИИ-ассистентов, какие из них закрываются архитектурой, какие только человеком, и какие цифры стоит зафиксировать до запуска.

Какие задачи ИИ-ассистент не выполняет надежно?

Ассистент ненадежен там, где нужен гарантированно верный факт, длинная история клиента или решение вне стандартного сценария. Он хорошо отвечает на типовое и плохо распознает момент, когда вопрос перестал быть типовым.

Первое ограничение известно всем: галлюцинации языковых моделей. Если в базе нет ответа, модель охотно его сочинит, причем гладко и уверенно. Клиент автосалона спрашивает о комплектации, которой нет в наличии, и бот описывает ее во всех подробностях. Бизнес это видит: по данным CNews, 31% российских компаний обеспокоены точностью и надежностью результатов ИИ.

Второе ограничение связано с контекстным окном. Модель видит ограниченный объем текста за раз. В длинной переписке, где клиент три дня назад упомянул бюджет и кредит, ассистент может эту деталь потерять. Если истории клиента нет в CRM, ее нет нигде.

Третье ограничение касается исключений. Клиент хочет сдать старую машину в трейд-ин, оплатить часть наличными, а часть через лизинг на юрлицо. Человек поймет, что случай нестандартный, и позовет руководителя. Модель попробует ответить сама.

Отсюда простое правило: любой ответ с цифрой, сроком или обязательством компании должен опираться на источник, который можно проверить.

Почему ИИ ошибается даже на простой заявке?

Чаще всего ошибка рождается вокруг модели: в данных, базе знаний, интеграции и инструкциях. Модель воспроизводит то, что ей дали, вместе со всеми противоречиями.

По исследованию ИСИЭЗ НИУ ВШЭ 2025 года, построенному на данных более 15 тыс. крупных и средних организаций, у каждой пятой компании значимыми барьерами стали сложность интеграции, законодательные ограничения и низкое качество данных. Эти три пункта и ломают простые заявки.

Типичная ситуация: в базе знаний лежат два прайса, старый и новый, а в системной инструкции написано «всегда предлагай акцию месяца», хотя акция закончилась. Клиент спрашивает цену, бот берет старую цифру и добавляет несуществующую скидку. Модель здесь ни при чем: она честно выполнила противоречивое задание.

Защита понятна. RAG и база знаний (поиск по вашим документам перед генерацией ответа) снижают число выдумок, если документы актуальны и не спорят друг с другом. Интеграция с CRM дает ассистенту остатки, статусы и историю клиента в реальном времени. Каждую инструкцию полезно проверить вопросом: что сделает бот, если два правила столкнутся?

Где нужен человек в контуре?

Человек нужен везде, где ошибка стоит денег, создает юридическое обязательство или испорченные отношения с клиентом. Консультацию и квалификацию можно отдать ассистенту целиком, скидку и платеж нельзя.

Банк России в рекомендациях 2026 года советует подтверждать сотрудником операции ИИ в критически важных процессах с высокими рисками, включая платежные операции. Документ адресован финансовому рынку, но логику легко перенести на любой отдел продаж и закупок.

Процесс	Риск ошибки	Уровень автономности ИИ
Консультация по наличию и характеристикам	Низкий, если данные из CRM	Полная, с выборочной проверкой
Квалификация лида, запись на визит	Низкий	Полная
Расчет стоимости, кредита, тура	Средний	Расчет по формуле, итог подтверждает менеджер
Скидка, спецусловия	Высокий	Только в заданном лимите, сверх лимита передача человеку
Закупка, предложение продавцу	Средний	Первое касание и сбор данных, цену согласует байер
Возврат, претензия, конфликт	Высокий	Сразу передача сотруднику
Платеж, изменение реквизитов	Критический	Только с подтверждением человеком
Контроль качества звонков	Средний	Оценка автоматически, спорные случаи и санкции решает руководитель

Принято считать, что ИИ в продажах в первую очередь сокращает штат. Это верно, но не до конца. По данным ВШЭ, только 15% организаций заявили о снижении численности работников из-за ИИ, а 63% такого воздействия не увидели. Люди остались, сменились их задачи.

Руководители при этом разделились почти поровну. По исследованию ICT.Moscow, 51% готовы доверить ИИ-агентам задачи без постоянного контроля человека, 44% не готовы, хотя доверие к системам с ИИ в целом декларируют 73%. Доверие к технологии и готовность отпустить ее без присмотра расходятся заметно.

У наших клиентов ИИ-продавец не заменяет менеджера в сделке: переговоры, возражения и закрытие остаются за человеком. В автосалоне с пробегом выдача автомобилей на одного менеджера выросла с 11 до 17 в месяц, после того как первичную переписку забрал ассистент. Менеджер стал больше продавать.

Как ограничить права ИИ-продавца и закупщика?

Права ассистента описываются так же, как права нового сотрудника на испытательном сроке: роль, разрешенные действия, лимиты и обязательная передача сложных случаев. Все, что не разрешено явно, запрещено.

Минимальный набор ограничений:

1. Роль. Одна роль на одного агента: продавец отвечает покупателям, байер пишет продавцам. Совмещение ролей путает инструкции.
2. Белый список действий. Записать на визит, отправить карточку, создать сделку в CRM. Удалять сделки, менять цены и реквизиты ассистент не может технически, на уровне прав доступа в API.
3. Лимиты сумм. Скидка до заданного порога, выше порога передача человеку. Порог задается в системе, текстом в промпте его не обеспечить.
4. Подтверждение операций. Действия с деньгами уходят в очередь на согласование.
5. Журналирование. Каждый ответ, вызов CRM и источник факта сохраняются. Без журнала разбор жалобы превращается в спор.
6. Передача диалога. Четкие триггеры: клиент просит человека, упоминает претензию, суд, возврат, или бот дважды не понял вопрос. Менеджер получает всю переписку и краткое резюме.

По нашим данным, в том же автосалоне второй агент, ИИ-байер, сам пишет продавцам автомобилей на Авито и предлагает поставить машину на комиссию. Его задача ограничена первым касанием и сбором данных об автомобиле. О цене договаривается человек.

Как защитить данные и учесть требования РФ?

Данные защищаются тремя мерами: ассистент видит только нужное, персональные данные обезличиваются там, где это возможно, а поставщик проходит проверку до подписания договора. Опасения бизнеса здесь обоснованы: 28% компаний беспокоит утечка конфиденциальной информации, по данным CNews.

Банк России рекомендует организациям разрабатывать собственные модели угроз и политику информационной безопасности для работы с ИИ. Для малого бизнеса модель угроз умещается на двух страницах: какие данные проходят через ассистента, где они хранятся, кто имеет доступ, что случится при утечке.

Практический минимум:

• Доступы. Ассистент получает права на чтение карточек товаров и запись новых лидов. Полная выгрузка клиентской базы ему не нужна.
• Обезличивание. Паспортные данные, номера карт и адреса не передаются во внешнюю модель. Где можно, их заменяют идентификаторами.
• Логи. Определите срок хранения переписок и круг тех, кто их читает. Логи с персональными данными защищаются так же, как сама CRM.
• Поставщик. Уточните, где физически обрабатываются данные, используются ли диалоги для обучения чужих моделей, что происходит с данными при расторжении договора.

Последний пункт касается почти всех. По данным ВШЭ, 56% организаций привлекали сторонние компетенции для разработки или доработки ИИ-решений, а 53% покупали готовое коммерческое ПО. Значит, клиентские данные проходят через чужую инфраструктуру, и проверять ее приходится вам.

Какие метрики принять до запуска?

До запуска утверждаются тестовый набор диалогов и пороги по точности, доле эскалаций, скорости ответа, конверсии и стоимости ошибки. Без зафиксированной точки отсчета пилот невозможно ни принять, ни закрыть.

Тестовый датасет собирается из реальных обращений за последние месяцы: 200–300 диалогов, включая неудобные. Сюда входят вопросы о скидках, претензии, сообщения с опечатками, вопросы о товаре, которого нет. По этому набору проверяются:

• Точность классификации: верно ли ассистент определил намерение клиента.
• Полнота: какую долю горячих лидов он не упустил.
• Доля эскалаций: слишком низкая означает, что бот берет на себя лишнее, слишком высокая означает, что он бесполезен.
• Время первого ответа и SLA по каналам, включая ночь и выходные.
• Конверсия заявки в целевое действие: визит, звонок, оплату.
• Стоимость ошибки: во что обходится неверная цена или потерянный клиент.

Какой процент ошибок допустим для бота продаж, я сказать не возьмусь. Открытых замеров по российскому рынку нет, а порог зависит от того, во что обходится одна ошибка в вашем бизнесе.

Ориентиры по скорости и конверсии у наших клиентов такие. В московском автосалоне время первого ответа сократилось до 15 секунд против прежних от нескольких минут до нескольких часов, а конверсия входящих заявок в запись на визит выросла с 15% до 35%. В агентстве недвижимости первый ответ приходит в течение минуты, раньше ждали от нескольких часов до суток. Скорость первого ответа оказалась главной переменной.

Мониторинг качества модели не заканчивается после приемки. Еженедельно выборочно читайте диалоги, отслеживайте рост эскалаций и жалоб, перепроверяйте ответы после каждого обновления прайса или базы знаний.

Как внедрить ассистента без провала пилота?

Пилот проваливается, когда задачу ставят шире, чем позволяет процесс, и запускают без ручного контроля и плана отката. Работает узкий сценарий с понятной метрикой.

Шаг 1. Аудит процесса. Найдите место, где теряются заявки. По нашему наблюдению по трем проектам, узким местом оказалась пропускная способность первой линии: менеджеры работали операторами переписки, а с качеством продаж все было в порядке. В агентстве недвижимости один ролик с кодовым словом давал до 300 комментариев за несколько часов, больше, чем менеджер успевает обработать за день, и значительная часть обращений приходила вечером, ночью и в выходные.

Шаг 2. Ограниченный сценарий. Один канал, одна задача: например, ответы в чате Авито и запись на визит.

Шаг 3. Тестирование на датасете из прошлого раздела до выхода к живым клиентам.

Шаг 4. Ручной контроль. Первые недели менеджер читает все диалоги или ассистент отвечает через подтверждение.

Шаг 5. Мониторинг по утвержденным метрикам.

Шаг 6. Расширение на новые каналы и задачи, только когда метрики стабильны.

Шаг 7. План отката. Заранее решите, кто и как переключает поток на людей при сбое интеграции с CRM, утечке или серии выдуманных ответов. Переключение должно занимать минуты.

Рынок обещал, что ИИ окупится сам. На деле 58% респондентов назвали высокие затраты ключевым препятствием внедрения ИИ, а около 48% крупных и средних организаций заявляют, что потребности в ИИ не испытывают, по данным ВШЭ. При этом около половины применивших ИИ сообщили о росте качества процессов, а более трети увидели рост доходов и числа клиентов. Результат получают те, кто нашел конкретное узкое место. По нашим данным, в автосалоне с пробегом выручка за апрель–июнь 2026 выросла на 30,5% год к году при стагнирующем рынке.

Если модели станут умнее, ограничения исчезнут?

Часть исчезнет: контекстное окно растет, ошибок становится меньше. Ответственность за скидку, платеж или обещание клиенту останется на компании, поэтому подтверждение человеком в рискованных операциях сохранится. Банк России рекомендует его независимо от качества модели.

Не проще ли нанять еще одного менеджера?

Если заявки приходят ровно и в рабочее время, иногда проще. Если поток идет всплесками и ночью, как в агентстве недвижимости, где один ролик давал до 300 комментариев за несколько часов, дополнительный сотрудник проблему не закроет.

Можно ли начать без интеграции с CRM?

На коротком пилоте можно, с ручной передачей лидов. Но без CRM у ассистента нет актуальных цен и истории клиента, а у вас нет журнала. По данным ВШЭ, у каждой пятой компании сложность интеграции стала значимым барьером, поэтому закладывайте ее в бюджет сразу.

Главное из статьи

Ассистент надежен на типовых вопросах, когда факты он берет из базы знаний и CRM, а права ограничены технически. Скидки, возвраты, платежи и конфликты оставляйте за человеком, метрики и план отката утверждайте до запуска. На этой неделе выгрузите 200–300 реальных обращений и посчитайте, сколько из них остались без ответа дольше часа: эта цифра покажет, есть ли у вас задача для ассистента.

Источники

• ИСИЭЗ НИУ ВШЭ: использование ИИ в российских организациях
• Банк России: рекомендации по применению ИИ
• ICT.Moscow: оценка ИИ российским бизнесом
• CNews: бизнес пока не готов доверять ИИ