AI-консультанты на GPT-4 и Claude в 2026 году заменяют первую линию поддержки: отвечают на 70-80% типовых вопросов, экономят 200-500 тысяч тенге в месяц на зарплате операторов.
Как работает RAG (Retrieval-Augmented Generation)
Бот отвечает не на основе общих знаний GPT, а на основе ваших документов: каталога товаров, базы знаний, инструкций. Загружаем ваши тексты в векторную БД (Pinecone, Weaviate), и при каждом запросе бот находит релевантные куски и формулирует ответ.
Технически цепочка выглядит так. Ваши документы режутся на фрагменты по 300-800 слов с перекрытием, каждый фрагмент превращается в вектор и складывается в индекс. Когда приходит вопрос, он тоже превращается в вектор, из индекса достаются 5-10 ближайших фрагментов, и они подставляются в промпт вместе с инструкцией «отвечай только по этому контексту, если данных нет — так и скажи».
Качество ответов на 80% определяется не моделью, а качеством нарезки и полнотой исходных документов. Если в базе знаний нет ответа про сроки доставки в Актау, никакая модель его не придумает корректно — она либо честно откажется, либо начнёт фантазировать. Поэтому первый этап любого такого проекта — не код, а сбор и вычитка контента.
Что можно делать
- Поддержка клиентов 24/7
- Помощь в выборе товара
- Заполнение заявок
- Перевод диалогов на оператора при сложных вопросах
Отдельно стоит выделить сценарий подбора. Для интернет-магазина на несколько тысяч позиций фильтры в каталоге закрывают только тех, кто знает параметры. Человек, который пишет «нужен ноутбук для дочери-первокурсницы, до 400 тысяч», через фильтры не пройдёт. AI-консультант с доступом к структурированному каталогу задаёт два уточняющих вопроса и выдаёт три конкретные позиции со ссылками.
Второй недооценённый сценарий — внутренний бот для сотрудников. Регламенты, условия по продуктам, скрипты продаж, инструкции по 1С. Это дешевле в запуске, чем клиентский бот, потому что не нужен вылизанный тон и не страшна ошибка: сотрудник перепроверит.
Стоимость
MVP с 1 ботом и базой знаний — от 950 000 ₸ за 4 недели. Полноценный продакшн с интеграцией CRM/Bitrix24 — от 2 500 000 ₸.
К стоимости разработки добавляется ежемесячная плата за токены модели. Порядок величин: короткий диалог поддержки с RAG-контекстом стоит в районе центов, но при тысячах обращений в месяц это уже заметная сумма в бюджете. Снижается двумя приёмами — кэшированием часто повторяющихся запросов и роутингом: простые вопросы обрабатывает дешёвая модель, сложные уходят на топовую.
Если задача шире, чем чат на сайте — например, нужен разбор входящих документов, классификация заявок или автоматическая маршрутизация обращений — это уже отдельный класс работ, разработка AI-систем от 950 000 ₸, где чат может быть лишь одним из интерфейсов.
Окупаемость
Если у вас 100+ обращений в день — окупается за 2-3 месяца за счёт экономии на операторах.
При меньшем потоке считать нужно иначе — не через экономию, а через выручку. Ночные и выходные обращения, на которые никто не отвечал, теперь получают ответ. Если ваш средний чек высокий, а цикл сделки короткий, даже несколько дополнительных заявок в месяц перекрывают расходы. Если обращений в день меньше двадцати и все они разные — честнее сказать, что AI-бот не окупится, и лучше вложить деньги в SEO-продвижение, чтобы сначала нарастить сам поток.
Где такие проекты ломаются
Галлюцинации на границе базы знаний. Модель, которой не хватило контекста, склонна дописывать правдоподобное. Лечится жёстким системным промптом, порогом релевантности при поиске (если ближайший фрагмент слишком «далеко» — сразу отказ) и явной фразой отказа с переводом на оператора.
Устаревшая база. Цены поменялись, акция кончилась, а бот отвечает по старому. Нужен автоматический процесс переиндексации — по расписанию или по вебхуку из CMS, — а не ручная перезаливка файлов раз в квартал.
Отсутствие эскалации. Бот, из которого нельзя выйти на человека, злит сильнее, чем отсутствие бота. Кнопка «позвать оператора» должна быть видна с первого сообщения, а не появляться после трёх неудачных попыток.
Игнорирование казахского языка. Модели неплохо работают с казахским, но заметно хуже, чем с русским, особенно на специфической терминологии. Если у вас есть казахскоязычная аудитория, тестировать нужно на реальных запросах, а не на переводе русских.
Отсутствие логов диалогов. Без сохранённых переписок вы не узнаете, на каких вопросах бот проваливается. Логи с разметкой «ответ помог / не помог» — обязательная часть системы, а не опция.
Что спросить у подрядчика
На чьих ключах работает система и куда уходят данные. Для компаний с чувствительной информацией это принципиально: часть данных можно обрабатывать локально на открытых моделях, часть отправлять во внешний API — граница должна быть проведена явно.
Как измеряется качество. Должен быть набор из 50-100 реальных вопросов с эталонными ответами, на котором прогоняется каждая версия промпта. Без этого «стало лучше» — вопрос вкуса.
Что происходит при недоступности API модели. Внешние сервисы падают. Поведение при отказе — очередь, фолбэк на другую модель или честное «сейчас недоступно, оставьте контакт» — должно быть заложено, а не выясняться в проде.
Кто владеет базой знаний в векторном виде и можно ли её выгрузить. Ответ должен быть — вы, и да.
Практический вывод: не начинайте с интеграции всего и сразу. Возьмите одну категорию обращений, которая занимает больше всего времени операторов, соберите по ней документы, запустите бота только на неё и измерьте долю закрытых без человека диалогов за месяц. Эта цифра честнее любой презентации и даёт основание расширять систему дальше.