Перейти к содержимому

IT&SOFT3 мин чтенияИИ

Чем ИИ-агент отличается от чат-бота: разница, которая видна в счёте

Сценарный бот, бот с нейросетью и ИИ-агент с инструментами: три разные вещи под одним словом. Что каждый умеет, где ломается и сколько стоит в месяц.

Словом «бот» сейчас называют три разных продукта, и разница между ними в десятки раз по цене и в сотни — по тому, какие задачи они закрывают.

Уровень первый: сценарный бот

Дерево заранее написанных ответов. «Нажмите 1 — узнать статус заказа». Никакой нейросети внутри нет.

Отвечает мгновенно, стоит дёшево, поведение предсказуемо до последнего символа. Ломается на первом вопросе, которого нет в дереве: пользователь пишет человеческими словами, бот отвечает «не понял, выберите пункт меню».

Годится, когда сценариев меньше двадцати и они не меняются.

Уровень второй: бот с языковой моделью

Внутри нейросеть, которая понимает вопрос, сформулированный как угодно. К ней подложена база знаний компании: регламенты, описания товаров, ответы на частые вопросы.

Пользователь спрашивает «а если размер не подойдёт, что делать» — бот находит в базе правила возврата и отвечает связным текстом.

Что он умеет: понимать, искать, объяснять. Чего не умеет — действовать. Он расскажет процедуру возврата, но заявку не создаст.

Уровень третий: ИИ-агент

Та же модель плюс инструменты. Агенту доступны функции: посмотреть заказ в базе, создать заявку, отправить письмо, поставить задачу, списать со склада.

Модель сама решает, какой инструмент вызвать и в каком порядке. Пользователь пишет «верните деньги за заказ 4412» — агент находит заказ, проверяет срок возврата, создаёт заявку, ставит задачу бухгалтеру и отвечает человеку.

Здесь и появляется слово «агент»: система действует, а её результат меняет данные в ваших системах.

Где ломается каждый

Сценарный. На незнакомом вопросе. Лечится расширением дерева, пока дерево не станет неуправляемым.

С моделью. На галлюцинациях: если в базе знаний ответа нет, модель склонна придумать правдоподобный. Лечится жёсткой инструкцией отвечать «не знаю» и показом источника под каждым ответом.

Агент. На последствиях. Ошибка сценарного бота — это неудобство. Ошибка агента — это отправленное письмо, списанный товар или созданный возврат. Лечится ограничением прав и подтверждением человеком на необратимых действиях.

Сколько это стоит в месяц

Разработка — отдельный разговор. Ниже про эксплуатацию, о которой спрашивают реже, а сюрпризов там больше.

ТипСтоимость обращения10 000 обращений в месяц
Сценарный0Только хостинг
С моделью0,5–3 ₽5–30 тысяч
Агент3–15 ₽30–150 тысяч

Разброс большой, потому что цена зависит от длины контекста. Агент, которому в каждом запросе подкладывают историю диалога, описания десяти инструментов и куски базы знаний, тратит на один ответ в разы больше, чем бот с коротким вопросом.

Отсюда практический вывод: смотрите на стоимость одного обращения при вашем среднем диалоге. Цена модели за тысячу токенов сама по себе ничего не говорит. Разница между хорошо и плохо собранным контекстом — это пятикратная разница в счёте при одинаковом качестве ответов.

Как выбрать

Ответьте на два вопроса.

Первый: сколько разных формулировок у одного вопроса? Если пользователи пишут свободным текстом и вариантов десятки — сценарный бот не подойдёт, сколько веток ни добавляй.

Второй: должна ли система что-то менять в ваших данных? Если задача — только отвечать, останавливайтесь на втором уровне. Агент дороже в разработке, эксплуатации и сопровождении, и брать его ради ответов на вопросы смысла нет.

Про переход между уровнями

Уровни складываются друг на друга. Бот с базой знаний строится поверх той же инфраструктуры, что и сценарный, а агент добавляет к боту слой инструментов.

Начинать со второго уровня разумно почти всегда: он снимает основную массу однотипных обращений и даёт статистику, по которой видно, какие действия имеет смысл отдавать агенту. Начинать сразу с третьего — значит проектировать права доступа и обработку ошибок для сценариев, о частоте которых вы пока ничего не знаете.

ПоделитьсяTelegramVK
Автор

IT&SOFT

Небольшая команда инженеров. Пишем о том, что делаем руками, и о том, что при этом ломается. Если у вас похожая задача, напишите — разберём её на вашем примере.

Обсудить задачу
Подписаться на новые разборы
Дальше

Похожая задача
у вас?

Опишите её в брифе. В рабочее время вернёмся с оценкой срока и стоимости в течение двух часов.