ИИ-агенты для бизнеса: что они умеют и почему им нельзя выдавать все доступы

Где заканчивается чат и начинается действие

Обычный чат-бот отвечает на вопросы. Агенту дают цель и инструменты: он может искать сведения, выбирать следующий шаг, создавать черновики или вызывать функции в системе. Граница не академическая. Как только ответ превращается в изменение заказа, отправку письма или запись в CRM, меняется ответственность.

Словом «агент» иногда называют обычный сценарий с несколькими кнопками. Это не делает продукт бесполезным. Для стабильных правил такой сценарий может быть лучше. На встрече полезно попросить подрядчика показать, какие решения система принимает сама, какими инструментами пользуется и что требует одобрения.

Рабочий пример: входящее обращение

Клиент пишет: «Когда привезут заказ и можно ли изменить адрес?» Система определяет тему, находит карточку заказа и актуальные правила доставки. Затем предлагает ответ сотруднику. Если изменение адреса разрешено, она готовит действие, но отправляет его на подтверждение. Если заказ уже передан перевозчику, сообщает о необходимости ручной проверки.

В этом примере полезен не эффектный диалог, а раздельные права. Агент видит только нужные поля, не может менять сумму заказа и не отправляет обещание клиенту без проверки в спорном случае. В журнале остаётся, что он нашёл, что предложил и кто подтвердил.

Такую схему сначала тестируют на копии или безопасном наборе данных. Подключить агенту полноценные права администратора ради быстрой демонстрации — дорогой способ узнать, чего не предусмотрели в инструкции.

Когда агент не нужен

Если входные данные структурированы, а действия заранее определены, хватит обычной автоматизации. Если нужно только найти ответ в документах, начните с поиска и ассистента без права менять системы. Если процесс редкий, не окупится интеграция. И если компания не готова обновлять базу знаний, агенту нечего доверять.

Ещё один тревожный признак — отсутствие ответственного за исключения. Модель неизбежно встретит случай, которого не было на демонстрации. Нужно заранее знать, кому она передаст задачу и как человек увидит контекст.

Безопасность: четыре проверки до запуска

Во-первых, ограничьте данные и инструменты. Сервису ответов на доставку не нужны договоры всех клиентов и право редактировать цены. Во-вторых, проверяйте источники: документ или веб-страница могут содержать текст, который пытается заставить модель забыть инструкцию. Это называется инъекцией в запрос и входит в перечень рисков OWASP.

В-третьих, поставьте подтверждение перед отправкой письма, оплатой, изменением статуса или удалением записи. В-четвёртых, храните журнал действий и план отключения. Если агент начал ошибаться, у команды должна быть возможность остановить его, а не ждать ответа подрядчика.

Инструкцией «не раскрывай секреты» эти задачи не решаются. Нужны права доступа, архитектура процесса и тесты.

Как проверять качество и считать деньги

Соберите набор реальных запросов и отдельно — сложных: двусмысленных, с отсутствующими данными, с просьбой нарушить правило. Специалисты оценивают каждое действие: верный поиск, верное предложение, корректную передачу человеку. Доля красивых текстов здесь ничего не говорит о безопасности.

Учитывайте стоимость на успешно завершённую задачу. Агент может делать несколько вызовов модели и внешних сервисов, а человек — перепроверять каждый шаг. На длинных задачах расходы растут быстрее, чем в простом чате. Пилот должен показать этот расход при типичном объёме.

Начать можно с консультации по конкретному процессу. В «Горячо!» она стоит от 90 000 ₽. Если агент нужен, подготовим требования, критерии пилота и отдельную смету. Если нет — скажем, какое более простое решение стоит проверить.