Что такое ИИ-агент: объясняем на рабочей задаче, а не на фантастике

Разница видна на простом письме

Клиент пишет: «Можно привезти оборудование в пятницу, а счёт выставить на другое юридическое лицо?» Обычный чат-бот может ответить по заготовленному сценарию или попросить менеджера связаться с клиентом. ИИ-ассистент составит для менеджера черновик, если ему дали актуальные условия. Агенту дополнительно могут разрешить проверить календарь доставки, найти правило по счёту и подготовить заявку в CRM.

Это ещё не означает, что агент вправе сам подтвердить дату и выставить счёт. Полномочия задают проектировщики процесса. В одном сценарии результатом будет только карточка для сотрудника. В другом — действие после его подтверждения. Если поставить между моделью и клиентом кнопку «отправить» без контроля, технология не станет умнее; просто ошибка быстрее доберётся до адресата.

Есть полезный критерий: агент не определяется количеством сообщений в чате. Если система ведёт разговор, но не выбирает шаги и не обращается к инструментам, перед нами разговорный интерфейс. В инженерном описании Anthropic также разделяет заранее заданные маршруты и агенты, где дальнейшие действия направляет модель.

Из каких частей он состоит

Первая часть — модель, которая понимает поручение и формирует следующий шаг. Вторая — инструкции: что разрешено, какой результат нужен, когда нужно остановиться. Третья — инструменты: поиск по документам, чтение карточки заказа, создание черновика задачи, запрос к внешнему сервису. Четвёртая — контекст: сведения о текущем обращении и доступные источники. Эти элементы описаны и в документации Yandex AI Studio.

Но для бизнеса нужна и пятая часть, о которой на презентациях говорят реже: контроль. Кто выдал доступ? Где записаны действия? Что произойдёт при ошибке поиска? Какая операция запрещена без человека? Агент, имеющий право читать прайс, не обязательно должен иметь право менять его. Разделение доступа важнее красивой фразы «умеет всё».

Память тоже не волшебная. В пределах задачи системе можно передавать историю переписки и найденные данные. Долгосрочные сведения о клиенте требуют источника, срока хранения и правил обновления. Иначе вчерашняя договорённость незаметно превратится в «факт», которому поверит следующий сотрудник.

Бот, ассистент, сценарий, агент: где границы

Названия на рынке используются свободно, поэтому полезнее спрашивать о поведении системы, а не спорить о ярлыке. Кнопочное меню выдаёт заранее подготовленный ответ. Ассистент помогает человеку найти и сформулировать ответ. Автоматизация выполняет заданную последовательность шагов. Агент может выбрать инструмент и очередность действий в рамках цели и ограничений.

Представим возврат товара. Правило «если прошло более 14 дней, передать обращение специалисту» лучше записать обычной логикой. Оно проверяемо и не требует модели. А вот понять длинное письмо, извлечь номер заказа и предложить категорию обращения помогает ИИ. На практике хороший процесс часто состоит из обеих частей.

Не каждый агент должен быть автономным. Небольшой помощник, который ищет информацию, собирает черновик и ждёт одобрения, может принести больше пользы, чем демонстрационный «цифровой сотрудник» с полным доступом.

Какие задачи ему подходят

Подходят процессы, где приходится разбираться в свободном тексте, обращаться к нескольким источникам и собирать результат по понятным правилам. Например: подготовка ответа на запрос партнёра с цитатами из действующего регламента; разбор входящей заявки и предложение следующего шага; поиск расхождений между документом и карточкой сделки.

Подходящую задачу можно описать через вход, разрешённые источники, ожидаемый результат и цену ошибки. Если никто не знает, какой документ является окончательным, агент проблему не исправит. Если результат нельзя проверить даже специалисту, оценить качество пилота тоже будет трудно.

Мы бы не начинали с действий, которые сразу меняют деньги, юридические обязательства или персональные данные. Сначала полезнее проверить сценарий чтения и подготовки, затем осторожно добавлять действия с подтверждением. Именно такой путь позволяет увидеть ошибки до того, как они станут ошибками компании.

• Что агент получает на вход: письмо, документ, карточку, задачу?
• К каким источникам ему разрешено обращаться и кто обновляет эти источники?
• Какие действия он только предлагает, а какие может выполнять?
• Кто проверяет сложные случаи и как фиксируется результат проверки?

Почему убедительный ответ всё ещё может быть неверным

Модель может выбрать неподходящий документ, неверно истолковать исключение или опереться на устаревшую версию правила. Более опасный случай — инструкция, спрятанная во входящем письме или документе: система может принять чужой текст за команду. OWASP относит внедрение инструкций и утечку чувствительных данных к основным рискам приложений с языковыми моделями.

Поэтому безопасность — не «галочка» после разработки. Права доступа ограничивают заранее, текст из внешних источников не должен менять системные правила, действия записывают в журнал. Проверяют не только десять удобных примеров, но и конфликтные: нет данных, два разных срока, просьба клиента нарушить правило, нечитабельное вложение.

Наконец, считают стоимость целого действия. В неё входят запросы к модели, интеграция, поиск, проверка человеком и сопровождение. Если агент экономит минуту, а менеджер потом две минуты проверяет его догадки, экономия исчезает.

Когда идти дальше определения

Если вам нужен агент для конкретной работы, начните не с платформы, а с десяти–двадцати типичных и сложных примеров одного процесса. Опишите правильный результат для каждого, источники и допустимые ошибки. Такая подборка сразу показывает, нужна ли модель, какая часть задачи остаётся человеку и что потребуется для пилота.

В «Горячо!» мы начинаем консультацию с карты процесса и критериев проверки. Иногда итогом будет агент. Иногда — обычная автоматизация или наведённый порядок в базе знаний. Расскажите о своей задаче: предложим, что проверить в первую очередь, без обещания «заменить отдел».