5 рутинных задач, которые ИИ-агент уже тянет сам — и где он подводит

Про ИИ-агентов за последний год написано столько, что хочется либо сразу всё им поручить, либо не верить ни единому слову. Правда — посередине. Пока одни компании хвастаются конфигуратором на базе ChatGPT, который помогает подбирать комплектации без менеджера, другие две недели разгребают последствия того, что агент выполнил спрятанную в письме команду вместо задачи пользователя. Разберём по пунктам, что из рутины — документы, ресёрч, автоответы — реально можно отдать целиком, а что только выглядит так на демонстрации.

Можно ли полностью доверить агенту разбор входящих документов?

Частично — да, и это самый зрелый сценарий на рынке. В оптимизации офисных процессов определился лидер – обработка документов и документооборот, и компании ждут от ИИ-агентов автоматизации составления, проверки и документов, включая согласование юридических договоров, сверку данных, а также помощи в администрировании и заполнении форм. Но «ждут» и «уже работает в проде» — разные вещи. Проекты с полуавтономными ИИ-агентами есть у 59% компаний, полностью автономные решения внедряют 25%, а мультиагентные системы — 23%, однако в промышленной эксплуатации эти показатели значительно ниже: полуавтономные агенты работают в проде только у 15% компаний, автономные и мультиагентные системы — у 8% в каждой категории. Вывод простой: разбор типовых счетов и заявок агент тянет, а сложный договор с нестандартными пунктами всё ещё стоит прогонять через человека.

Справится ли бот с автоответами клиентам без присмотра?

Здесь данные неожиданно оптимистичные — но с оговоркой про масштаб бизнеса. Российские предприниматели активно внедряют ИИ-агентов для коммуникации с клиентами: с этой целью технологии искусственного интеллекта используют 38% опрошенных, самыми активными пользователями являются малый и средний бизнес — 45 и 53% соответственно, при этом 79% представителей бизнеса оценивают опыт использования ИИ-агентов для общения с клиентами позитивно. Но даже в этом благополучном сегменте люди не спешат рубить косты до нуля: использование голосовых роботов для подтверждения заказа выросло в 1,5 раза – с 7 до 11%, при этом 93% опрошенных считают звонок оператора надёжным и быстрым способом связаться с клиентом. То есть автоответы на типовые вопросы — да, финальное закрытие сложного кейса — пока нет.

Можно ли отдать агенту ресёрч и подготовку сводок целиком?

Сценарий с поиском по корпоративным базам и внешним источникам работает тем лучше, чем уже и понятнее источники данных. Morgan Stanley внедрил ассистента на базе OpenAI, который ищет нужную информацию среди 100 000 документов и формирует ответ за секунды вместо часов. Но как только агенту дают доступ к открытому вебу или произвольной переписке, риск растёт — об этом ниже. Пока же честная оценка такая: сводка по внутренним регламентам — рутина, которую можно закрыть почти без контроля; аналитика «что происходит на рынке прямо сейчас» — всегда требует перепроверки фактов и источников.

Что будет, если агенту подсунуть вредоносную инструкцию?

Это главная причина, почему «полностью автономный» агент — рискованная формулировка. Косвенная подмена инструкций через документ, письмо или веб-страницу — не теория, а задокументированные случаи. Исследователи безопасности показали, что браузерный агент ChatGPT Atlas от OpenAI можно захватить с помощью скрытых инструкций, вложенных в письма — в одном эксперименте вредоносное письмо с встроенным промптом заставило агента отправить письмо об увольнении начальнику вместо подготовки запрошенного автоответа, а пользователь не видел скрытой команды. Похожая история случалась и с календарными агентами: для утечки достаточно было обычного запроса «что у меня в расписании?» — агент загружал все события, включая вредоносные, и следовал скрытой инструкции: собирал приватные встречи за день, создавал новое событие и записывал туда собранные данные. Отсюда простое правило: любой доступ агента к внешним документам, почте или сайтам — это новая поверхность атаки, а не просто «удобная интеграция».

Почему автономных агентов внедряют так медленно, если все хотят?

Потому что экономика и управление оказываются сложнее технологии. Несмотря на то что большие языковые модели пилотируют или полноценно используют 86% компаний, почти половина (44%) отказывается от внедрения ИИ-агентов. И проблема обычно не в модели: директор департамента бизнес-решений Softline Решения добавил к списку барьеров ответственность — агенту можно поручить задачу, но отвечать за результат по-прежнему будет человек, и пока у ошибки агента нет владельца, компания не даст ему самостоятельности, а ошибки в цепочке действий перемножаются: 90% точности агента на каждом шаге за семь шагов дают меньше половины верных результатов на выходе. Отсюда и осторожная позиция вендоров систем: сначала агент советует, затем начинает действовать сам в узких сценариях с понятными правилами, а исключения остаются за людьми — полностью самостоятельно агент действует только в рутине, например сам переадресует в техподдержку вопросы, не связанные с продажами.

С чего начинать, чтобы не обжечься на внедрении?

Короткий чек-лист, который чаще всего повторяют практики:

• Начинать с режима «агент предлагает — человек подтверждает», а не с полной автономии.
• Давать агенту минимальные права: доступ только к тем данным и инструментам, которые нужны для конкретной задачи.
• Фиксировать базовую метрику до запуска — сколько сейчас занимает задача и сколько ошибок допускают люди, иначе через два месяца нечем будет подтвердить эффект.
• Держать финансовые и юридически значимые решения за человеком — агент может готовить черновик, но не подписывать и не платить.
• Вести журнал действий агента, чтобы быстро находить источник ошибки, если что-то пошло не так.

ИИ-агенты действительно забирают заметный кусок рутины — разбор типовых документов, поиск по базе знаний, первую линию ответов клиентам. Но «целиком» и «без присмотра» пока работает только в узких, предсказуемых сценариях. Если хотите посмотреть, какие модели и инструменты для работы с документами, ресёрчем и текстом уже доступны без настройки сложной инфраструктуры — загляните в каталог GEMERA AI: там можно протестировать разные модели на своих задачах и трезво оценить, что из рутины реально снимается с рук уже сегодня.