Препятствия для внедрения ИИ-агентов в бизнесе и науке
Крупнейшие бигтехи конфигурируют свои ИИ подразделения на разработку, адаптацию и внедрение ИИ-агентов в массовое использование.
Что такое ИИ-агенты? Это прокаченные программные скрипты с использованием ИИ, способные планировать, выбирать действия, вызывать инструменты и в идеале иметь контуры контроля (внутренние корпоративные политики безопасности, аудит, верификация, прерывание и т.д.)
Типов ИИ-агентов много, но можно выделить в три базовые группы:
Узкоспециализированные агенты, которые работают в рамках одного инструмента и задачи, имеют жесткие инструкции и ограниченное пространство действий. Например, агент по сортировке писем клиентов и группировке по претензиям или агент по отбору резюме в отделе кадров.
Автономные агенты: ИИ-системы, способные самостоятельно декомпозировать высокоуровневую цель («подготовь отчет по конкурентам, выделяя сильные и слабые стороны») на подзадачи, выбирать инструменты и выполнять их циклично. Подходят для научно-исследовательских проектов.
Мультиагентные системы: оркестрация группы специализированных ИИ агентов. Один агент выступает «менеджером», другие – исполнителями (код, поиск, анализ).
По уровню автономности можно выделить:
• Запрос-действия в режиме чат-бота (нулевая автоматизация), в роли экспертной системы;
• Агент делает шаги, но ключевые действия требуют подтверждения;
• Агент действует сам, человек мониторит и вмешивается по триггерам;
• Агент сам действует в пределах прав (на практике почти всегда проблемно.
По типу среды:
• Цифровые агенты – все, что связано с обработкой информации, поиском решения;
• ИТ-агенты – кибербезопасность, диагностика, реакция на инциденты, автоматизирование изменение конфигурации в рамках обслуживания промышленных и ИТ систем;
• Физические агенты - робототехника/склады/логистика/производство.
Сразу отмечу личный опыт. Ни один ИИ агент за три года не показал свою эффективность и производительность, за исключением ограниченных новостных агентов для скрининга медиа нарративов.
В начале 2026 могу доложить, что в науке и научно-исследовательских проектах ИИ-агенты категорически противопоказаны за исключением сценариев агрегации и обобщения нарративов. Любая серьезная работа – сразу мимо. Почему?
Контроль и верификация результатов настолько сложна и трудоемка, а надежность ИИ-агентов настолько низка, как и их скорость работы и производительность, что проще все сделать самому.
Говоря простым языком, «ИИ-дрисня» генерируется настолько масштабно, а процент ошибок так велик, что для поиска «закладок» требуется несоизмеримо больше времени и ресурсов, чем на самостоятельное решение задачи.
ИИ не обладает критерием истинности, что обходится через внешние валидаторы, независимые человеческие проверки и ограничения пространства действий ИИ. Однако, человеческая проверка, перекрывая любую потенциальную пользу от ИИ-агентов.
Уже ранее говорил, что автономные ИИ-агенты – это профанация и жульничество за исключением локальных сценариев в кодинге. Чем больше итераций – тем более токсичный и ошибочный результат, т.к. ошибки наследуется после генерации в рамках перехода на новые итерации и так по цепочке.
Если же после каждой итерации ИИ-агента блокировать и отдавать на ручную верификацию, ИИ-агент очевидно перестает быть автономным.
Здесь можно привести массу технических ограничений:
•Доступ к политике корпоративной безопасности.
•Нестабильность удержания контекстного окна (приводит к потере критически важный деталей), а во многих дисциплинах нет случайных данных и каждый дата-сет является критическим.
•Высокий процент ошибок и галлюцинаций, что может привести к катастрофе в финансах, медицине, юриспруденции, промышленном инжиниринге и науке.
•Отсутствие детерминизма – каждый запуск может приводить к разным результатам, для бизнес адаптации это неприемлемо.
•Специфичные требования по адаптации и т.д.
Да, ИИ-агенты могут быть полезны и применимы в некоторых задачах, но пока это игрушка для экспериментов, а не для экономики. Посмотрим, что принесет 2026 год.
