Внедрение ведущими российскими компаниями ИИ-агентов может стать новым конкурентным преимуществом. Это также позволит решить ряд проблем с импортозамещением за счет использования собственных агентных надстроек над отечественным программным обеспечением. Об этом было заявлено в рамках конференции Data Fusion.
В Москве прошла конференция по анализу данных и технологиям ИИ Data Fusion. В числе ключевых тем конференции – активное внедрение искусственного интеллекта (ИИ) в процесс управления данными или «ИИ-зация» этого процесса. В частности, участники обсудили перспективы развития автономных ИИ-агентов с целью выполнения аналитических, операционных и управленческих функций в компаниях.
Как пояснил TelecomDaily начальник управления моделирования КИБ и СМБ, вице-президент ВТБ Артем Летин, основные этические и юридические риски в рамках внедрения автономных ИИ-агентов в корпоративное управление можно описать двумя словами - «неопределенность с ответственностью».
«Когда автономный агент принимает неверное решение или совершает неверное действие, кто несет за это ответственность? Разработчик, который создал модель, пользователь, который дал ей указание, или сама система, которая вышла из-под контроля? Отсутствие регламентированного ответа на этот вопрос замедляет процесс внедрения ИИ в бизнес-процессы. Для снижения этого риска необходимо внедрять архитектурные и процедурные решения. Например, принцип Human-in-the-Loop, который предполагает наличие человек-оператора, имеющего право и возможность вмешаться и отменить любое действие агента», - считает он.
Кроме того, по мнению Артема Летина, необходимо логировать и хранить подробные журналы аудита, которые фиксируют каждый шаг агента, его входные данные, промежуточные рассуждения и конечное решение. В этом смысле за несколько десятков лет в восприятии ничего не поменялось. Аналогичные риски обсуждали 20 лет назад при внедрении скоринговых моделей. Компании, которые смогут гарантировать объяснимость и отслеживаемость своих ИИ-решений, получат значительное конкурентное преимущество.
Также безопасность данных требует беспрецедентного уровня защиты корпоративной информации. Использование ИИ подразумевает доступ систем к конфиденциальным сведениям, что создает риски утечек в случае кибератак. Интеграция с существующими системами часто затруднена из-за консерватизма устоявшихся бизнес-процессов. Внедрение новых технологий требует не только программного обновления, но и изменения организационной культуры компании. Будущее бизнеса зависит от создания гибридных команд, объединяющих человеческий творческий потенциал и вычислительную мощность искусственного интеллекта. Компании, игнорирующие этот тренд, рискуют потерять конкурентоспособность в ближайшей перспективе.
Как было заявлено спикерами в рамках конференции, внедрение ИИ-агентов должно рассматриваться как часть общего плана цифровой трансформации, а не как набор отдельных инициатив. Такой план должен включать следующие направления. Во-первых, разработку политики использования ИИ, создание единой технологической инфраструктуры и выделение необходимых ресурсов. Во-вторых, построение гибкой и модульной технологической архитектуры. В-третьих, стандартизацию API, изменение архитектурных решений в области хранения данных. Как полагает Артем Летин, массовое внедрение ИИ-агентов изменит роли сотрудников и их функционал. Сотрудники, с одной стороны, избавляются от выполнения рутинных, механических задач, но, с другой стороны, на них возлагаются более высокоуровневые функции: надзор за работой агентов, проверка их выводов, принятие решений в сложных ситуациях и работа с исключениями, которые агенты не могут обработать самостоятельно.
«Это потребует от сотрудников развития новых компетенций, в первую очередь цифровой грамотности и способности эффективно взаимодействовать с ИИ. Иными словами, потребуется массовое обучение сотрудников. Однако существует и обратный эффект «перегрузки», когда увеличиваются требования к количеству выполняемых сотрудником задач, к времени и скорости их выполнения», - подчеркнул он.
Следующий этап реализации плана включает переход от процедур к грамотной постановке целей. Традиционные бизнес-процессы описываются как последовательность шагов. ИИ-агенты работают иначе: им ставится цель, а последовательность шагов они определяют сами. «Например. Ранее команда звучала примерно так - открой CRM, найди клиента, проверь баланс, отправь письмо по шаблону №3. Теперь она выглядит следующим образом: обеспечь продление контрактов с клиентами; используй доступные каналы коммуникации», - добавил Артем Летин.
По мнению советника генерального директора ассоциации ФинТех Алексея Сидорюка, переход от ИИ-ассистентов к ИИ-агентам является одним из главных трендов развития искусственного интеллекта. Организации экспериментируют с применением агентов на основе нейросетей и поиском ниш их применения в бизнесе. При этом, по его словам, есть ряд вопросов, которые требуется решить для полномасштабного применения ИИ-агентов. Это проблемы типизации средств сохранения и регистрации таких агентов, типизации архитектуры применения ИИ, а также вопросы, связанные с безопасностью и доверием к нейросетям.
Между тем автономные ИИ-агенты уже прошли путь от вспомогательных инструментов до полноценных субъектов корпоративного управления. В настоящее время они способны выполнять аналитическую и операционную работу, значительно повышая точность прогнозирования в финансах, маркетинге и логистике благодаря отсутствию человеческого фактора. Это приводит к переходу от систем поддержки принятия решений к автономным управленческим действиям, включая распределение ресурсов и стратегическое планирование.
Напомним, агент на основе ИИ является автономной программой, которая воспринимает окружающую среду, анализирует информацию и самостоятельно принимает решения для достижения поставленной цели. В частности, по данным Финансового университета при правительстве РФ, в крупных российских компаниях ИИ-агенты уже активно используются для анализа клиентского поведения. Например, они выявляют паттерны покупок, предсказывают отток клиентов и формируют персональные предложения. В финансовой аналитике интеллектуальные системы анализируют транзакции, выявляют аномалии и прогнозируют кассовые разрывы. В маркетинговых исследованиях ИИ-агенты анализируют эффективность рекламных кампаний в реальном времени и оптимизируют бюджеты.
«Кто-то из участников рынка образно сказал, применительно к генеративному ИИ, что мы подвели электричество к дому, и теперь бизнесу решать, как им распорядиться. Кто-то еще кипятильник включает в розетку. А кто-то подключает технологию умного дома», - добавила директор консалтинговой практики по управлению данными в финансовом секторе компании «Технологии доверия» Наталья Стрекаль.
В отличие от классических аналитиков, автономные ИИ-агенты работают круглосуточно, не подвержены когнитивным искажениям и способны мгновенно реагировать на изменения внешней среды. Это делает их идеальными для операционной деятельности компаний, где они автоматизируют документооборот, управление логистикой и контроль качества.
В России ИИ-агенты внедряются в ритейле, промышленности и банковском секторе. Например, крупные торговые сети используют ИИ для автоматического формирования заказов поставщикам, а производственные предприятия - для мониторинга состояния оборудования и предотвращения аварий. В числе других отраслей экономики, которые могут получить наибольшую выгоду от внедрения автономных ИИ-агентов, - это энергетика, здравоохранение, логистика, страхование. Для российских компаний в этих секторах внедрение агентов также вопрос импортозамещения технологий. Западные ERP системы ушли или ограничивают функционал. По мнению участников дискуссии, собственные агентные надстройки над отечественным ПО могут стать новым конкурентным преимуществом.
Наиболее революционным этапом развития технологий стало участие ИИ-агентов непосредственно в процессах управления. Сегодня они способны не только давать советы, но и действовать автономно в рамках установленных полномочий. Например, управление проектами с помощью ИИ позволяет автоматически распределять задачи между сотрудниками, исходя из их загрузки. Система контролирует соблюдение сроков и может самостоятельно перераспределять доступные ресурсы в случае возникновения критических рисков.
Стратегическое планирование опирается на глубокий синтез рыночных трендов и внутренних показателей организации. На основе этих данных ИИ предлагает руководству несколько вариантов развития бизнеса, подкрепленных расчетами вероятностей. HR-менеджмент использует интеллектуальных агентов для анализа производительности персонала и выявления потенциальных кадровых рисков. Агенты помогают формировать индивидуальные программы обучения, выявляя пробелы в компетенциях сотрудников.
Кроме того, по мнению участников дискуссии, внедрение ИИ в бизнес-процессы, особенно в таких важных сферах, как финансовый сектор, открывает огромные возможности для автоматизации и повышения эффективности. Однако сохранение человеческого контроля остаётся ключевым принципом ответственного использования ИИ. Системы ИИ принимают решения на основе алгоритмов и данных, но не обладают моральной ответственностью. В случае ошибок, сбоев или негативных последствий для клиентов или бизнеса ответственность всегда лежит на людях - разработчиках, операторах и руководителях. Только человек может быть подотчётен за действия системы, особенно если речь идёт о финансовых потерях, утечках данных или нарушении прав клиентов. В этой связи переход к полной автономии интеллектуальных систем также сталкивается с этическими и правовыми барьерами, которые касаются ответственности за результаты деятельности ИИ. Ведь до сих пор нет однозначного законодательного ответа на вопрос о том, кто несет юридическую ответственность за ошибки, допущенные автономным алгоритмом.
Фото: пресс-служба Data Fusion.