ИИ-агенты в финансах: какие риски появляются, когда алгоритм получает право действовать

За двадцать лет работы в финансах мне довелось наблюдать несколько технологических революций. Электронный банкинг, автоматизация комплаенса, развитие алгоритмической торговли, цифровые каналы обслуживания клиентов. Каждый раз звучали прогнозы о том, что новая технология радикально изменит профессию финансиста.

С искусственным интеллектом ситуация выглядит несколько иначе. Впервые речь идет не просто об инструменте, который помогает человеку работать быстрее. Все чаще бизнес получает решения, способные самостоятельно выполнять действия: анализировать документы, проверять контрагентов, инициировать платежи и взаимодействовать с корпоративными системами без постоянного участия сотрудника.

Именно поэтому тема ИИ-агентов сегодня вызывает такой интерес не только среди технологических компаний, но и среди финансовых директоров, бухгалтеров, аудиторов и собственников бизнеса.

В последние два года бизнес активно осваивал генеративный искусственный интеллект. Сначала компании использовали его для подготовки документов, поиска информации и автоматизации переписки. В 2026 году начался новый этап. На смену цифровым помощникам приходят так называемые агентные системы ИИ, способные не только отвечать на вопросы, но и самостоятельно выполнять действия.

Для финансовой функции это означает серьезные изменения. Если раньше алгоритм помогал сотруднику принимать решение, то теперь он все чаще получает возможность инициировать процессы, проверять контрагентов, согласовывать документы и даже участвовать в движении денежных средств.

От помощника к цифровому коллеге

Под агентным ИИ обычно понимают систему, которая способна самостоятельно выполнять поставленную задачу, принимать промежуточные решения и взаимодействовать с другими цифровыми системами без постоянного участия человека.

Например, по оценке Goldman Sachs, агентный ИИ представляет собой следующий этап развития автоматизации, поскольку способен «автономно выполнять сложные рабочие процессы, принимать решения и адаптироваться к изменяющимся обстоятельствам при ограниченном участии человека».

Пока подобные решения находятся преимущественно внутри крупных корпораций, однако тенденция очевидна. Lloyds Banking Group использует ИИ для автоматизации расследований мошенничества и обработки сложных клиентских обращений. В свою очередь, J.P. Morgan в своих исследованиях отмечает, что корпоративные казначейства все чаще рассматривают искусственный интеллект как одно из приоритетных технологических решений ближайших лет.

Для малого и среднего бизнеса подобные технологии также становятся доступнее. Уже сегодня на рынке появляются сервисы, которые способны автоматически проверять документы, анализировать расходы, формировать платежные поручения и контролировать дебиторскую задолженность.

Риски, о которых редко говорят поставщики технологий

Большинство нынешних презентаций ИИ-решений, которые мне попадались на глаза, посвящены росту производительности и эффективности. Однако по мере увеличения автономности возникает вопрос, который традиционно интересует финансовых директоров гораздо больше, и состоит в том, кто будет отвечать за ошибку.

Представим ситуацию. ИИ-агент получил доступ к системе платежей, проверил контрагента, сформировал документы и инициировал перевод средств. Позднее выяснилось, что реквизиты были подменены мошенниками или сама операция нарушала внутренние регламенты компании. Кто несет ответственность? Верно. Чтобы подобных экзистенциальных вопросов не возникало, на последнем этапе нужен строгий аудит — еще более строгий и дотошный, чем стандартный внутренний аудит.

Алгоритм не может быть субъектом права. Ответственность по-прежнему остается за организацией и ее должностными лицами. Именно поэтому Европейский союз в рамках AI Act уделяет большое внимание прозрачности и возможности объяснить действия автоматизированных систем.

Чем больше полномочий получает алгоритм, тем важнее понимать логику его решений и сохранять возможность человеческого вмешательства.

Дипфейки становятся финансовым риском

Еще несколько лет назад дипфейки казались скорее технологическим экспериментом. Сегодня ситуация изменилась. Банки и финансовые организации все активнее рассматривают их как полноценный инструмент мошенничества.

По данным Всемирного экономического форума, использование генеративного ИИ уже существенно меняет характер киберугроз. Современные модели способны создавать убедительные голосовые сообщения, видеозвонки и цифровые личности, а специализированное программное обеспечение все чаще используется для обхода процедур удаленной идентификации клиентов.

Мне самому регулярно приходится работать с современными языковыми моделями. Совсем недавно я поставил одинаковую аналитическую задачу двум системам — Claude и ChatGPT. Первая справилась практически без замечаний, тогда как вторая с удивительным упорством повторяла одну и ту же ошибку, несмотря на мои все новые и новые порции уточнений. Этот пример хорошо показывает, насколько опасно сегодня воспринимать любую модель как безусловно надежного исполнителя. Даже самые сильные системы способны ошибаться, причем весьма убедительно.

В финансовой сфере цена такой ошибки значительно выше, чем неточный ответ в обычном чате. Таким образом, повторю самое главное: если алгоритму поручают проверку контрагентов, проведение платежей или идентификацию клиента, вопрос доверия становится вопросом управления рисками.

Именно поэтому развитие искусственного интеллекта требует не отказа от человеческого участия, а, наоборот, более зрелой и всесторонней, концептуально новой системы контроля. Чем больше полномочий получают алгоритмы, тем выше должна быть ответственность человека, принимающего окончательное решение.

Что важно сделать бизнесу уже сейчас

За годы работы в банковском секторе мне довелось наблюдать несколько масштабных волн цифровой трансформации. Особенно хорошо запомнился период, когда практически все процессы стремились как можно быстрее перевести «в цифру». Создавались рабочие группы, определялись KPI, внедрялись новые системы. Однако довольно быстро стало понятно, что сама по себе цифровизация не решает проблем, которые уже существуют внутри бизнеса.

Есть простая аналогия. Если у автомобиля изношена подвеска и вот-вот отвалится колесо, установка современного датчика не сделает машину исправной. В лучшем случае система заранее предупредит, что неисправность становится критической. Но заменить колесо она не сможет.

С искусственным интеллектом ситуация очень похожая. Это мощный инструмент анализа и автоматизации, но он не способен компенсировать слабые бизнес-процессы, некачественные данные или отсутствие внутреннего контроля. Более того, такие проблемы ИИ способен масштабировать гораздо быстрее, чем человек.

Поэтому внедрение ИИ я всегда рассматриваю не как ИТ-проект, а как проект по изменению системы управления. Прежде чем делегировать алгоритму проверку контрагентов, согласование платежей или анализ рисков, важно определить границы его полномочий, порядок контроля и распределение ответственности. Только после этого технология действительно начинает приносить пользу.

Не менее важны и данные. Даже самая совершенная модель принимает решения исключительно на основании той информации, которую получает на вход. Если данные неполны или содержат ошибки, ожидать качественного результата не приходится.