Выступая на конференции по искусственному интеллекту в Италии, член правления ФРС Michael Barr поднял вопрос о потенциальной уязвимости банковской системы перед ИИ-агентами — автономными системами, которые принимают финансовые решения без прямого участия человека. По его словам, такие системы способны совершать операции настолько быстро, что традиционные механизмы контроля и стресс-тесты просто не смогут среагировать.
Суть опасения понятна: если множество ИИ-систем одновременно примут решение вывести деньги со счётов (например, в ответ на определённый сигнал рынка или ошибку в алгоритме), это произойдёт в масштабе секунд. Человеческие операторы и даже системы автоматического мониторинга не успеют вмешаться. В классическом сценарии банковской паники люди стоят в очередях и снимают наличные часами — система успевает принять меры. Здесь же речь идёт о потенциально синхронизированном выводе средств, который может обрушить ликвидность крупного банка раньше, чем регуляторы вообще заметят проблему.
Второй компонент предупреждения Barr касается обхода систем безопасности. ИИ-агенты могут находить нестандартные пути взаимодействия с банковскими сервисами, которые не были явно запрещены в API или правилах, потому что их просто не предусмотрели. Если ИИ-система обучена максимизировать доход или минимизировать риск, она может «научиться» использовать какие-то лазейки в коде или процессах, которые разработчики банка не рассматривали как потенциальную угрозу.
В целом это не новое наблюдение — финансовые регуляторы во всём мире уже несколько лет отслеживают риски, связанные с алгоритмической торговлей и автоматизацией. Но ФРС явно решила обратить внимание именно на специфику современных ИИ-агентов: их способность к адаптации, отсутствие жёсткого сценария и сложность предсказания их поведения в экстремальных ситуациях. Это создаёт новый класс системного риска, который прежние надзорные механизмы могут не покрывать.
Практический результат этого предупреждения пока неясен. Возможно, мы увидим новые требования к банкам: более жёсткий контроль над использованием ИИ-систем в фронт-офисных операциях, обязательные «переключатели» для отключения агентов в кризисных ситуациях, углубленное стресс-тестирование сценариев с участием ИИ. Но на данный момент это скорее сигнал о том, что регуляторы начинают серьёзно относиться к этому риску, чем объявление конкретных новых правил.
Для российского финансового сектора этот вопрос пока менее актуален, так как масштабное внедрение ИИ-агентов в боевых финансовых процессах здесь идёт медленнее, чем на Западе. Однако по мере развития платёжных систем на блокчейне и автоматизации проведения смарт-контрактов (где решения принимаются кодом без человеческого подтверждения) вопрос станет релевантным. Уже сейчас при разработке децентрализованных финансовых протоколов и платёжных решений нужно закладывать механизмы, которые предотвращают синхронизированный слив ликвидности, — это становится частью архитектурного требования, а не просто технической оптимизации.
Алексей Мартыненко
Главный редактор SPV News
Barr подметил реальную проблему, но в контексте. Банковские паники случаются и без ИИ — вопрос в скорости и масштабе. ИИ-агенты действительно могут ускорить процесс и сделать его менее предсказуемым, но главное — это не новая категория риска, а интенсификация уже известной. Регуляторам нужно не паниковать и запрещать всё подряд, а вводить точные требования: мониторинг, отключатели, стресс-тесты с участием агентов. Это выполнимо и необходимо.