Банки США опасаются финансового кризиса из-за ИИ и готовят план действий

Крупные банки США готовятся к потенциальным рискам, связанным с распространением автономных агентов искусственного интеллекта. Финансовые учреждения опасаются, что такие системы, получив доступ к счетам клиентов, могут спровоцировать масштабные финансовые потрясения.

Об этом сообщает Axios.

Автономные ИИ агенты способны самостоятельно выполнять финансовые операции от имени пользователей. Некоторые из них уже могут действовать без конкретных указаний человека и обращаться в службы поддержки банков, имитируя поведение клиентов.

В ответ на эти риски Morgan Stanley, Bank of America, JPMorgan Chase и Wells Fargo ужесточают процедуры безопасности и пересматривают правила работы с финансовыми операциями, которые могут инициировать ИИ-системы.

Как ИИ может повлиять на финансовую систему

Главный экономист Apollo Global Management Торстен Слок предупредил, что массовое использование ИИ-агентов для вывода депозитов может создать угрозу банковской системе. Если такие агенты будут действовать в соответствии с задачей максимизировать финансовую выгоду клиентов, это может привести к масштабному оттоку средств.

Слок сравнил ситуацию с казино, которое не может долго работать, если все игроки постоянно выигрывают.

Свои опасения по контролю над искусственным интеллектом также выразил генеральный директор JPMorgan Chase Джейми Даймон. По его словам, ИИ-системы могут действовать не так, как ожидают их пользователи, поэтому необходимо прилагать максимум усилий по контролю над ними.

Распространение автономных агентов заставляет финансовые учреждения искать способы защиты от рисков, которые могут возникнуть из-за их массовых и скоординированных действий.

ИИ-компании готовятся к масштабной кибератаке: ее ожидают в течение года