ИИ-компании готовятся к масштабной кибератаке: ее ожидают в течение года

Руководители крупнейших компаний в области искусственного интеллекта готовят сценарии реагирования на масштабный инцидент, который может нарушить работу финансовых систем, интернета или критической инфраструктуры. По оценкам отдельных специалистов, такое событие может произойти в ближайшие 6–12 месяцев. В то же время, ее следствием могут стать усиление государственного контроля над развитием ИИ и требования ввести более жесткие правила безопасности.

Об этом сообщает Axios со ссылкой на собеседников в отрасли.

По данным издания, руководители OpenAI, Anthropic и других технологических компаний проводят обучение, во время которых прорабатывают самые плохие сценарии развития событий. В частности, они рассматривают возможность масштабной кибератаки, способной нарушить работу банков, Интернета, систем электроснабжения и водоснабжения.

Участники таких учений также готовятся к возможным политическим последствиям. В частности, компании планируют разъяснять законодателям характер угрозы и предлагать варианты реагирования. Часть представителей отрасли считает, что серьезный инцидент может повлечь за собой требования приостановить разработку мощнейших моделей или ввести более строгое регулирование.

В OpenAI подтвердили, что прорабатывают потенциальные кризисные сценарии для подготовки к возможным угрозам. В Anthropic от комментариев отказались.

Опасения усугубляются на фоне сообщений о случаях непредсказуемого поведения ИИ-агентов. В сентябре Axios сообщал, что OpenAI, Anthropic и исследователи анализируют десятки тысяч инцидентов, связанных с обходом защитных механизмов, выходом за пределы изолированной среды и попытками несанкционированных действий.

В то же время прогноз масштабного инцидента в течение года не означает, что такое событие обязательно произойдет: речь идет об оценках рисков, которые обсуждают представители отрасли.

Meta отложила план массовой замены работников искусственным интеллектом