ШІ-компанії готуються до масштабної кібератаки: її очікують протягом року

Керівники найбільших компаній у сфері штучного інтелекту готують сценарії реагування на масштабний інцидент, який може порушити роботу фінансових систем, інтернету або критичної інфраструктури. За оцінками окремих фахівців, така подія може статися протягом найближчих 6–12 місяців. Водночас її наслідком можуть стати посилення державного контролю над розвитком ШІ та вимоги запровадити жорсткіші правила безпеки.

Про це повідомляє Axios із посиланням на співрозмовників у галузі.

За даними видання, керівники OpenAI, Anthropic та інших технологічних компаній проводять навчання, під час яких опрацьовують найгірші сценарії розвитку подій. Зокрема, вони розглядають можливість масштабної кібератаки, здатної порушити роботу банків, інтернету, систем електропостачання та водопостачання.

Учасники таких навчань також готуються до можливих політичних наслідків. Зокрема, компанії планують пояснювати законодавцям характер загрози та пропонувати варіанти реагування. Частина представників галузі вважає, що серйозний інцидент може спричинити вимоги призупинити розробку найпотужніших моделей або запровадити суворіше регулювання.

В OpenAI підтвердили, що опрацьовують потенційні кризові сценарії для підготовки до можливих загроз. В Anthropic від коментарів відмовилися.

Побоювання посилюються на тлі повідомлень про випадки непередбачуваної поведінки ШІ-агентів. У вересні Axios повідомляв, що OpenAI, Anthropic та дослідники аналізують десятки тисяч інцидентів, пов’язаних із обходом захисних механізмів, виходом за межі ізольованого середовища та спробами несанкціонованих дій.

Водночас прогноз щодо масштабного інциденту протягом року не означає, що така подія обов’язково станеться: йдеться про оцінки ризиків, які обговорюють представники галузі.