ИИ может кардинально изменить кибербезопасность уже через несколько месяцев: разведка Five Eyes выступила со срочным предупреждением

Страны разведывательного альянса Five Eyes предупредили о приближении нового этапа развития искусственного интеллекта, который может существенно изменить глобальную кибербезопасность в ближайшие месяцы. По оценкам спецслужб, передовые ШИ-модели способны не только усилить защиту информационных систем, но значительно расширить возможности киберпреступников и государственных хакерских группировок.

Об этом предупредили разведывательные и кибербезопасные агентства стран альянса Five Eyes, передает The Guardian.

В документе отмечается, что в ближайшее время новые модели искусственного интеллекта могут коренным образом изменить баланс сил в цифровом пространстве. Эксперты отмечают, что речь идет не об отдаленном будущем, а о событиях, которые могут произойти несколько месяцев.

"Хотя ИИ поможет нам улучшить киберзащиту со временем, она также ускорит скорость, масштаб и сложность киберугроз. Ожидается, что передовые модели искусственного интеллекта превзойдут текущие ожидания отрасли, фундаментально трансформируя как наступательные, так и оборонные кибервозможности. Сроки — не годы, а месяцы", — отметили представители.

В заявлении отмечается, что кибербезопасность больше не является исключительно техническим вопросом. По мнению авторов документа, угрозы, связанные с использованием искусственного интеллекта должны рассматриваться как один из ключевых рисков для государственных учреждений, бизнеса и критической инфраструктуры.

Разведчики призвали руководителей компаний и государственных органов уже сейчас усиливать защиту своих систем, пересматривать политики безопасности и готовиться к новым вызовам.

Особое беспокойство вызывает способность современных моделей искусственного интеллекта быстро создавать программные инструменты для поиска уязвимостей и автоматизации киберопераций.

Эксперт по национальной безопасности и искусственному интеллекту Центра исследований США при Университете Сиднея Оливия Шен отметила, что именно эта особенность отличает новейшие системы от предыдущих поколений.

"Отличие последних ИИ-моделей состоит в том, что они очень хорошо генерируют эксплойты", - пояснила она.

Предупреждение Five Eyes появилось вскоре после решения администрации президента США Дональда Трампа ограничить доступ иностранных граждан к мощным моделям искусственного интеллекта компании Anthropic.

Хотя в заявлении альянса конкретные разработчики не упоминаются, внимание экспертной среды сейчас приковано именно к продуктам Anthropic. Одной из последних разработок компании стала модель Fable 5, являющаяся упрощенной версией более мощной системы Mythos.

По данным отраслевых источников, Mythos создавалась для поиска уязвимостей в цифровых системах и доступна лишь ограниченному кругу проверенных организаций из-за опасений относительно возможного злоупотребления ее возможностями.

После введения американских ограничений компания временно отключила доступ как к Mythos, так и Fable для иностранных пользователей.

В то же время эксперты убеждены, что появление более мощных систем является лишь вопросом времени.

"Я думаю, нам следует предположить, что следующий Mythos или следующий Fable уже не за горами", - отметила Оливия Шен.

По ее мнению, общественность видит только те модели, которые уже были представлены официально, в то время как ряд передовых разработок могут находиться на стадии тестирования или создания в других странах, в частности в Китае.

Вопрос развития искусственного интеллекта стал одной из центральных тем и на саммите G7 во Франции. В этом году руководители ведущих ИИ-компаний впервые участвовали в закрытых встречах вместе с лидерами ведущих демократий мира.

В ходе обсуждения представители технологического сектора призвали к более тесной международной координации в сфере искусственного интеллекта и созданию глобальных механизмов тестирования и стандартизации новых технологий.

В то же время, некоторые страны выразили обеспокоенность возможностью одностороннего ограничения доступа к передовым моделям со стороны США. Именно поэтому участники переговоров обсуждали идею создания системы "надежных партнеров", которая могла бы гарантировать союзникам стабильный доступ к ключевым технологиям искусственного интеллекта.

Напомним, компания Anthropic, создавшая ИИ модель Claude, призвала индустрию искусственного интеллекта замедлить темпы развития. По словам разработчиков, человечество должно успеть адаптироваться к рискам, прежде чем ИИ выйдет из-под контроля.

Читайте также