В штате Нью-Йорк одобрили закон RAISE для предотвращения ИИ-катастроф

В США в штате Нью-Йорк утвержден законопроект RAISE (Responsible Artificial Intelligence in Societal Enforcement), направленный на регулирование рисков, связанных с использованием систем искусственного интеллекта (ИИ). Соответствующую инициативу представил сенатор Эндрю Гунардес.

Об этом сообщили на официальном сайте Сената штата Нью-Йорк.

Согласно положениям законопроекта:

• компании, работающие в сфере искусственного интеллекта и использующие инфраструктуру стоимостью более 100 миллионов долларов, должны публиковать протоколы безопасности и оценки рисков;
• в обязательные отчеты входят риски, связанные с возможностью создания биологического оружия, автоматизированных преступлений или других угрожающих действий;
• компании также обязаны сообщать о серьезных инцидентах, включая случаи похищения моделей или опасного поведения систем.

Генеральный прокурор штата получит право применять гражданско-правовые санкции в отношении компаний, не соблюдающих требования закона.

Сенатор Гунардес пояснил, что документ разработан с учетом баланса между безопасностью и поддержкой инноваций:

"Билль разработан так, чтобы быть реалистичным и эффективным, не мешая академическим исследованиям", - отметил он.

Законопроект передан на рассмотрение губернатору штата Кэти Хоукул, которая может его подписать, доработать или наложить вето.

В случае вступления в силу RAISE станет первым в США юридически обязательным законом, регламентирующим безопасность систем искусственного интеллекта.

Напомним, что искусственный интеллект ChatGPT o3 саботировал выключение. Исследователи зафиксировали изменение кода самосохранения.

Штучний інтелект захопить світ: в ЄС працюють над законами, які обмежать використання ШІ