В штате Нью-Йорк одобрили закон RAISE для предотвращения ИИ-катастроф
Документ обязывает компании отчитываться о рисках и инцидентах, связанных с использованием мощных ИИ-моделей.
В США в штате Нью-Йорк утвержден законопроект RAISE (Responsible Artificial Intelligence in Societal Enforcement), направленный на регулирование рисков, связанных с использованием систем искусственного интеллекта (ИИ). Соответствующую инициативу представил сенатор Эндрю Гунардес.
Об этом сообщили на официальном сайте Сената штата Нью-Йорк.
Согласно положениям законопроекта:
- компании, работающие в сфере искусственного интеллекта и использующие инфраструктуру стоимостью более 100 миллионов долларов, должны публиковать протоколы безопасности и оценки рисков;
- в обязательные отчеты входят риски, связанные с возможностью создания биологического оружия, автоматизированных преступлений или других угрожающих действий;
- компании также обязаны сообщать о серьезных инцидентах, включая случаи похищения моделей или опасного поведения систем.
Генеральный прокурор штата получит право применять гражданско-правовые санкции в отношении компаний, не соблюдающих требования закона.
Сенатор Гунардес пояснил, что документ разработан с учетом баланса между безопасностью и поддержкой инноваций:
"Билль разработан так, чтобы быть реалистичным и эффективным, не мешая академическим исследованиям", - отметил он.
Законопроект передан на рассмотрение губернатору штата Кэти Хоукул, которая может его подписать, доработать или наложить вето.
В случае вступления в силу RAISE станет первым в США юридически обязательным законом, регламентирующим безопасность систем искусственного интеллекта.
Напомним, что искусственный интеллект ChatGPT o3 саботировал выключение. Исследователи зафиксировали изменение кода самосохранения.
Читайте также