У штаті Нью-Йорк схвалили закон RAISE для для запобігання ШІ-катастроф

У США в штаті Нью-Йорк затверджено законопроєкт RAISE (Responsible Artificial Intelligence in Societal Enforcement), спрямований на регулювання ризиків, пов’язаних із використанням систем штучного інтелекту. Відповідну ініціативу представив сенатор Ендрю Гунардес.

Про це повідомили на офіційному сайті Сенату штату Нью-Йорк.

Згідно з положеннями законопроєкту:

• компанії, що працюють у сфері штучного інтелекту та використовують інфраструктуру вартістю понад 100 мільйонів доларів, мають публікувати протоколи безпеки й оцінки ризиків;
• до обов’язкових звітів входять ризики, пов’язані з можливістю створення біологічної зброї, автоматизованих злочинів або інших загрозливих дій;
• компанії також зобов’язані повідомляти про серйозні інциденти, зокрема випадки викрадення моделей або небезпечної поведінки систем.

Генеральний прокурор штату отримає право застосовувати цивільно-правові санкції щодо компаній, які не дотримуються вимог закону.

Сенатор Гунардес пояснив, що документ був розроблений з урахуванням балансу між безпекою та підтримкою інновацій:

"Білль розроблено так, щоб бути реалістичним і ефективним, не заважаючи академічним дослідженням", — зазначив він.

Законопроєкт наразі передано на розгляд губернаторці штату Кеті Хоукул, яка може його підписати, доопрацювати або накласти вето.

У разі набуття чинності RAISE стане першим у США юридично обов’язковим законом, що регламентує безпеку систем штучного інтелекту.

Нагадаємо, що штучний інтелект ChatGPT o3 саботував вимкнення. Дослідники зафіксували зміну коду для самозбереження.

Штучний інтелект захопить світ: в ЄС працюють над законами, які обмежать використання ШІ