OpenAI може сповільнити розробку найпотужніших моделей ШІ

OpenAI розглядає можливість обережніше розвивати найбільш потужні моделі штучного інтелекту на тлі зростання ризиків, пов’язаних із безпекою автономних систем. Компанія не йдеться про припинення роботи над ChatGPT чи відмову від створення нових продуктів, а про потенційне коригування темпів розвитку frontier-моделей.

Про це генеральний директор OpenAI Сем Альтман, за даними Bloomberg, говорив під час загальної зустрічі зі співробітниками компанії.

OpenAI може змінити підхід до розвитку frontier-моделей

Ймовірні зміни стосуються передусім систем штучного інтелекту, які належать до найпотужнішого класу моделей. Вони отримують дедалі ширші можливості у програмуванні, автономному виконанні завдань та інших складних сферах.

За інформацією джерел Bloomberg, Альтман припустив, що OpenAI може свідомо зменшити темп розробки таких систем, якщо це буде необхідно для належного контролю за ризиками.

Водночас керівник компанії хотів би, щоб аналогічний підхід застосовували й інші великі розробники. Альтман, як повідомляє видання, визнає, що досягти спільної домовленості між усіма конкурентами буде складно.

OpenAI при цьому не оголошувала про загальне уповільнення роботи над своїми моделями. Також компанія не повідомляла про перенесення конкретних продуктів через можливу зміну підходу до темпів розробки.

Представники OpenAI відмовилися коментувати Bloomberg деталі внутрішньої зустрічі.

Чому питання безпеки стало важливішим

Дискусія про контроль над найпотужнішими системами ШІ посилилася у міру того, як моделі почали отримувати більше можливостей для автономної роботи. Серед головних побоювань дослідників та представників індустрії – ситуація, за якої функціональність ШІ-агентів розвиватиметься швидше, ніж інструменти контролю та безпеки.

OpenAI вже формалізувала частину таких підходів у Frontier Governance Framework. Документ визначає процедури оцінювання та зниження ризиків, які можуть бути пов’язані з кіберопераціями, хімічними, біологічними, радіологічними та ядерними загрозами.

Окремо компанія розглядає ризики шкідливих маніпуляцій та потенційної втрати контролю над високорівневими системами штучного інтелекту.

Передбачені правила охоплюють оцінювання моделей, управління ризиками, реагування на інциденти та залучення зовнішніх експертів. OpenAI також зазначає, що система безпеки має переглядатися разом із подальшим зростанням можливостей ШІ.

Інциденти з автономними агентами привертають увагу законодавців

Додатковий імпульс дискусії надали випадки, пов’язані з роботою автономних ШІ-агентів за межами звичних контрольованих середовищ. Одним із таких випадків стала ситуація навколо платформи Hugging Face, після якої до OpenAI звернулися американські законодавці.

За даними Associated Press, сенатори від обох провідних політичних партій США вимагали від компанії надати детальнішу інформацію про інцидент, а також про механізми, які мають запобігати небезпечній або неконтрольованій поведінці ШІ-систем.

В OpenAI заявили, що розслідували ситуацію та працюють над додатковими заходами безпеки. Такі інциденти привертають дедалі більше уваги через розширення можливостей сучасних моделей.

ШІ-системи вже використовуються не лише для створення текстів, зображень чи програмного коду. Вони також можуть взаємодіяти із зовнішніми інструментами та самостійно виконувати послідовності завдань, що підвищує вимоги до механізмів контролю.

Конкуренція ускладнює можливе уповільнення

Для OpenAI потенційне зниження темпів розвитку найпотужніших моделей пов’язане також із конкурентним середовищем. Компанія одночасно змагається у сфері передових систем штучного інтелекту з Anthropic, Google DeepMind, Meta та іншими розробниками.

Якщо одна компанія самостійно скоротить темпи досліджень, тоді як конкуренти продовжать працювати у звичному режимі, це може вплинути на її технологічні позиції.

Тому ініціативу Альтмана можна розглядати передусім у контексті пошуку підходу до спільного контролю за розвитком найпотужніших систем ШІ. Йдеться не про повну зупинку технологічного прогресу, а про можливе обережніше просування у напрямі наступного покоління frontier-моделей.

Водночас розвиток уже наявних продуктів може продовжуватися. Оновлення ChatGPT, вдосконалення його функцій, покращення інтерфейсу та оптимізація чинних моделей не обов’язково залежатимуть від темпів створення нових систем найвищого рівня.