OpenAI готова замедлить разработку мощных моделей ШИ - Bloomberg
Сэм Альтман заявил, что компания может согласиться на координацию темпов разработки передового искусственного интеллекта, если в нее присоединятся другие ведущие лаборатории.
OpenAI рассматривает возможность замедлить разработку мощнейших моделей искусственного интеллекта, если аналогичный шаг одновременно сделают другие ведущие ШИ-лаборатории.
Об этом генеральный директор компании Сэм Альтман говорил с сотрудниками во время общего собрания на этой неделе, сообщает Bloomberg со ссылкой на источники, знакомые с ходом закрытой встречи.
Альтман, по информации источников, отметил, что OpenAI потенциально готова замедлить разработку самых мощных моделей, если аналогичные ограничения согласятся ввести несколько других ведущих лабораторий.
В то же время, руководитель OpenAI признал, что далеко не все конкуренты могут согласиться на такой подход. Bloomberg не сообщает о конкретных переговорах между компаниями, достигнутых договоренностях или определенных сроках возможного замедления.
Поэтому речь идет именно о позиции руководства OpenAI и возможности будущей координации между разработчиками. Компания не объявляла о полном прекращении или приостановлении разработки своих мощнейших моделей.
Идея координации темпов развития передового искусственного интеллекта появилась на фоне предыдущих шагов OpenAI по усилению безопасности своих моделей.
В августе компания уже замедлила часть процессов обучения мощнейшим моделям. Исследователи и вычислительные ресурсы тогда частично перенаправили на работу над безопасностью систем искусственного интеллекта.
OpenAI также выступает за создание согласованных международных правил, позволяющих оценивать возможности и риски передовых моделей ИИ. Компания считает, что такие правила должны предусматривать четкие критерии для определения того момента, когда разработку новых моделей необходимо замедлить или полностью остановить.
Напомним, OpenAI представила GPT-6 Astra – новую модель искусственного интеллекта, ориентированную на автономную работу с браузером, программным кодом и профессиональными приложениями. В компании заявили, что это "самая умная и наиболее согласованная с человеком модель в мире".
Читайте также