Разработчики Claude призвали замедлить развитие искусственного интеллекта

Компания Anthropic, создавшая ИИ модель Claude, призвала индустрию искусственного интеллекта замедлить темпы развития. По словам разработчиков, человечество должно успеть адаптироваться к рискам, прежде чем ИИ выйдет из-под контроля.

Позиция Anthropic

В компании отмечают, что современные модели, в частности, Claude, уже способны писать более 80% кода самой Anthropic. В будущем это может привести к рекурсивному самосовершенствованию — когда ИИ будет самостоятельно создавать следующие, более мощные версии себя.

Без четких международных правил, конкуренция между компаниями и государствами, по словам Anthropic, заставит откладывать вопросы безопасности на второй план.

Контекст

Это не первый призыв к замедлению развития ИИ. Подобные заявления ранее делали и другие лидеры отрасли, в том числе представители OpenAI и DeepMind. Однако Anthropic подчеркивает, что риски становятся все более реальными из-за быстроты прогресса.

Читайте также

В США впервые подали иск против OpenAI из-за рисков ChatGPT для несовершеннолетних