Разработчики Claude призвали замедлить развитие искусственного интеллекта
В компании Anthropic считают, что без международных правил конкуренция поставит безопасность ИИ на второй план.
Компания Anthropic, создавшая ИИ модель Claude, призвала индустрию искусственного интеллекта замедлить темпы развития. По словам разработчиков, человечество должно успеть адаптироваться к рискам, прежде чем ИИ выйдет из-под контроля.
Позиция Anthropic
В компании отмечают, что современные модели, в частности, Claude, уже способны писать более 80% кода самой Anthropic. В будущем это может привести к рекурсивному самосовершенствованию — когда ИИ будет самостоятельно создавать следующие, более мощные версии себя.
Без четких международных правил, конкуренция между компаниями и государствами, по словам Anthropic, заставит откладывать вопросы безопасности на второй план.
Контекст
Это не первый призыв к замедлению развития ИИ. Подобные заявления ранее делали и другие лидеры отрасли, в том числе представители OpenAI и DeepMind. Однако Anthropic подчеркивает, что риски становятся все более реальными из-за быстроты прогресса.
Читайте также