Розробники Claude закликали сповільнити розвиток штучного інтелекту

Компанія Anthropic, яка створила ШІ-модель Claude, закликала індустрію штучного інтелекту сповільнити темпи розвитку. За словами розробників, людство має встигнути адаптуватися до ризиків, перш ніж ШІ вийде з-під контролю.

Позиція Anthropic

У компанії зазначають, що сучасні моделі, зокрема Claude, вже здатні писати понад 80% коду самої Anthropic. У майбутньому це може призвести до рекурсивного самовдосконалення — коли ШІ самостійно створюватиме наступні, ще потужніші версії себе.

Без чітких міжнародних правил конкуренція між компаніями та державами, за словами Anthropic, змусить відкладати питання безпеки на другий план.

Контекст

Це не перший заклик до уповільнення розвитку ШІ. Подібні заяви раніше робили й інші лідери галузі, зокрема представники OpenAI та DeepMind. Однак Anthropic підкреслює, що ризики стають дедалі реальнішими через швидкість прогресу.

Читайте також

У США вперше подали позов проти OpenAI через ризики ChatGPT для неповнолітніх