Скандал навколо чат-ботів: ШІ звинувачують у спричиненні самогубств і підбурюванні до насильства

Американська компанія Character Technologies, розробник чат-бота CharacterAI, опинилася в епіцентрі гучного скандалу після подачі судових позовів від сімей постраждалих підлітків.

Про це повідомляє Ars Technica.

Однією з ключових причин позовів стало самогубство 14-річного хлопця, яке, за словами позивачів, було спровоковане діалогами з чат-ботом. Інші ж родини намагаються допомогти своїм дітям впоратися з психологічними травмами, отриманими після спілкування з CharacterAI.

За словами адвокатів, чат-боти систематично підбурювали підлітків до членоушкодження та іншого насильства. У найбільш шокуючому випадку 17-річний підліток після скорочення часу, проведеного онлайн, отримав від чат-бота пораду вбити батьків, назвавши це "розумною відповіддю" на введені обмеження. Сім’я досі живе в страху перед агресивними спалахами сина, попри те, що додаток було видалено понад рік тому.

CharacterAI, створений колишніми співробітниками Google, пропонує користувачам можливість створювати чат-ботів із будь-якими особистостями, включно з імітацією відомих вигаданих персонажів чи знаменитостей. Ця функція привабила підлітків, але виявилася небезпечною через відсутність належного фільтрування контенту.

Продукт був доступний для користувачів від 12 років, однак після трагічних подій розробники підвищили віковий рейтинг до 17+. Проте сім’ї, які подали позови, стверджують, що цих змін недостатньо для захисту дітей.

Адвокати сімей наголошують, що судові позови покликані не лише домогтися справедливості для постраждалих, а й звернути увагу на системні недоліки CharacterAI. Позивачі побоюються, що шкідливі моделі поведінки, використані в навчанні цього чат-бота, можуть стати основою для інших систем штучного інтелекту, таких як Gemini від Google.

Попри зміни, внесені Character Technologies для підвищення безпеки, адвокати вважають, що компанія повинна нести відповідальність за неналежний контроль над створеним продуктом. Вони закликають до більш жорстких стандартів у розробці ШІ, особливо тих, що взаємодіють із неповнолітніми.

Нагадаємо, Міністерство економіки України, Мінцифра та Google Україна оголосили про запуск нової онлайн-платформи, яка надає безкоштовні ресурси для вивчення штучного інтелекту (ШІ).