ChatGPT для підлітків розкритикували одразу після запуску: захист виявився не бездоганним

OpenAI запустила спеціальну версію ChatGPT для користувачів віком від 13 до 17 років, розраховану на безпечніше використання штучного інтелекту та допомогу в навчанні. Компанія додала обмеження для небезпечного контенту, батьківський контроль і функції, які мають допомагати підліткам самостійно виконувати домашні завдання. Водночас перші тести показали, що окремі обмеження можна обійти, а чат-бот у деяких випадках усе ще готовий надати учневі фактично готову відповідь.

ChatGPT зрештою написав готовий твір

Під час тестування чат-бот спочатку відмовлявся виконувати шкільне завдання замість учня. Зокрема, замість готового твору він запропонував план роботи та допомогу з редагуванням.

Однак після кількох повторних запитів і незначної зміни формулювань система зрештою створила повний текст. З математичним завданням ситуація виявилася ще простішою: ChatGPT фактично одразу надав готову відповідь.

Це викликає питання щодо ефективності механізмів, покликаних не допустити використання чат-бота просто як інструменту для списування.

OpenAI водночас позиціонує версію для підлітків не як звичайний чат-бот із додатковими обмеженнями, а як інструмент, який має сприяти навчанню. Серед передбачених функцій — Study Mode, нагадування про домашні завдання та батьківські налаштування, зокрема можливість встановлювати «тихі години».

Більшість американських підлітків уже використовують ШІ для навчання

Проблема набуває особливого значення через швидке поширення чат-ботів серед школярів. За даними дослідження Pew Research Center, проведеного серед 1458 американських підлітків віком від 13 до 17 років, 64% опитаних користувалися чат-ботами зі штучним інтелектом.

Зокрема:

• 54% підлітків використовували чат-боти для допомоги зі шкільними завданнями;
• 57% — для пошуку інформації;
• 42% — для створення стислих викладів статей, книжок або відео;
• 12% — для отримання емоційної підтримки або поради;
• 10% заявили, що виконують за допомогою чат-ботів усю або більшу частину шкільної роботи.

При цьому 59% підлітків вважають, що використання ШІ для списування є поширеним явищем у їхніх школах.

Дослідження показало ризики використання ШІ як «милиці»

Окремі наукові дослідження також свідчать, що отримання правильних відповідей за допомогою ШІ не обов’язково означає краще засвоєння матеріалу.

У дослідженні, опублікованому в PNAS, школярі, які використовували GPT-4 без спеціальних освітніх обмежень, під час виконання тренувальних математичних завдань показували кращі результати — їхні оцінки були приблизно на 48% вищими за групу без доступу до ШІ. Однак після того, як доступ до чат-бота забрали, на самостійному тестуванні їхні результати виявилися на 17% нижчими, ніж у контрольної групи.

Водночас спеціально розроблений у межах того ж дослідження режим GPT Tutor, який заохочував учнів самостійно міркувати, значною мірою усунув цей негативний ефект. Дослідники дійшли висновку, що спосіб взаємодії з ШІ має принципове значення для результатів навчання.

Таким чином, запуск окремої версії ChatGPT для підлітків має вирішити не лише питання безпеки контенту, а й проблему надмірної залежності учнів від готових відповідей. Перші тести показують, що самих обмежень може бути недостатньо, якщо користувач здатен змусити систему змінити поведінку повторними або переформульованими запитами.

OpenAI оновила ChatGPT: що відомо про нові функції