ChatGPT для подростков раскритиковали сразу после запуска: защита оказалась не безупречной

OpenAI запустила специальную версию ChatGPT для пользователей от 13 до 17 лет, рассчитанную на безопасное использование искусственного интеллекта и помощь в обучении. Компания добавила ограничения для опасного контента, родительский контроль и функции, которые должны помогать подросткам самостоятельно выполнять домашние задания. В то же время, первые тесты показали, что отдельные ограничения можно обойти, а чат-бот в некоторых случаях все еще готов предоставить ученику фактически готовый ответ.

ChatGPT наконец написал готовое произведение

Во время тестирования чат-бот сначала отказывался выполнять школьное задание вместо учащегося. В частности вместо готового произведения он предложил план работы и помощь с редактированием.

Однако после нескольких повторных запросов и незначительного изменения формулировок система в конце концов создала полный текст. С математической задачей ситуация оказалась еще проще: ChatGPT фактически сразу дал готовый ответ.

Это вызывает вопрос эффективности механизмов, призванных не допустить использование чат-бота просто как инструмента для списывания.

OpenAI позиционирует версию для подростков не как обычный чат-бот с дополнительными ограничениями, а как инструмент, который должен способствовать обучению. Среди предусмотренных функций — Study Mode, напоминания о домашних задачах и родительских настройках, в частности возможность устанавливать «тихие часы».

Большинство американских подростков уже используют ИИ для обучения

Проблема приобретает особое значение из-за быстрого распространения чат-ботов среди школьников. По данным исследования Pew Research Center, проведенного среди 1458 американских подростков от 13 до 17 лет, 64% опрошенных пользовались чат-ботами с искусственным интеллектом.

В частности:

• 54% подростков использовали чат-боты для помощи со школьными задачами;
• 57% - для поиска информации;
• 42% - для создания кратких изложений статей, книг или видео;
• 12% - для получения эмоциональной поддержки или совета;
• 10% заявили, что выполняют посредством чат-ботов всю или большую часть школьной работы.

При этом 59% подростков считают, что использование ИИ для списывания является распространенным явлением в их школах.

Исследование показало риски использования ИИ в качестве «костыля»

Отдельные научные исследования также свидетельствуют, что получение правильных ответов с помощью ИИ не обязательно означает лучшее усвоение материала.

В исследовании, опубликованном в PNAS, школьники, использовавшие GPT-4 без специальных образовательных ограничений, при выполнении тренировочных математических задач показывали лучшие результаты — их оценки были примерно на 48% выше группы без доступа к ИИ. Однако после того, как доступ к чат-боту забрали, на самостоятельном тестировании их результаты оказались на 17% ниже, чем у контрольной группы.

В то же время, специально разработанный в рамках того же исследования режим GPT Tutor, который поощрял учащихся самостоятельно рассуждать, в значительной степени устранил этот негативный эффект. Исследователи пришли к выводу, что способ взаимодействия с ИИ имеет принципиальное значение для результатов обучения.

Таким образом, запуск отдельной версии ChatGPT для подростков должен решить не только вопрос безопасности контента, но и проблему чрезмерной зависимости учащихся от готовых ответов. Первые тесты показывают, что самих ограничений может быть недостаточно, если пользователь может заставить систему изменить поведение повторными или переформулированными запросами.