OpenAI заблокировал аккаунты ChatGPT, которые использовались для российской пропаганды и вмешательства в африканские выборы

OpenAI заблокировал ряд аккаунтов ChatGPT, связанных с российской пропагандистской сетью "Рыбар". Аккаунты использовали искусственный интеллект для создания сообщений и планирования информационных кампаний, в частности по вмешательству в выборы в африканских странах.

Об этом говорится в отчете OpenAI.

По данным OpenAI, основной деятельностью аккаунтов было создание контента для публикаций в соцсетях на разных языках — русском, английском и испанском. Часть материалов публиковалась на брендированных аккаунтах "Рыбаря" и на официальном сайте сети. Один из пользователей также генерировал видео с помощью ИИ Sora для продвижения бренда.

Кроме создания публикаций, аккаунты формировали серии комментариев на английском языке, а ChatGPT фактически служил "фермой контента" для информационных операций. Произведенный контент обычно восхвалял Россию и ее союзников, критиковал Украину и обвинял западные страны во вмешательстве во внутренние дела.

По одному из примеров, пользователь сгенерировал семь твитов по одному запросу, шесть из которых были опубликованы разными аккаунтами в X. Самый популярный твит получил более 150 тысяч просмотров, наименее популярный — 57.

Кроме генерации публикаций, главный аккаунт операции использовал ChatGPT для перевода списка услуг для клиентов «Рыбаря», включая ведение аккаунтов в X и Telegram, создание двуязычного сайта «расследовательской журналистики», платные публикации во французских медиа и сеть «усилителей» контента.

Особое внимание было уделено вмешательству в выборы в Африке. Один из запросов касался редактирования предложения для команды, работавшей над выборами в Демократической Республике Конго, Бурунди и Камеруне, а также над кампанией на Мадагаскаре с возможным разжиганием протестов. Ориентировочный годовой бюджет самого амбициозного проекта составлял $600 тысяч.

OpenAI подчеркнул, что блокирование аккаунтов направлено на предотвращение использования его сервиса для пропаганды и вмешательства в избирательные процессы, подчеркивая важность нравственного использования технологий искусственного интеллекта.

Читайте также