📣 OpenAI остановила злоупотребления моделями ИИ

  За последние три месяца OpenAI пресекла пять информационных операций (IO), в которых неизвестные пользователи применяли продукты компании для неправомерной деятельности (фейки, политические манипуляции и т.д.). В основном они создавали короткие комментарии, статьи на различных языках, переводы текстов и многое другое.

  Одна из пресеченных операций — "Плохая грамматика" (условное название OpenAI) была организована россиянами и нацелена на украинских, молдавских и балтийских пользователей мессенджера Telegram. Они использовали искусственный интеллект для отладки ботов и генерацию политических комментариев на разных языках.

  Вторая операция под названием "Двойник", тоже зародившаяся в россии, была направлена создание комментариев на английском, французском, немецком и других европейских языках, которые публиковались в социальной сети X. Кроме того, в рамках этой операции создавались отдельные статьи, заголовки и целые посты в Facebook.

Остальные три IO оказались связаны с Китаем, Ираном и Израилем с целью исследования общественной активности и генерацию статей на разных языках для продвижения определенных повесток. Публикации размещались на множестве сервисов, включая Instagram, Facebook, Medium, X и другие популярные социальные платформы.

  Среди всех операций можно выделить основные темы текстов: вторжение россии в Украину, военные действия в секторе Газы, индийские и американские выборы, политические решения в Европе и США, а также критика коммунистического правительства Китая. По данным OpenAI, использование ИИ не привело к значительному увеличению охвата аудитории.

   Все участники операций комбинировали различные способы применения искусственного интеллекта, как например генерацию комментариев к собственным публикациям. Расследование OpenAI также проводилось с использованием ИИ, а подробные результаты компания опубликовала, чтобы поделиться опытом с сообществом и другими технологическими компаниями.