ChatGPT використовували для кремлівської пропаганди: OpenAI викрила масштабну мережу

OpenAI виявила та заблокувала групу акаунтів ChatGPT з росії, які використовували для просування псевдоаналітичного інституту з Ізраїлю та поширення кремлівських наративів.

Про це пйдеться у звіті OpenAI. 

Як працювала злочинна мережа? 

Оператори з росії використовували ChatGPT через VPN, даючи промпти російською мовою.

Вони наказували нейромережі генерувати коментарі англійською та німецькою мовами, приховуючи будь-які лінгвістичні сліди російського походження.

Сгенерований контент розміщували в X, LinkedIn, Facebook, Substack та Telegram. Основною метою цих публікацій було просування вебсайту International Burke Institute (IBI).

Крім цього, оператори використовували ШІ для:

• Написання коментарів під постами реальних користувачів Substack із закликом підписуватися на IBI.
• Створення постів німецькою мовою для Telegram-каналу "Lahme Ente" критикою уряду ФРН, ЄС та України.
• Генерації логотипів та профілів для десятків Telegram-каналів, орієнтованих на аудиторію в США, Франції, Польщі та Туреччині.

Ядром операції став сайт IBI, зареєстрований у лютому 2025 року із вказаною адресою в Ізраїлі. На платформі зазначалося, що з ними співпрацюють провідні світові науковці, зокрема, Ноам Хомський та Френсіс Фукуяма.

Проте перевірка виявила масштабну фальсифікацію. 

Яку саме?

Плагіат: 34 із 36 проаналізованих статей були повністю скопійовані з реальних наукових джерел (наприклад, Cambridge University Press, Migration Policy Institute).

Фейкове авторство: роботи приписували стороннім вченим. В одному з випадків статтю про міграцію підписали ім'ям австралійського професора харчової хімії.

Машинний переклад: тексти містили неприродні фрази. Наприклад, німецьку "коаліцію світлофора" в англійському тексті переклали як "Svetofor coalition", що свідчить про використання буквального перекладу з російської.

Головним інструментом просування маніпуляцій став вигаданий "індекс суверенітету". У цих звітах росіяни хвалили автономію рф, водночас жорстко критикували Францію, США, Німеччину та ЄС.

Оцінка впливу кампанії 

За оцінкою OpenAI, безпосереднє охоплення публікацій у соцмережах виявилося низьким. Проте створені Telegram-канали залучили від 10 до 20 тисяч підписників кожен.

За шкалою Brookings Breakout Scale операція отримала категорію 3 (проникання на декілька платформ із поодинокими виходами на реальну аудиторію).

В OpenAI наголосили, що ця операція демонструє новий тренд: використання ШІ не лише для генерації фейків, а й для створення фальшивого авторитету та імітації легітимних аналітичних інституцій.