Росія, Китай, Іран та Ізраїль використовували технології OpenAI для маніпуляції громадською думкою та формування політичних результатів. Компанія заявила, що за останні три місяці зупинила п’ять таких операцій, йдеться в блозі.

  • OpenAI опублікувала звіт, у якому детально розповіла, як мережі впливу з цих країн намагалися використовувати ШІ-продукцію компанії для маніпуляцій.
  • Штучний інтелект допомагав генерувати текст, світлини та меми, писати код, щоб систематизувати роботу, створювати видимість залученості в соцмережах.
  • Згенерований контент стосувався різних тем, зокрема повномасштабного вторгнення росії в Україну, ізраїльсько-палестинського конфлікту, виборів в Індії, політики в ЄС та США. Проте, як стверджує OpenAI, ШІ не допоміг їм охопити широку аудиторію.

Як штучний інтелект використовувала рф

OpenAI описали дві операції, які вели росіяни. Перша і нова — це Bad Grammar. Вони працювали переважно в Telegram та були націлені на Україну, Молдову, країни Балтії та Сполучені Штати. 

Злочинці за допомогою ШІ налагодили код для запуску бота в Telegram і створення коротких політичних коментарів російською та англійською мовами.

Приклад знайденого згенерованого коментаря. Скрин зі звіту OpenAI

Друга операція мала назву Doppelganger. Вони використовували ШІ для створення коментарів англійською, французькою, німецькою, італійською та польською мовами, які публікувалися в X та 9GAG. 

Тейлор Свіфт, Бейонсе та Опра: росія використовує фальшиві цитати світових зірок для поширення антиукраїнської пропаганди — Wired

Чому це важливо

Звіт з’явився на тлі занепокоєння людей щодо того, як штучний інтелект може впливати на майбутні вибори. В OpenAI кажуть, що співпрацюють з громадськістю та урядом, щоб боротися із використанням ШІ для маніпуляцій і впливу на суспільну думку.

Також компанія показала, як саме вони протидіють таким злочинцям. Наприклад, використовують ШІ-інструменти, як для модерації GPT-4o. Завдяки таким інструментам розслідування зайняло декілька днів, а не місяців — кажуть у компанії. Інколи через захисні механізми ШІ сам відмовляється виконувати завдання, які дають злочинці.

Попри все, OpenAI вдалося знайти не всі такі мережі впливу, сказав головний дослідник групи розвідки та розслідувань компанії Бен Німмо пише Bloomberg. Але команда продовжує пошуки.

OpenAI почала навчання наступної ШІ-моделі та планує вийти на новий рівень на шляху до AGI