Росія веде інформаційну війну нового покоління через ШІ — ЦПД

З початку 2024 року Росія активно впроваджує нову тактику в інформаційній війні — так зване LLM Grooming. Для цього використовується штучний інтелект.

Про це заявив голова ЦПД РНБО та військово-політичний оглядач Олександр Коваленко у Telegram. 

Як Кремль отруює штучний інтелект фейками

За його словами, йдеться про цілеспрямоване отруєння штучного інтелекту через ін’єкцію фейкової інформації у відкриті джерела, які використовують великі мовні моделі — такі як ChatGPT, Gemini, Claude та Grok — для навчання або пошуку фактів.

Росія суттєво відстає від країн НАТО у розвитку ШІ для інформаційних операцій, каже Коваленко. Втім, замість того, щоб наздоганяти Захід технологічно, вона обирає інший шлях — вплив на саме середовище, у якому навчаються ці моделі.

Тактика полягає у створенні масштабної мережі сайтів, які публікують псевдоаналітичні матеріали, фейкові новини та вигадані коментарі "експертів", що просувають прокремлівські меседжі. Одна з таких мереж — Pravda — уже викрита, однак подібних платформ значно більше. Координація здійснюється з одного центру — зокрема через російські та пов’язані з РФ ІТ-компанії, включно з тими, що діють у Криму.

На відміну від прямих атак, LLM Grooming не зламує ШІ напряму, а впливає опосередковано. Штучний інтелект аналізує мільйони джерел, і якщо значна їх частина містить навмисну дезінформацію, моделі починають її повторювати у відповідях, які бачать мільйони користувачів.

"Це надзвичайно небезпечна тенденція. Інформація виглядає достовірно, не викликає підозр, і це робить її особливо ефективною зброєю. Без шуму, ботів і гібридних армій — лише через спотворення середовища, у якому існує ШІ", — підкреслює Коваленко.

Експерт також зауважує, що Захід наразі реагує вкрай повільно. І в Європі, і в США блокування мереж дезінформаційних ресурсів не відбувається в належному темпі. 

Відтак, застерігає Коваленко, разом із розвитком штучного інтелекту світ може отримати ще одну масштабну проблему — викривлену картину реальності, нав’язану самим алгоритмам.

Нагадаємо, у Москві поліція побила юнака, який вийшов з плакатом "Ні війні".

Також в російській столиці призначили штраф волонтеру, який стрибнув з моста з плакатом проти диктатора Володимира Путіна.