Россия ведет информационную войну нового поколения через ИИ — ЦПД

С начала 2024 года Россия активно внедряет новую тактику в информационной войне — так называемое LLM Grooming. Для этого используется искусственный интеллект.

Об этом заявил глава ЦПД СНБО и военно-политический обозреватель Александр Коваленко в Telegram.

Как Кремль отравляет искусственный интеллект фейками

По его словам, речь идет о целенаправленном отравлении искусственного интеллекта через инъекцию фейковой информации в открытые источники, которые используют большие языковые модели —такие как ChatGPT, Gemini, Claude и Grok — для обучения или поиска фактов.

Россия существенно отстает от стран НАТО в развитии ИИ для информационных операций, говорит Коваленко. Впрочем, вместо того, чтобы догонять Запад технологически, она выбирает другой путь — влияние на саму среду, в которой обучаются эти модели.

Тактика заключается в создании масштабной сети сайтов, которые публикуют псевдоаналитические материалы, фейковые новости и вымышленные комментарии "экспертов", продвигающих прокремлевские месседжи. Одна из таких сетей — Pravda — уже разоблачена, однако подобных платформ значительно больше. Координация осуществляется из одного центра — в частности через российские и связанные с РФ ИТ-компании, включая те, что действуют в Крыму.

В отличие от прямых атак, LLM Grooming не взламывает ИИ напрямую, а влияет опосредованно. Искусственный интеллект анализирует миллионы источников, и если значительная их часть содержит намеренную дезинформацию, модели начинают ее повторять в ответах, которые видят миллионы пользователей.

"Это чрезвычайно опасная тенденция. Информация выглядит достоверно, не вызывает подозрений, и это делает ее особенно эффективным оружием. Без шума, ботов и гибридных армий — только из-за искажения среды, в которой существует ИИ", — подчеркивает Коваленко.

Эксперт также отмечает, что Запад пока реагирует крайне медленно. И в Европе, и в США блокировка сетей дезинформационных ресурсов не происходит в должном темпе.

Поэтому, предостерегает Коваленко, вместе с развитием искусственного интеллекта мир может получить еще одну масштабную проблему — искаженную картину реальности, навязанную самим алгоритмам.

Напомним, в Москве полиция избила юношу, который вышел с плакатом "Нет войне".

Также в российской столице назначили штраф волонтеру, который прыгнул с моста с плакатом против диктатора Владимира Путина.