Штучний інтелект стрімко змінює способи поширення дезінформації, дозволяючи створювати масштабні та переконливі кампанії впливу з мінімальними затратами ресурсів. Про нові загрози, пов’язані з використанням штучного інтелекту для дезінформації, розповіли у фактчекінговому проєкті Demagog.

Згідно з дослідженням Центру стратегічних комунікацій НАТО (NATO StratCom), сучасні мовні моделі можуть використовуватися на всіх етапах дезінформаційних операцій — від пошуку вразливих аудиторій до оцінки ефективності поширених наративів.

Фактчекери Demagog також пишуть, що традиційні мережі ботів, які масово поширювали однакові повідомлення, поступово втрачають актуальність. Натомість штучний інтелект дає змогу створювати акаунти, які поводяться як реальні користувачі, генерують унікальний контент і підтримують правдоподібні дискусії. Це значно ускладнює виявлення скоординованих кампаній впливу.

Однією з головних тем дослідження стало використання комерційно доступних мовних моделей для створення дезінформації. Попри обмеження, запроваджені розробниками, дослідники НАТО змогли змусити різні системи генерувати оманливі повідомлення і токсичний контент. Аналіз показав, що жодна з перевірених моделей не є повністю захищеною від такого використання.

Demagog також звертає увагу на те, що штучний інтелект може допомагати не лише у створенні фейкових повідомлень, а й у формуванні цілих мереж вигаданих персонажів. Такі акаунти можуть виконувати різні ролі: виступати «експертами», підсилювати емоційні реакції аудиторії, пропонувати прості відповіді на складні питання або імітувати критиків, які зрештою підтримують потрібний наратив. Реалістичні фотографії для таких профілів також можуть генеруватися за допомогою сучасних інструментів штучного інтелекту.

Для демонстрації потенційних ризиків експерти НАТО провели експериментальну кампанію. Штучний інтелект допоміг визначити спільноту користувачів, які були найбільш вразливими до маніпуляцій, створити відповідні фальшиві акаунти та поширити неправдиві повідомлення про здоров’я. Упродовж тижня ці матеріали охопили десятки тисяч користувачів і були підхоплені сотнями реальних людей, що продемонструвало ефективність нових інструментів впливу.

Автори дослідження НАТО критикують нинішні підходи до боротьби з дезінформацією. На їхню думку, зосередження виключно на спростуванні окремих фейків уже не відповідає масштабам загрози. Натомість необхідно виявляти цілі мережі взаємопов’язаних акаунтів, зміцнювати довіру до інституцій та підвищувати стійкість суспільства до інформаційних маніпуляцій.

У Demagog пишуть, що розвиток штучного інтелекту відкриває нові можливості не лише для корисних технологій, а й для організації складних дезінформаційних кампаній. Саме тому державні установи, науковці, технологічні компанії та громадяни мають спільно працювати над виявленням і протидією новим формам інформаційних загроз.