У сучасних виборчих кампаніях спостерігається небезпечна тенденція використання чат-ботів на основі штучного інтелекту як персональних порадників для прийняття рішень під час голосування. Наскільки ШІ допомагає у питаннях про політику, зʼясували фактчекери Demagog.

Розвиток ШІ інструментів має серед ефектів їх використання, щоб швидко розібратися у складних суспільно-політичних питаннях. Застосування таких алгоритмів несе суттєві ризики: прийняття на віру ШІ-галюцинацій, відсутність надійних джерел, політичні упередження та потенційну вразливість до зовнішніх маніпуляцій. Головною метою таких дезінформаційних викликів є дезорієнтація суспільства, викривлення виборчого процесу та формування хибних політичних уподобань. 

Дослідники встановили, що найпоширенішою формою викривлення, які надають ШІ-чатботи, є фактологічні помилки алгоритмів. Згідно з опитуваннями та тестами, чат-боти регулярно видають неправдиві дані: похибки у датах виборів сягали понад два місяці, вигадували фінансові скандали навколо реальних політиків, плуталися виборчі округи та навіть вигадували неіснуючі кандидати. При цьому майже 47% відповідей взагалі не містили посилань на першоджерела, або ж надавали непрацюючі та сумнівні веб-адреси.

Окрім технічних збоїв, фахівці є проблема політичного упередження. Близько 25% відповідей чат-ботів частіше схилялися до лівого спектра, тоді як окремі боти демонстрували праву упередженість.

Також є проблема «отруєння» даних. Наприклад кремлівся мережа з близько 180 прокремлівських ресурсів згодовує штучному інтелекту дезінформацію для подальшого впливу на виборців.

У соціальній мережі X опублікували маніпулятивний допис із фейковим фотознімком, на якому Президентка Європейської комісії Урсула фон дер Ляєн нібито зображена разом із засудженим за секс-торгівлю Джеффрі Епштейном. Автор публікації супроводив світлину вигаданими номерами судових справ та звинуваченнями на адресу європейських лідерів у «сатанізмі» та причетності до торгівлі дітьми. Фейк викрили розповіли Lead Stories.

Головною метою цієї дезінформаційної атаки є підрив авторитету вищого керівництва Європейського Союзу, дискредитація західних інституцій та поширення конспірологічних теорій серед міжнародної аудиторії.

Аналітики завантажили поширену світлину до інструменту перевірки OpenAI Verify. Дослідження виявило у структурі файлу цифровий водяний знак SynthID, що зі 100% точністю підтверджує факт генерації фотографії за допомогою алгоритмів штучного інтелекту OpenAI.

Додаткова перевірка за офіційними архівами Міністерства юстиції США встановила, що вказані на фото номери документів і судових справ повністю відсутні в реальних матеріалах «справи Епштейна».

У другій половині серпня російська пропаганда зосереджувалась на чотирьох ключових темах, розповіли фактчекери проєкту БезБрехні.

Цими темами були: дезінформація про мобілізацію до Сил оборони України, санкції проти творців роійського мультсеріалу «Маша та Ведмідь», а також твердження про зовнішнє управління Україною. Метою зусиль пропагандистів, пишуть  БезБрехні, було формування уявлення про Україну як про «невдалу державу», що втратила суспільну єдність, суверенітет та веде «внутрішню війну» проти власного населення. 

Такі висновки фактчекери зробили на базі 4 077 повідомлень із понад 2,2 тисячі джерел, серед яких 71% опублікували у телеграмі. 

Ключовими маніпулятивними прийомами стала підміна масштабу та манупуляції контекстом. Наприклад, щодо мобілізації пропагандисти збирали поодинокі побутові конфлікти, відео протистоянь без початку й кінця та узагальнювали їх до рівня «масового повстання та громадянської війни». Представників ТЦК тарували «людоловами», а приватні радикальні коментарі в соцмережах подавали як «офіційну позицію держави про репресії».

У наймасштабнішому за обсягом сюжеті про мультсеріал «Маша та Ведмідь» (понад 54% усіх матеріалів) маніпуляція полягала в підміні предмета: персональні економічні санкції РНБО проти п'яти фізичних та чотирьох юридичних осіб-виробників пропагандистського контенту росіяни подали як «законодавчу заборону перегляду для дітей». Головний пік поширення цієї фейкової хвилі припав на 21 серпня, коли було зафіксовано понад 1,5 тисячі публікацій.