Тактики Штучний інтелект і мова ненависті: побожний мусульманин генерує фейки про мусульман, заробляє і збагачує розробників ШІ
Після початку війни між США та Іраном у соцмережах почало стрімко поширюватися відео, створене за допомогою штучного інтелекту, на якому прем’єр-міністр Великої Британії Кір Стармер нібито виступає в мусульманському одязі та виголошує расистські й провокаційні заяви. Ролик набрав сотні тисяч переглядів у Facebook та Instagram і став черговим прикладом того, як штучний інтелект використовують для поширення ісламофобії та дезінформації. Про дезінформаційну тактику розповіли у The Bureau Of Investigative Journalism.
Журналісти з’ясували, що за створенням і поширенням такого контенту стоїть побожний мусульманин із Пакистану, який веде кілька сторінок у соцмережах. Частина його акаунтів присвячена релігійному контенту — цитатам із Корану та ісламським настановам, однак паралельно він адміністрував сторінки, де масово поширювали антимусульманські фейки та ксенофобські матеріали для британської аудиторії.
Один із його Facebook-акаунтів під назвою Britain Today мав майже 200 тисяч підписників, а контент із нього збирав мільйони переглядів. Сам автор визнав, що заробляв на таких публікаціях близько 1500 доларів щомісяця завдяки монетизації Meta. Після звернення журналістів компанія Meta видалила ці сторінки через порушення правил щодо мови ненависті та дезінформації.
Чоловік розповів, що створював контент за допомогою інструментів штучного інтелекту, зокрема Grok, Gemini, CapCut та ChatGPT. За його словами, він часто просто копіював відео протестів чи інших подій із TikTok або X, а потім додавав до них згенеровані ШІ підписи, озвучення та провокативні зображення.
Журналісти наголошують, що сучасні інструменти штучного інтелекту суттєво спростили виробництво маніпулятивного контенту. Тепер авторам навіть не потрібно добре знати англійську мову чи розуміти зміст повідомлень — достатньо ввести короткий запит у програму, яка автоматично створить відео, озвучення та обкладинку.
Багато публікацій Britain Today просували типові ультраправі конспірологічні наративи — зокрема теорію «великого заміщення», згідно з якою біле населення Європи нібито навмисно «замінюють» мігрантами. На сторінках також закликали депортувати мусульман із Великої Британії та називали публічні мусульманські молитви «завоюванням Заходу».
Окремою мішенню став мер Лондона Садік Хан, якого регулярно згадували у фейкових роликах. У деяких випадках автори брали справжні відео за участю політика, але додавали до них образливі та маніпулятивні підписи. Наприклад, кадри з громадського іфтару на Трафальгарській площі подавали як нібито «колонізацію Британії мусульманами».
Сам автор сторінок сказав, що нібито не усвідомлював змісту багатьох публікацій через погане знання англійської мови та пообіцяв видалити частину матеріалів. Водночас журналісти зауважують, що навіть після цього частина образливих роликів ще тривалий час залишалася доступною в Instagram.
Розслідування також показало, що подібна діяльність уже перетворилася на окремий бізнес. Автор із Пакистану розповів, що навчає інших користувачів заробляти на монетизації Facebook, а інструкції щодо створення «вірусного» контенту масово поширюються через YouTube та онлайн-курси.