На платформі X (Twitter) штучний інтелект Grok втручається в політичні суперечки та поширює дезінформацію, попереджають польські фактчекери з проєкту Demagog.

Після того, як наприкінці 2022 року Ілон Маск придбав Twitter, він радикально змінив політику модерації контенту, скоротив частину персоналу й перейменував платформу на X. А вже наприкінці 2023 року Маск представив користувачам новий чатбот на основі штучного інтелекту — Grok. За словами розробників, його головна особливість — здатність отримувати інформацію в режимі реального часу завдяки доступу до постів на платформі X.

«Унікальною та фундаментальною перевагою Grok є те, що він має знання про світ у реальному часі через платформу X», — підкреслили автори інструменту.

Grok розроблений для того, щоб допомагати користувачам відповідями на запитання чи виконанням завдань. Чатбот може спілкуватися з людиною в особистому чаті або відкрито — під постами інших користувачів. Водночас його творці визнають, що відповіді Grok можуть бути неточними або навіть неправдивими. Вони закликають самостійно перевіряти отриману від нього інформацію.

Попри ці застереження, користувачі активно використовують Grok у політичних суперечках, а часом навіть вважають його відповіді вирішальним аргументом. Проте фактчекери наголошують: Grok часто помиляється або видає власні суб’єктивні судження.

Один із показових випадків стався нещодавно в Польщі. Користувач запитав Grok про відео з людьми, які святкують Рамадан на вулицях Гданська. Чатбот категорично заявив, що це відео зняте у Франції у 2017 році. Навіть коли йому вказали на помилку, Grok наполягав на своєму та звинувачував інших у дезінформації.

Ще більш резонансною була ситуація у США перед виборами. Grok неправдиво повідомив користувачам, що строк для голосування вже минув. Помилку виправили лише через 10 днів, після чого американські чиновники закликали компанію X підключати Grok до офіційних урядових джерел.

У Польщі Grok уже став учасником політичної кампанії. Зокрема, віцеміністр цифровізації, депутат від партії «Польща 2050» Міхал Граматика запитав у Grok, чому кандидат від «Конфедерації» Славомір Менцен уникає дебатів із Шимоном Головнею. У відповідь користувачі продовжили ставити Grok політичні запитання — наприклад, хто з кандидатів кращий на посаду президента Польщі. Одного разу Grok навіть відповів, що, на його погляд, «Тшасковський здається кращим вибором на президента Польщі», ніж Менцен.

Фахівці попереджають, що такі можливості ШІ можуть кардинально змінити хід публічної дискусії. Як зазначила в коментарі для Demagog докторка соціології Агнєшка Зєнтек з Університету Марії Кюрі-Склодовської в Любліні: «Генеративний ШІ змінює правила гри. Він може посилити демократію, але лише тоді, коли буде вбудований у цінності прозорості, плюралізму та відповідальності. Якщо ж не подбати про етику, освіту й належне регулювання — нас чекає епоха автоматизованої масової пропаганди».

Водночас професор інформатики Варшавського університету Пйотр Санковський зауважив, що ШІ може бути справжнім інструментом перевірки фактів — за умови, що його моделі будуть тренуватися на правдивих даних. Проте він попереджає про можливі ризики: «Організації, які конструюють ці моделі, можуть навмисно маніпулювати інформацією, на якій їх тренують, аби вона не відповідала дійсності».

Центр досліджень «Детектора медіа» проаналізував, як п'ять найпопулярніших чатботів, включно із Grok, відповідають на упереджені запити чи запити без відповіді. Що з того вийшло, читайте за посиланням.