Farmy trolli na TikToku wykorzystują sztuczną inteligencję do tworzenia dezinformacji politycznej

Jedną z kluczowych narracji jest twierdzenie, że NATO wysłało swoje wojska na Ukrainę, co #FakeHunter wielokrotnie prostował. Równie nieprawdziwy był filmik, jakoby rosyjskie wojsko schwytało na Ukrainie legion francuskich żołnierzy. #FakeHunter analizował fake newsy o tym, że Francja wysyła swoich żołnierzy na Ukrainę. Jak podaje NewsGuard, wszystkie zidentyfikowane konta opublikowały ponad 9 tys. filmów od marca 2023 roku do czerwca 2024 roku, przy czym zdecydowana większość profili została założona w 2024 roku. Filmiki wyświetlono 380 milionów razy. Średnio każde konto podawało co najmniej jeden film dziennie, a niektóre nawet cztery.

Bello Bello zamiast Bellows

NewsGuard zidentyfikował skrypty wykorzystywane do czytania treści. I chociaż korzystają z różnych głosów stworzonych przez AI, to głosy się powtarzają. Wg. autorów raportu to sugeruje współpracę wielu kont. We wrześniu 2023 roku NewsGuard stwierdził, że analizowane wtedy konta używały narzędzie firmy ElevenLabs więc zapytał rzecznika firmy czy do produkcji fałszywych filmów o celebrytach wykorzystano oprogramowanie ElevenLabs. Rzecznik firmy wskazał usługę, którą jego firma oferuje na swojej stronie internetowej. Analityk NewsGuard wprowadził ścieżkę audio do tego narzędzia. Okazało się, że na 98% audio zostało wygenerowane za pomocą ElevenLabs. Narzędzie używane przez farmę treści rok później nie jest idealne. W filmiku opowiadającym o zaaresztowaniu byłego prezydenta USA Donalda Trumpa po tym, jak zaatakował sekretarz stanu Maine w jej rezydencji, sztuczna inteligencja miała problem z prawidłowym wymówieniem nazwiska Shenny Bellows. W efekcie została Shanną Bello Bello. Oczywiście cała historia jest fake newsem. Kolejny fałszywy filmik dotyczył rzekomej ciąży MarjorieTaylor Greene, członka Kongresu z partii Republikanów. Greene jest kontrowersyjnym, ultraprawicowym politykiem. Autorzy filmiku twierdzą, że zaszła w ciążę z Donaldem Trumpem. I zrobili błąd w jej nazwisku, zamieniając Greene na Green.

Efekt kaczki i "frexit"

Wg jednego z analizowanych przez NewsGuard kont za zamachem terrorystycznym w marcu 2024 w hali koncertowej Krokus w Krasnogrosku pod Moskwą stoją Stany Zjednoczone oraz Ukraina (wspierana przez USA). A dokładniej firma Burisma Holdings z Ukrainy, w której kiedyś pracował syn obecnego prezydenta Hunter Biden. Także i w tym przypadku narzędzie do zamiany tekstu w dźwięk nie potrafiło poprawnie wymówić niektórych słów. W efekcie zamiast „zamach/atak” pojawia się „quack”, czyli dźwięk wydawany przez kaczki (kwakanie). Warto dodać, że po ataku agencja Amaq należąca do Państwa Islamskiego wydała komunikat, zgodnie z którym odpowiedzialność za zamach wzięło na siebie ISIS. Innym fake newswem było twierdzenie, że Francja zamierza wyjść z Unii Europejskiej i to szybko, mimo że żadna z francuskich partii, włącznie z prawicowym Zjednoczeniem Narodowym, nie opowiada się za „frexitem”. Po francuskich wyborach do Parlamentu Europejskiego 9 czerwca 2024 roku jedno z kont twierdziło, że były sfałszowane. Profil ten stale promuje prokremlowską narrację.

Wystarczy jedno kliknięcie

Wszystkie analizowane konta, podobnie jak zidentyfikowane w 2023 roku przez NewsGuard profile, przypominały największe serwisy informacyjne czy programy telewizyjne. Osiemnaście z nich kwalifikowało się do "Funduszu twórców" TikTok. Polega na tym, że portal płaci twórcom, jeśli dane konto jest obserwowane przez przynajmniej 10 tys. osób i ma ponad 100 tys. autentycznych wyświetleń w ciągu danego miesiąca. TikTok płaci od 0,02 do 0,04 USD za każde tysiąc wyświetleń Jak napisał NewsGuard we wrześniu 2023 r. TikTok wprowadził funkcję umożliwiającą użytkownikom oznaczanie filmików wykorzystujących AI. Żadne z analizowanych kont nie podawało informacji, że treści są wygenerowane przez sztuczną inteligencję.  NewsGuard nie był w stanie określić źródła tych kont, zwłaszcza że nie zawierały jakichkolwiek identyfikujących informacji. Większość z nich została już usunięta. Do 8 lipca 2024 r. 14 z 41 kont zidentyfikowanych przez NewsGuard zostało usuniętych, a po skontaktowaniu się z TikTokiem, wyłączono kolejnych osiem. Do 10 lipca 2024 roku 19 nadal było aktywnych. W wywiadzie z NewsGuard w 2023 roku Hafiz Malik, profesor informatyki na Uniwersytecie w Michinga, powiedział, że pojawienie się technologii zamiany tekstu na mowę znacząco ułatwiło rozpowszechnianie dezinformacji i tworzenie deepfake’ów na takich platformach jak TikTok. „Wcześniej trzeba było nagrać, a następnie odtworzyć czyjś dźwięk. Ale teraz wystarczy jedno kliknięcie myszką" – dodał.

16.07.2024

Ostatni dostęp do linków: 16.07.2024