Analizy
-
Kiedy dane przepuszczone przez model językowy stają się dezinformacją – najnowsze badania odpowiadają na kluczowe pytania. Są jednak i niewiadome
Generatywna sztuczna inteligencja (GenAI) użyta jako narzędzie dezinformacji może zaburzyć konsensus społeczny wokół najważniejszych kwestii politycznych takich jak np. bezpieczeństwo państwa, podważyć zdolność rządów do reagowania na potrzeby obywateli, pogłębiać podziały społeczne, demobilizować oraz oszukiwać wyborców i podważać zaufanie do procesów wyborczych. Takie wnioski płyną z najnowszego badania wpływu GenAI na sferę informacyjną, przeprowadzonego przez analityczkę danych, Valerie Wirtschaftler.
-
Można wykryć przestępcę, stracić majątek, pomóc w śledztwie lub dać się zmanipulować – AI jest narzędziem jak każde inne
Z jednej strony sztuczna inteligencja pomogła namierzyć poszukiwaną od trzech dekad byłą terrorystkę Frakcji Czerwonej Armii (RAF), z drugiej przy pomocy AI przestępcy w Hongkongu wyłudzili 25 milionów od jednego z pracowników koncernu. Mężczyzna przelał pieniądze na konto przestępców wierząc, iż polecenie przeprowadzenia transakcji wydali mu przełożeni, a przypadek ten ukazał jak łatwo można ograć zmysły i czujność człowieka. W Hongkongu oszuści posłużyli się wygenerowanymi przy pomocy AI wirtualnymi postaciami, w innych przypadkach do zmanipulowania ofiary wystarczy odtworzony głos bliskiej osoby puszczony przez telefon czy wiadomość tekstowa wygenerowana przez chatboota.
-
Analitycy: rosyjska dezinformacja oraz manipulacje z udziałem AI zagrożeniem europejskich wyborów
Rosyjska propaganda i dezinformacja mogą odegrać znaczącą rolę w nadchodzących wyborach do Parlamentu Europejskiego osłabiając poparcie społeczne dla polityki UE i polityk krajowych. Zwłaszcza że Kreml targetuje poszczególne kraje Unii i chociaż tematy dezinformacji są wspólne, to dostosowane do warunków poszczególnych państw. Europejskie Obserwatorium Mediów Cyfrowych (EDMO) uważa, że zagrożenie stwarzane przez generatywną sztuczną inteligencję (GenAI) dla demokracji oraz integralności wyborów nie jest hipotetyczne. Najnowsze badania cytowane w raporcie „Generatywna sztuczna inteligencja i dezinformacja: Ostatnie postępy, wyzwania i możliwości” pokazują, że treści generowane przez AI współistnieją z bardziej tradycyjnymi rodzajami dezinformacji.
-
Wojna psychologiczna, szpiegostwo i zastraszanie. Tak cyberprzestępcy powiązani z Rosją dezinformowali i próbowali wykradać dane
Grupa cyberprzestępców powiązanych z Rosją prowadziła operację psychologiczną, której celem było zdemoralizowanie obywateli Ukrainy, także tych, żyjących poza swoim krajem – wynika ze śledztwa WeLiveSecurity, grupy doświadczonych badaczy cyberprzestępczości. Zdaniem autorów opracowania od początku wojny na Ukrainie grupy powiązane z Rosją zwiększyły liczbę operacji cyberszpiegowskich i dezinformacyjnych oraz rozpoczęły wojnę psychologiczną (PSYOP). Ta ostatnia była prowadzona pod kryptonimem „operacja Texonto”.
-
„Nie można wygrać bitwy bez dogłębnego zrozumienia pola bitwy". Siła sztucznej inteligencji i rola niszowych portali w szerzeniu manipulacji
Zdaniem Neila Johnsona, amerykańskiego profesora fizyki na uniwersytecie George’a Washingtona „ekstremistyczne grupy, które publikują dużo mowy nienawiści, mają tendencję do tworzenia jej na mniejszych platformach, którym brakuje zasobów do moderowania treści”. Jego zdaniem to niszowe platformy są źródłem przenikania złośliwych treści do mainstreamowych mediów społecznościowych, czyli np. YouTube, Facebook czy X. Naukowiec jest jednym z autorów raportu, w którym zmapowano nie tylko największe platformy internetowe, ale również niszowe.
-
Społeczeństwo musi pogodzić się z faktem, że mediami cyfrowymi można dowolnie manipulować
Manipulacja niekoniecznie musi się wiązać z wykorzystaniem technik sztucznej inteligencji. Proste manipulacje, takie jak spowolnienie wideo - jak to było w przypadku Nancy Pelosi w 2020 r. lub zwykła zmiana podpisu pod zdjęciem czy nagraniem, wystarczą, do rozpowszechniania fałszywego przekazu. Ważne jest, aby zdać sobie sprawę, że treści mogą być też tworzone przez zautomatyzowane systemy – boty, a ich wykrywanie, a zatem także ściganie w przypadku przestępstwa, wcale nie jest oczywiste – mówi Prof. Justus Thies, kierownik grupy badawczej "Neural Capture and Synthesis" w Max Planck Institute for Intelligent Systems (MPI-IS)
-
Antyukraińska narracja pod lupą niemieckiego resortu dyplomacji: dziesiątki tysięcy kont i miliony wpisów na Portalu X
Jak wynika z poufnej analizy Federalnego Ministerstwa Spraw Zagranicznych Niemiec, do której fragmentów dotarł tygodnik „Der Spiegel”, Rosja zintensyfikowała swoje wysiłki w rozpowszechnianiu antyukraińskiej propagandy w języku niemieckim na portalu X (dawniej: Twitter). Od 20 grudnia 2023 do 20 stycznia b.r. eksperci niemieckiego MSZ-u za pomocą specjalnego oprogramowania monitorowali pod kątem rosyjskiej propagandy treść xeetów. Wyniki nie pozostawiają złudzeń: rosyjska narracja szczególnie sobie upodobała temat pomocy Ukrainie, a zwłaszcza aspekt mówiący o tym, że „rząd Olafa Scholza pomaga Ukrainie kosztem społeczeństwa niemieckiego”.
-
Telefon od Prezydenta Bidena? Raczej nie. W Super Roku Wyborczym(nie tylko) Amerykanie muszą się przygotować na deepfake’owe zasadzki
W 2024 roku do wyborów w ponad 60 państwach świata pójdzie ok.4,2 miliarda ludzi. Amerykanie w listopadzie wybiorą nowego prezydenta, w Indonezji wybory parlamentarne i prezydenckie zaplanowano na luty, w Indiach na przełomie kwietnia i maja zostanie wybrany nowy parlament, do urn ruszy też większość Europejczyków. Eksperci alarmują: Super Rok Wyborczy będzie nie tylko rekordowy pod względem liczby wyborów, ale i towarzyszącej im dezinformacji, w tym tej wygenerowanej za pomocą sztucznej inteligencji(AI). Ostatnio próbkę możliwości AI w tworzeniu deep fake’ów dostali Amerykanie, do których zadzwonił Joe Biden z radą by „nie głosowali”.
-
Powyborcze spojrzenie na tajwańskie modele walki z manipulacją w przestrzeni informacyjnej
Już na kilka miesięcy przed wyborami prezydenckimi i parlamentarnymi na Tajwanie, Chiny Ludowe zintensyfikowały ofensywę dezinformacyjną wobec wyspy. Narrację ChRL wymierzono głównie w bezpieczeństwo, stabilność gospodarczą i relacje tajwańsko-amerykańskie, ale celem ataków stała się też ustępująca prezydent Tsai Ing-wen, przewodniczący Demokratycznej Partii Postępowej (DPP) William Lai i jego zastępczyni Hsiao Bi-khim. 13 stycznia Lai wygrał wybory prezydenckie, Hsiao Bi-khim będzie wiceprezydentem a zwycięstwo DPP gwarantuje dalszy suwerenny i asertywny kurs Tajwanu względem ChRL.
-
Raport Światowego Forum Ekonomicznego: dezinformacja jednym z największych zagrożeń tej dekady
Dezinformacja i fake newsy to w perspektywie najbliższych dwóch lat najważniejsze zagrożenia – wynika z globalnego raportu Światowego Forum Ekonomicznego (WEF) o ryzyku w 2024 roku. Długoterminowo, czyli w ciągu 10 lat, dezinformacja plasuje się na piątym miejscu. Zagrożenia wynikające z dezinformacji to pogłębianie podziałów społecznych i politycznych. Do 2026 roku prawie 3 miliardy ludzi wezmą udział w wyborach, więc rozpowszechnianie dezinformacji może prowadzić do podważania legitymacji nowo wybranych władz – w tym w Polsce, Unii Europejskiej, Wielkiej Brytanii, USA, Meksyku, Indiach czy w Indonezji.