< Back

Prezydent Korei Południowej: fałszywe wiadomości oraz dezinformacja oparte na AI zagrażają systemom demokratycznym

fot. PAP/EPA/KIM MIN-HEE
fot. PAP/EPA/KIM MIN-HEE

W styczniu 2024 r na 90 dni przed wyborami parlamentarnymi Korea Południowa wprowadziła zakaz wykorzystywania deepfake generowanych przez sztuczną inteligencję (AI). Podczas marcowego Szczytu na rzecz Demokracji (18-20.03) Prezydent Yoon Suk Yeol nazwał fałszywe wiadomości i dezinformację opartą na AI zagrożeniem dla demokracji. Podobną opinię wygłosił w Seulu amerykański Sekretarz Stanu Antony Blinken, który przypomniał, że w 2024 roku prawie połowa ludzi na świecie pójdzie do urn i zostanie zalana dezinformacją i kłamstwami, które „duszą poważną debatę obywatelską”.

 

 

Yoon powiedział na Szczycie, że "fałszywe wiadomości oraz dezinformacja oparte na sztucznej inteligencji nie tylko naruszają wolność jednostki i prawa człowieka, ale także zagrażają systemom demokratycznym".

Według Blinkena jest to także zagrożenie dla wolności słowa. Jego zdaniem łatwość dostępu do informacji ma fundamentalne znaczenie w każdym kraju. Ale przestrzeń informacyjna stała się bardziej zatłoczona, złożona, zagmatwana i bardziej kontrowersyjna niż kiedykolwiek. „I to” – mówił Blinken – „tworzy środowisko sprzyjające dezinformacji, w którym podmioty państwowe i niepaństwowe podważają obiektywną prawdę, od której zależą otwarte społeczeństwa”.

Blinken podkreślał, że dezinformacja jest wykorzystywana do podziału społeczeństw poprzez sianie podejrzliwości, cynizmu i niestabilności. Przypomniał też amerykański raport o dezinformacji, w którym ujawniono, że np. chiński rząd zainwestował miliardy dolarów w szerzenie propagandy i zniekształcanie globalnego środowiska informacyjnego kupując platformy telewizji kablowej w Afryce i wykluczając międzynarodowe kanały informacyjne z pakietów subskrypcyjnych. W raporcie także zdemaskowano tajną kampanię Kremla mającą na celu osłabienie poparcia dla Ukrainy i rozsiewanie rosyjskiej propagandy za pośrednictwem mediów latynoamerykańskich.

Robert Kupiecki, polski wiceminister spraw zagranicznych, w trakcie Szczytu oskarżył Rosję o prowadzenie kampanii dezinformacyjnych z wykorzystaniem sztucznej inteligencji. "Jedyną rzeczą bardziej makabryczną niż rosyjskie działania podczas trwającej inwazji na Ukrainę jest obrzydliwa sieć kłamstw tworzona przez ich propagandę, powielanych przez media społecznościowe, deepfake i wszechobecne boty" – powiedział.

Deepfake w kampanii wyborczej

Koreański zakaz deepfake wszedł w życie 29 stycznia 2024 r. U podstaw jego wprowadzenia leżały obawy, że technologia ta wprowadza w błąd. Zgodnie ze znowelizowanym prawem osoby fizyczne mogą zostać skazane na maksymalnie siedem lat pozbawienia wolności lub grzywnę w wysokości ponad 37 tys. dolarów, jeśli zostaną przyłapane na pokazywaniu lub rozpowszechnianiu filmów z kampanii politycznych, które zostały stworzone przy użyciu technologii AI oraz deepfake.

Krajowa Komisja Wyborcza (NEC) poinformowała, że tylko od 29 stycznia do 16 lutego 2024 roku zidentyfikowała 129 wpisów związanych z wyborami wykorzystujących technologię deepfake. Każdy z nich został uznany za naruszenie ustawy.

W marcu Koreańska Narodowa Agencja Policji (KNPA) ogłosiła, że jej Biuro Śledcze wdroży nowe oprogramowanie wykrywające czy wideo lub pliki graficzne zostały zmanipulowane przy użyciu technik deepfake. W przeciwieństwie do większości istniejących narzędzi do wykrywania AI, ten model został przeszkolony na danych pochodzących od Koreańczyków. Według szacunków koreańskiej policji jego wykrywalność będzie wynosiła 80 procent.

Używanie technologii deepfake w polityce koreańskiej nie jest niczym nowym. Podczas prezydenckiej kampanii wyborczej w 2022 roku ówcześni kandydaci Yoon Suk Yeol i Lee Jae-myung wykorzystali awatary wygenerowane przez AI.

Regulacje dotyczące AI i danych osobowych w Korei Południowej

Na razie Korea nie ma przepisów regulujących sztuczną inteligencję w całości. Jest to o tyle trudne, że koreański rząd od kilku lat promuje AI jako krajową strategię rozwoju.

Pośrednio kwestią AI zajmują się w Korei dwie ustawy: Cyfrowa Karta Praw oraz ustawa o Ochronie Danych Osobowych (PIPA).

Zasady Cyfrowej Karty Praw są ściśle związane z rozwojem i wykorzystaniem AI, a niedawna nowelizacja PIPA wprowadziła "prawa dotyczące w pełni zautomatyzowanego podejmowania decyzji". Umożliwiają osobom fizycznym odrzucenie decyzji podejmowanych przez w pełni zautomatyzowane systemy. Koreańskie przepisy dotyczące ochrony danych osobowych są podobne do europejskich. I chociaż poziom ochrony jest raczej wysoki, to został ustalony na poziomie niższym niż w Europie.

23 grudnia 2020 r. Ministerstwo Nauki i Technologii opublikowało Standardy etyczne, których celem jest osiągnięcie "AI dla ludzkości". Standardy opierają się na trzech zasadach: poszanowania godności ludzkiej, dobrze publicznym oraz odpowiednio dobranej do celu technologii. Pół roku później Ministerstwo Nauki i Informatyzacji opublikowało Strategię na rzecz realizacji zaufanej sztucznej inteligencji, która koncentrowała się na obawach związanych z użyciem AI.  

 19.02.2024