Deepfake, álhírek, propaganda: mit tegyünk, ha nem hihetünk a szemünknek?

A mesterséges intelligencia új szintre emelte az álhírek problémáját. Ipari mennyiségben lehet valósnak látszó hamis tartalmakat létrehozni. Mennyire veszélyes ez? Deepfake-kutató, tényellenőrző újságíró és szociálpszichológus vendégünkkel erről beszélgettünk – a posztban visszanézheted vagy podcastunkon meghallgathatod.

A közösségi média elterjedése óta az álhírek eszeveszett gyorsasággal söpörnek végig az interneten. A Covid19-pandémiával és az Ukrajna elleni orosz agresszióval kapcsolatos álhírekkel és dezinformációval mi is foglalkoztunk itt a blogon, és infografikát is készítettünk arról, milyen eszközeink vannak az álhírek ellen. A 2023 egyik legfontosabb kifejezésének választott mesterséges intelligenciát (MI) az EU – először a világon – AI ACT néven emlegetett átfogó jogszabályban kívánja szabályozni, amely augusztus 1-jén hatályba is lépett. A deepfake-eket a jogszabály az átláthatósági kockázatot jelentő kategóriába sorolta: ide többek közt azok a rendszerek tartoznak, amelyek esetében fennáll a manipuláció vagy a hamisítás lehetősége. Ezekben az esetekben jogunk van tudni, hogy az adott tartalmat mesterséges intelligencia hozta létre, és a modell nem hozhat létre illegális tartalmat.

Nem véletlen a szabályozási szándék, az MI az álhírek problémáját is új, eddig még nem tapasztalt szintre emelte: kísérteties, hogy a valós és hamis tartalmak egyre kevésbé megkülönböztethetők. Hogyan szabályozhatók a különböző csatornák az álhírek terjedése ellen? És mit tehetünk mi magunk, hogy ezeket kiszűrjük?

November 12-én Gyárfás Dorka Dr. Krekó Péter szociálpszichológussal, Mezriczky Marcell deepfake-kutatóval és Zöldi Blankával, a Lakmusz tényellenőrző portál főszerkesztőjével beszélgetett minderről.

A mesterséges intelligencia térhódításával egyre nehezebbé válik a tájékozódás a mindennapi információáradatban. Ma már nem csupán módosított szövegek vagy megszerkesztett képek szintjén találkozhatunk hamis tartalmakkal: a deepfake-technológia révén teljesen új, nem létező eseményeket bemutató videók vagy képek készülhetnek. Ez nemcsak a bizalmat ássa alá, hanem számtalan új etikai, társadalmi és jogi kérdést is felvet.

Krekó Péter szerint az emberek főként azóta kezdtek aggódni ezen technológiák miatt, amióta a használatuk széles körben elérhetővé vált. A technológia „demokratizálódása” azt eredményezte, hogy bárki számára rendelkezésre állnak az eszközök, amelyek korábban csak speciális szakértelemmel voltak kezelhetők. A jó hír ezzel a tendenciával együtt az, hogy minél többen kreálunk mi magunk is ilyen tartalmakat, annál könnyebben tanuljuk meg felismerni azt a mások által legyártott tartalomban.

Mezriczky Marcell elmondta: szinte az összes közösségi oldal hatalmas energiát fektet a deepfake-felismerő mechanizmusok fejlesztésébe. Fontos, hogy mi magunk is jelentsük be, ha például személyiséglopás áldozatai leszünk – ezt megtehetjük a közösségi oldal felületén, és külön szervezetek is léteznek kifejezetten erre a célra. Kérjük meg ismerőseinket is, hogy tegyenek hasonlóan, mert minél több feljelentés érkezik egy oldalra, annál hamarabb fogják letiltani. Azt is tartsuk észben, hogy minél több elérhető tartalom van rólunk online, annál könnyebben eshetünk deepfake-csalások áldozatául.

A workshop során több valós eset révén láthattunk rá a deepfake-ek súlyos következményeire. Zöldi Blanka példaként említett egy telemarketinges csalásokat végrehajtó csoportot, amelyet egy belső informátor buktatott le. A csoport különböző cikkeket terjesztett arról, hogy magyar celebek hogyan gazdagodtak meg a kriptovalutákból. A cikkek olyan oldalra vezettek, ahol deepfake-videókban „mondták el” ezek a celebek a tapasztalataikat. Sok ember hatalmas összegeket veszített azzal, hogy hitt ezeknek a videóknak és fizetett a megadott linkeken keresztül egy soha nem létező befektetésért.

Egy másik eset az Egyesült Államokból érkezett: egy anya kompromittáló deepfake-eket készített lánya iskolatársairól, mert a lányát bántalmazták. Mivel a felismerő technológiák sem tudják biztosra jelezni az ilyen tartalmakat, ezért a bíróságon nem lehetett döntő bizonyítékként felhasználni a videókat ellene, és az ügyet bizonyíték hiányában ejteni kellett.

Nem szabad azonban elfelejteni, hogy akkor is romboló hatással lehetnek a hamis videók, ha később ez kiderül róluk – Krekó Péter kiemelte: sajnos egy felkapott álhír mindig sokkal több emberhez jut el, mint később a tény, hogy hamisítvány.

Zöldi Blanka felhívta a figyelmet arra, hogy Magyarországon ugyan még kevés deepfake kering, de az álhírek hatása így is jelentős. Még deepfake sem kell hozzá: a „cheap fake”-ek a mesterséges intelligenciát nem igénylő, alacsonyabb technikai szintű szerkesztési képességek segítségével előállított tartalmak – régen photoshoppoltnak neveztük – már most képesek félrevezetni a közvéleményt. Ez a szándék a deepfake-technológiák további terjedésével még nagyobb dezinformációs áradatot indít majd el.

A deepfake-ek megelőzésének és megállításának egyik legnagyobb akadálya maga a deepfake-gyártó. Az ilyen fejlett technológiai képességekkel rendelkező emberek sokszor nehezen azonosíthatók, mivel ahhoz is jól értenek, hogyan ne hagyjanak digitális nyomot maguk után.

Az este során felmerült még a deepfake-ek szerepe a politikai kampányokban és az iskolai tananyagban, valamint a különböző deepfake- és MI-szűrő rendszerek hatékonyságának kérdése is. Mindezt megnézheted Facebook-oldalunkon:

…podcastunkon és a megszokott streamingfelületeken pedig meg is hallgathatod:

Fotó: Tuba Zoltán/kepszerk.hu. Még több kép Flickr-oldalunkon.

---

Az Európa Pont az Európai Bizottság és Európai Parlament információs és kulturális központja a budapesti Millenáris Parkban. Az európai kultúra házaként tájékoztat, szórakoztat, közösségi térként beszélgetéseknek ad teret, embereket hoz össze európai témákhoz és kultúrákhoz kapcsolódóan.

Olvasd el többi bejegyzésünk, iratkozz fel hírlevelünkre, hallgasd a podcastunkat, kövess minket a Facebookon és az Európai Bizottság Magyarországi Képviselete YouTube csatornáján és gyere el ingyenes programjainkra, vagy, ha nem lehetséges a személyes jelenlét, kövesd őket online!