Molnár Anita – Rab Árpád
Az álhírek és az algoritmusvezérelt hírbuborékok világában a deepfake videók megjelenése komoly aggodalommal töltötte el mind felhasználókat, mind a szakembereket. Minek hihetünk ezután? Megtettük a végső lépést a hiteltelenség világa felé? Egyelőre nem.
A House Intelligence Committee 2019. júniusi meghallgatásán deepfake hamisított videót játszottak le Elizabeth Warren massachusettsi szenátor szereplésével, hogy felhívják a figyelmet a fenyegetésre. Felszólították a közösségi média vállalatokat, hogy vegyék komolyan a fenyegetést, mert a deepfake videók és hanganyagok alááshatják a demokratikus választási folyamatokat.
Rengeteg dezinformáció kavargott és kavarog még mindig az amerikai elnökválasztás körül, de a megtévesztő videók, amelyek a zajhoz hozzájárulnak, inkább „kézzel” készítettek, mint algoritmikusak. A szakemberek (fact-checker) találtak ugyan olyan videókat, amelyeket hagyományos eszközökkel szerkesztettek megtévesztő módon, például egy klipet, amelyet úgy vágtak össze, hogy úgy tűnjön, mintha Joe Biden minnesotaiként köszöntötte volna a floridaiakat. Lelepleztek egy mesterséges intelligencia által generált profilfotót is, amelyet Biden fiának lejáratására készítettek, de ez is csak periférikus szerepet játszott az eseményekben. (https://www.wired.com/story/what-happened-deepfake-threat-election/)
Két kampányban is igyekeztek az amerikai választók figyelmét felhívni a jelenségre. Phil Ehr demokrata jelölt olyan kampányhirdetést tett közzé a Florida Panhandle-ben, amelyben az ellenfél, az akkor hivatalban lévő republikánus Matt Gaetz deepfake változatát szerepeltette, aki olyan rá nem jellemző kifejezéseket mondott, hogy a „Fox News bekaphatja” (“Fox News sucks”) vagy hogy „Obama sokkal menőbb, mint én” (“Obama is way cooler than me”). Ehr ezután valódi arcával töri meg a hirdetést, hogy felhívja a figyelmet a deepfake jelenségre és az állam által támogatott dezinformációkra. „Ha a mi kampányunk képes ilyen videót készíteni, képzelje el, mit csinál most Putyin” – jelentette ki. Más 2020-as, nyíltan deepfake hirdetések olyan hamis klipeket tartalmaztak a pártoktól független nonprofit RepresentUs-tól, amelyeken Vlagyimir Putyin orosz elnök és Kim Dzsongun észak-koreai diktátor beszélgetnek arról, hogy a megosztott Egyesült Államok hogyan veszíti el a bizalmát a demokráciában. „A demokráciának nem nehéz összeomlania. Csak annyit kell tennie, hogy semmit” – mondja a videóban a mosolygós hamis Kim.
A Facebook 2020 elején egészítette ki moderálási alapelveit a deepfake-re vonatkozó szabályokkal, de úgy tűnik erős próbának nem lettek kitéve. Egy 2020. novemberi – a választási erőfeszítéseket összegző – Twitter-bejegyzés szerint október 27-e óta 300 000 tweethez adták hozzá a félrevezető tartalomra figyelmeztető címkét, ami az ebben az időszakban a választásokkal kapcsolatos összes bejegyzés 0,2 százaléka volt. Deepfake-ről nem tettek említést sem.
Az egyik oka annak, hogy a 2020-as kampány során ritkán fordultak elő deepfake-ek, az lehet, hogy igazán nem volt rájuk szükség. Aki ebben az évben valótlanságokat akart terjeszteni, több olyan lehetősége is volt, amelyekhez nem volt szüksége a mesterséges intelligencia algoritmusainak elsajátítására: elég volt egy Facebook-bejegyzés megosztása vagy a Photoshop használata.
Az, hogy a deepfake videók nem játszottak nagy szerepet, szerencsés helyzet, mert a mesterséges intelligencia segítségével generált videók automatikus felderítésére tett kísérletek egyelőre nem túl sikeresek. A mostani legjobbnak számító deepfake felismerő rendszerek is átengedik a hamisított videók körülbelül egyharmadát. Az AI Alapítvány Reality Defender szolgáltatása a Microsoft és a vezető MI laboratóriumok által kifejlesztett deepfake felderítő algoritmusok könnyen használható felületét tesztelte. Amikor a hamis Kim Dzsongun vizsgálatára kérték, a Microsoft és a Müncheni Műszaki Egyetem deepfake detektorai nem láttak semmi hibát, és a Reality Defender is úgy találta, hogy „valószínűleg nem manipulált videóról” van szó. Ugyanez történt Trump elnök hamis videójával, amelyet Hao Li grafikus kutató és deepfake készítő alkotott. Jelezte, mikor Elon Mask arcát tették egy újságíróéra, az algoritmus így is manipulálatlan videóként azonosította.
Az, hogy a 2020-as választásban nem játszott nagy szerepet a deepfake technológia, megnyugtató, de nem azt jelenti, hogy a jövőben sem fog. Egyelőre az automatizált felismerés nem működik eléggé hatékonyan, remélhetőleg ennek a fejlesztése gyorsabb lesz, mint a deepfake technológia olcsóvá válása.
