A politikai deepfake címkézésének gyakorlati korlátai az Oversight Board friss döntésének példáján keresztül
A Facebook Felügyeleti Testülete (Oversight Board) a közelmúltban – a Meta döntését megváltoztatva – egy brit politikust ábrázoló manipulált videó eltávolításáról döntött. Az ügy egyik tanulsága, hogy az igen részletesen, néhol már-már túlzottan aprólékosan kidolgozott platformszabályozás önmagában nem sokat ér, ha az nem párosul valódi végrehajtási vagy jogérvényesítési mechanizmussal.
Korábbi bejegyzésekben már foglalkoztunk a blogon a politikai reklámok megszüntetésének gazdasági, pénzügyi vonatkozásaival, a választási folyamatokat érintő rendszerszintű kockázatok DSA szerinti kezelésével és a politikai reklámok paradox következményeivel. Az alább bemutatott eset a tartalommoderálás oldaláról világítja meg azt a problémakört, hogy a platformok részletes előírásai csak akkor érhetnek célt, ha azok a gyakorlatban ténylegesen is érvényesülnek.
Az ügy tényállása szerint egy Facebook-felhasználó 2025 novemberében mesterséges intelligencia segítségével manipulált videót tett közzé a platformon. A videóban egy skóciai munkáspárti önkormányzati képviselő volt látható, aki a videóban az alábbiakat mondta: „A bevándorlókat akkor is szívesen látjuk, ha megerőszakolják asszonyainkat, hiszen a fehérek is ugyanezt teszik.” A felvétel, ami semmilyen jelzést, címkét nem hordozott, első pillantásra igen valósághűnek tűnt, azonban jobban megvizsgálva már látható volt, hogy manipulált, ugyanis a hang nem volt teljesen szinkronban a személy arcának mozgásával. A videót két személy – akik közül az egyik a videón látható politikus – jelentette a Meta zaklatásra és megfélemlítésre vonatkozó közösségi alapelvének megsértése miatt, de a platform nem jelölte ki a bejegyzést emberi felülvizsgálatra, így az a Facebook felületén továbbra is elérhető volt.
Az egyik felhasználó ezt követően a Testülethez fordult, ami a közösségi alapelv három (nevezetesen: a gyűlöletkeltő magatartásra, a félretájékoztatásra, valamint a megfélemlítésre és zaklatásra vonatkozó) szabályának megsértése körében vizsgálta a panasszal érintett bejegyzést. A Testület öttagú bizottsága végül – ugyan nem egyhangúlag – a Meta eredeti moderációs döntését megváltoztatva arra az álláspontra helyezkedett, hogy a bejegyzést a gyűlöletkeltésre vonatkozó alapelv sérelme miatt el kell volna távolítani a platformról, abban ugyanis súlyos bűncselekményeket és szexuális kizsákmányolásra utaló állítások jelentek meg a menekültek egész csoportjával szemben. A döntés arra is kitért, hogy amennyiben a tartalom kapcsán a gyűlöletkeltés tényállása nem valósult volna meg, a félretájékoztatásra vonatkozó szabály miatti eltávolítás nem lett volna indokolt, azonban a videó tekintetében a „High Risk AI” címke alkalmazása igen. Ezen felül a Testület az AI-címkékkel és az alapelvek alkalmazásával összefüggésben több ajánlást is megfogalmazott a Meta irányába.
A döntést és annak érvelését három szempont szerint érdemes alaposabban megvizsgálni: a politikai véleménynyilvánítás határai, a mesterséges intelligencia igénybevételével készített manipulált tartalmak címkézése, valamint a közösségi alapelvek végrehajtásának hatékonysága kapcsán.
A Meta a mesterséges intelligencia alkalmazásával készített manipulált képeket és videókat – a Testület egy korábbi, szintén manipulált tartalom kapcsán született döntésében foglalt ajánlásoknak eleget téve – az eltávolítás helyett az észlelés esetén „AI info” jelzéssel látja el, amelynek célja, hogy a platform lehetőség szerint elkerülje a szólásszabadság szükségtelen korlátozását (a címkét egyébként maguk a felhasználók is feltüntethetik). Emellett, ha a Meta úgy ítéli meg, hogy a digitálisan létrehozott vagy módosított, potenciálisan félrevezető tartalom esetén különösen nagy az emberek jelentős megtévesztésének kockázata valamilyen közérdekű kérdésben, kiemeltebb címkét is elhelyez a felhasználók tájékoztatása érdekében, és az elérését is csökkenti. (Ez a tartalomtípus a közösségi alapelvek szerint a „Félretájékoztatás” kategóriájának egy speciális formája, amely nem esik automatikusan eltávolítás hatálya alá, hanem tájékoztató címkével való jelölést alkalmaz a szolgáltató.)
Ugyanakkor, ha a mesterséges intelligencia segítségével létrehozott tartalom egyúttal a közösségi alapelvek bármelyikét is sérti, eltávolításra kerül sor. Összegezve tehát: a Meta főszabály szerint a mesterséges intelligencia igénybevételével készített tartalmakat pusztán e jellegük miatt nem távolítja el, csupán erre a tényre utaló címkével látja el; a nyilvánosság közérdekű kérdésekben való félretájékoztatását eredményező üzenetek esetében hangsúlyosabb a jelzés, és az elérés korlátozása; a közösségi alapelveket is sértő tartalom – tulajdonképpen ez esetben az előállítás módjától függetlenül – eltávolítandó a platformról.
A Testület döntéséből az a következtetés vonható le, hogy az önmagában megtévesztő, de más közösségi alapelvet nem sértő politikai deepfake-videó tekintetében nem az eltávolítás a helyes út. A Testület megállapításai természetesen nem tekinthetők a politikai deepfake-tartalmak kezelésére vonatkozó általános jogi mércének, ugyanakkor fontos szempontokat kínálnak a platformok által végzett moderáció arányosságának, különösen a politikai kommunikáció és a megtévesztésből eredő demokratikus kockázatok közötti egyensúly megítéléséhez. A videót tehát nem azért kellett törölni, mert deepfake volt. A Testület döntése szerint a „High Risk AI” címke alkalmazása mellett egyéb, a törlésnél enyhébb korlátokat tartott alkalmazandónak. Ilyen korlátozás lehet a tartalom megtekintése előtt a felhasználók számára felugró tájékoztató ablak, a tartalom elérésének csökkentése, a monetizáció korlátozása vagy pedig a tartalom ajánlórendszerből való kizárása. Jól látható tehát, hogy a Testület fokozatos intézkedések alkalmazását vélte célravezetőnek, vagyis a skála két végén álló, a platformon való korlátlan terjedés és az eltávolítás lehetőségei között több megoldást is megfontolásra alkalmasnak tartott.
A platform által alkalmazott címkézés hagyományosan az egyik legenyhébb korlátozást jelent a szólásszabadság gyakorlására nézve, hiszen a közönség tájékoztatása mellett nem járt a tartalom eltávolításával vagy hozzáférhetetlenné tételével, de mégsem állíthatjuk, hogy a platform tétlenül szemlélné az esetlegesen félrevezető tartalmak terjedését. Mindez természetesen akkor képes elérni célját, ha a címkézés valóban működik és a platform alkalmazza is. E kérdésben a Testület viszont már igen kritikus hangot fogalmazott meg a Metaval szemben. A platform a „High Risk AI” címkét csak igen kivételes esetekben alkalmazza, és az emberi felülvizsgálat hiányával párosulva – mint a jelen esetben is látható – komoly kritikai észrevételek fogalmazhatók meg.
Érdemes mindehhez hozzátenni, hogy a Meta a Testület kérdésére kifejezetten megerősítette: a videót feltöltő felhasználót nem szankcionálta amiatt, mert elmulasztotta feltüntetni a mesterséges intelligencia használatát, noha ezt a platform szabályai előírták (az érintett fiók egyébként nem volt érintett monetizációban sem). A Testület az ismételten „High Risk AI” jelölésű tartalmakat közzétevőkkel szembeni fokozatos szankciók bevezetését is javasolta, ami jól mutatja a kifogásolt tartalmak eltávolítása és a feltöltő felhasználóval szembeni intézkedések közötti különbséget.
A döntés áttekintése ugyanakkor rámutat: a tartalom platformokon való fennmaradása vagy eltávolítása, illetve a tartalom terjesztése két különálló kérdéskört jelent; utóbbinak azonban legalább akkor jelentősége van a demokratikus nyilvánosság szempontjából, mint az előbbinek. A Testület által megfogalmazott ajánlások e kérdésre is kitérnek: egy magas kockázatú mesterségesen manipulált tartalom elérésének csökkentése, az algoritmikus felerősítésből való kizárása vagy monetizációjának megszüntetése nem a vélemény nyilvánosságból való kiiktatását jelenti, hanem „csupán” a platform infrastruktúrája által biztosított lehetőségekből zárja ki. Nem a politikai igazság kérdésében való döntés elvárt a platformoktól, hanem pusztán az, hogy a megtévesztő, manipulált tartalmak számára ne biztosítson olyan terjedési és bevételszerzési feltételeket, amelyeket a platform rangsorolási, ajánlási és monetizációs rendszerei biztosíthatnak.
Helyesnek tartható az a szemlélet, ami részben a platformok infrastruktúrájából és működési modelljéből is következik, vagyis, hogy a törlés és a politikai beszédnek biztosított kitüntetett védelem között egyéb szóláskorlátozó lehetőségek is rendelkezésre állnak. A címkézés erre megfelelő megoldás lehetne, de csak abban az esetben, ha funkcionálisan is képes lehet betölteni eredendő szerepét: következetesen és megfelelően látható módon megjelenik a „problémás” tartalmak mellett, könnyen hozzáférhető és értelmezhető informatív tartalommal bír, a megtekintéshez kapcsolódó köztes figyelmeztetés megjelenik, a platform alkalmazza a szükséges elérési korlátozásokat, illetve a tartalom jelentése esetén az emberi felülvizsgálat is biztosított. Ez a megoldás egyszerre lehet tekintettel a politikai véleménynyilvánítás kitüntetett szerepére, és a megtévesztésből eredő lehetséges demokratikus károkkal szembeni védelemre.
A döntés megerősítette, hogy a politikai tartalmú deepfake-ek törlése a pusztán manipulatív jellegre tekintettel nem lehet elsődleges megoldás, de önmagában a címkézés előírása sem oldhatja meg a problémát. Az ügy alapján a deepfake-tartalom eltávolítása vagy platformon tartása közötti bináris kódok mellett a jövőben a döntő kérdés tehát nem csak az, hogy a tartalom hozzáférhetősége fenntartható-e, hanem az is: ha nem valódi, miért hagyja a platform valódiként terjedni, és miért segít a terjedés sebességét és mértékét felerősíteni? És persze az is nélkülözhetetlen, hogy ezeket a megoldásokat a platform ténylegesen és következetesen alkalmazza is. Vagyis a Testület szerepe látszólag nem elhanyagolható, ugyanakkor fennáll annak veszélye, hogy a részletes szabályrendszer és a független(?) felülvizsgálat intézményesítése a felelős platformműködés látszatát erősíti, miközben a tényleges moderáció gyakorlati hiányosságai, ezzel összefüggésben pedig a demokratikus nyilvánosságot érintő rendszerszintű kockázatok továbbra is kézzel foghatóak maradnak.
Nyitókép forrása: simpson33 / depositphotos.com
