Megállítható a modernkori vetkőztetés?
Az Európai Bizottság napirendre tűzte az európai mesterségesintelligencia-szabályozás, az AI Act kibővítését. A tervezett módosítások két érzékeny területet érintenek: a kiskorúak védelmét és az engedély nélküli, intim digitális tartalomgyártást. De képes-e a technológiai fókuszú jogszabály gátat szabni az online zaklatás legújabb, tömegessé váló formáinak? Hová tűnik az emberi felelősség? Főként pedig: mit tehet az áldozat, ha a visszaélés már megtörtént? Erről beszélgettünk Ripszám Dórával, a Nemzeti Közszolgálati Egyetem Eötvös József Kutatóközpont Információs Társadalom Kutatóintézetének tudományos munkatársával.
Szigorúbb tilalmak a láthatáron
Kezdjük talán ezt a beszélgetést az alaphírrel: az Európai Bizottság bővíteni szeretné az AI Act tiltott mesterséges intelligencia-alkalmazásokra vonatkozó listáját. Két fő irányvonalat jelöltek meg: az intim képek kéretlen, visszaélésszerű generálását, valamint a kiskorúak általános védelmét. Ugyanakkor felmerül a kérdés: valóban szükség van ennyire specifikus szabályozásra? Hiszen ott van a GDPR vagy épp az emberi méltóság védelmének általános alapelve, amelyek elvileg már most is lefedik ezeket a területeket.
Valóban, az Alapvető Jogok Chartája önmagában is rendkívül széles körű védelmet biztosít, arra közvetlenül lehet hivatkozni a joggyakorlatban. Az, amit viszont az AI Act esetében látnunk kell, hogy ez a jogszabály alapvetően a működés technikai részét, illetve felhasználási körét szabályozza. Itt a hangsúly nem feltétlenül a klasszikus, utólagos jogvédelmen van. Az AI Act sokkal inkább határozott iránymutatást ad a mesterséges intelligencia szolgáltatóinak, alkalmazóinak stb.. A szolgáltatóknak például olyan technikai tilalmakat és gátakat kell beépíteniük a rendszerekbe már a fejlesztés legelső pillanatában, amelyek megakadályozzák, hogy a mesterséges intelligencia egyáltalán végrehajtsa az ilyen típusú, jogsértő felhasználói kéréseket. Tehát ez elsősorban megelőző, technikai fókuszú megközelítés.
Kijátszható határok és a promptolás csapdái
Ez jól hangzik, de mennyire tartható be a gyakorlatban? Elképzelhető olyan forgatókönyv, hogy míg, mondjuk, Ausztráliában tiltják a nők digitális lemeztelenítését, az Egyesült Államokban vagy más kontinenseken nem, így egyszerű VPN-használattal az európai felhasználó is megkerülheti a korlátozásokat? Vagy az AI Act képes lesz ennél hatékonyabban, közvetlenül a platformok szintjén szabályozni?
Ilyen technikai megoldások valóban léteznek, de még a gyakorlati megvalósítás is számos buktatót rejthet. Vegyük a kiskorúak védelmét: a rendszernek valahogy fel kellene ismernie, hogy a képen szereplő személy nem töltötte be a 18. életévét. Egy fiatal hölgy esetében csak a fotó alapján szinte lehetetlen teljes biztonsággal megmondani, hogy 14 vagy éppen 24 éves. Itt már önmagában van egy komoly technológiai korlát. A másik probléma a hírhedt „vetkőztetős” alkalmazások kapcsán merül fel, mégpedig az engedély nélküli tartalomgyártás tiltása. Ugyanis amikor a felhasználó megírja az utasítást (a promptot), a rendszer rendkívül nehezen tudja kiszűrni a valós kontextust és a szándékot. Ha például feltöltök egy fényképet magamról vagy a barátnőmről – feltételezve, hogy ő ehhez hozzájárult –, és az a kérésem az MI felé, hogy tegyen egy kicsit karcsúbbá vagy változtassa meg a szemem színét, az teljesen legitim kérés. Ez nem esik és nem is eshet tilalom alá. A tervezett szabályozás lényege a szexuális jellegű módosításokon van. Önmagában az, ha egy meztelen embert ábrázoló képen módosítunk valamit, még nem feltétlenül tiltott. A kifejezett „kivetkőztetés”, az engedély nélküli szexualizálás az, amit a jogalkotó ki akar szűrni. De az, hogy a rendszer a promptolás fázisában hogyan ellenőrzi ezt a beleegyezést, komoly kérdés.
Digitális bullying vagy deviancia?
Létezik esetleg megbízható, átfogó kutatás vagy tanulmány arra vonatkozóan, hogy kik ezeknek az alkalmazásoknak a valódi használói? Kamaszok kegyetlen online tréfájáról beszélünk vagy felnőtt emberek tudatos, rosszindulatú visszaéléseiről?
Bár léteznek részletkutatások, de olyan átfogó tanulmánnyal még nem találkoztam, amely teljes képet adna a felhasználói körről. Az viszont egyértelműen látszik, hogy ennek a jelenségnek többféle, egymástól jól elkülöníthető formája van. Például az iskolai online zaklatás (cyberbullying) egy egészen új, mérgező formája, továbbá sajnálatos módon a pedofíliának és a gyermekek és felnőttek szexuális kizsákmányolásának is teret nyit. A motivációk és az elkövetők köre tehát vegyes, csakúgy, mint az áldozatoké.
Eszköz vagy gondolkodó ágens? A Photoshop és az MI különbsége
A technológiai fejlődés kapcsán gyakran felmerül az etikai kérdés: valóban a gépet kell hibáztatni? Évekkel ezelőtt is meg lehetett tenni, hogy valaki órákon át ült a Photoshop előtt és manipulált egy képet. A képfeldolgozó szoftvert mégsem tiltotta be senki, pedig alkalmas volt a megtévesztésre, maximum a digitális lenyomatokból lehetett utólag visszakövetni a csalást. Miért kell most magát a technológia készítőjét arra kötelezni, hogy eleve korlátozza az eszközt?
Az alapvető kérdés itt az, hogy a Photoshop és a mesterséges intelligencia mitől más. A Photoshop egyértelműen eszköz. Ott a felelősség kérdése transzparens: azé a felelősség, aki a módosítást végrehajtja. A Photoshop nem gondolkodik, nem kell felismernie morális vagy jogi gátakat, egyszerűen végrehajtja a manuális mozzanatokat. Ezzel szemben a mesterséges intelligencia működése összetett, illetve a betáplált mintázatok révén elvileg képesnek kellene lennie arra, hogy felismerje ezeket a társadalmi és jogi gátakat.
Ki a felelős? Mit hoz a jövő?
Ha tehát a végső felelősséget keressük, akkor a képlet többszereplős lehet. Ott van az, aki a promptot adja – az ő felelőssége egyértelmű. De mi van magával az algoritmussal?
Pontosan ezért van szükség például a szolgáltatók kötelezésére az AI Act-en keresztül, hogy a gátak beépítésével a gép meg se tudja tenni a jogsértést. Ha a beépített gátak ellenére az AI mégis generálja a tiltott tartalmat, akkor viszont felmerül a kérdés: milyen felelőssége van magának a gépnek? Fontos leszögezni: a jelenlegi jogi szabályozás értelmében a mesterséges intelligenciának mint entitásnak nincsen önálló jogi felelőssége.
Emlékezetes eset történt tavaly, a két ünnep között: tömegesen kezdtek el megjelenni generált pornográf képek az X-en (a korábbi Twitteren). Az ilyen esetekben az elkövetők beazonosíthatók, az X rendelkezik az IP-címekkel és a regisztrációs adatokkal. Miért nem az a megoldás, hogy az AI a tiltás helyett automatikusan riasztást küld a hatóságoknak, ha bűncselekménygyanús promptot észlel?
Ez kifejezetten jó és működőképes irány lehet. A hírek szerint az AI Act módosítási javaslatában szerepelnek is ilyen beépített funkciókra vonatkozó tervek. A szabályozás az utasítás megtagadásán túl előírná az automatikus jelzésküldő rendszerek alkalmazását is. Persze felnőttek esetében a jelzés után még mindig vizsgálni kellene, hogy történt-e beleegyezés, de a visszaélések visszaszorításában ez már előrelépést jelenthet.
Versenyfutás az idővel: oktatás és áldozatvédelem
Közhely, hogy a technológia mindig a jog előtt szalad. Mire a Bizottság rászánja magát a módosításra és az ténylegesen hatályba lép, újabb és újabb áldozatok lehetnek. Meg lehet ezt a jelenséget akadályozni pusztán tiltással, esetleg sokkal nagyobb hangsúlyt kellene fektetni a prevencióra, a fiatalok pedagógiai felkészítésére, hogy egyszerűen ne tegyenek ilyet a kortársaikkal?
Nemrég tartottam előadást az online zaklatás témakörében, amelyben határozottan azt állítom, hogy a megelőzés legfontosabb mozzanata a társadalmi tudatosság növelése és az oktatás. Szerencsére a magyar gyakorlatban is vannak már erre kiváló, célzott példák és kampányok (pl.: #nemvagyegyedül és a „Merj segítséget kérni!” kampány). Ezeknek a programoknak kettős céljuk van: egyrészt az edukáció révén szűkíteni az elkövetői kört – megértetni a fiatalokkal a tetteik súlyát –, másrészt pedig az áldozatokat segíteni. Kulcsfontosságú, hogy ezek a sérelmek ne maradjanak rejtve. A legnagyobb probléma jelenleg az, hogy az áldozatok szégyellik a helyzetet, így nem mernek segítséget kérni. Pedig a generált, hamis szexuális tartalmú kép pontosan ugyanolyan lelki és társadalmi károkat képes okozni, mint a valós felvétel. Hiába mondja utána az áldozat, hogy „de hiszen ez nem is én vagyok, ezt csak a gép csinálta”, a kép kikerül a hálóra, a romboló hatása pedig azonnali.
Ha valaki ilyen helyzetbe kerül, kihez fordulhat segítségért?
Nagyon fontos, hogy az érintettek tudják: nincsenek egyedül, van hova fordulni. A szakemberek bátorítják a gyerekeket és fiatalokat, hogy problémáikkal forduljanak a számukra megbízható felnőttekhez (szülő, tanár stb.). Kifejezetten a fiatalok és gyermekek védelmére jött létre a Kék Vonal Gyermekkrízis Alapítvány, amelynek anonim, biztonságos és ingyenesen hívható lelkisegély-vonala (a 116-111-es számon) éppen az ilyen krízishelyzetekben nyújt azonnali támaszt. Emellett a jogellenes vagy káros online tartalmak bejelentésére ott van az NMHH által működtetett Internet Hotline szolgáltatás is, ahol szintén kérhető szakmai segítség a jogsértő képek eltávolításához. A legfontosabb üzenet: beszélni kell erről és merni kell segítséget kérni.
Nyitókép forrása: pavlin / depositphotos.com
