A gyermekek[1] alkotják a társadalom egyik legkiszolgáltatottabb csoportját. Számos tanulmány mutat rá, hogy sebezhetőségüket az online tér megjelenése és elterjedése jelentősen növelte. A mesterséges intelligencia (MI) további kockázatot jelent számukra, lassan már-már rizikófaktorként azonosíthatjuk egyes bűncselekményeknél a gyermekek áldozattá válása kapcsán.
A mesterséges intelligencia számos pozitív hozadékot hozott életünkben. Emellett fontos annak árnyoldalaira is felhívni a figyelmet, az MI segítséget nyújthat az elkövetők számára a gyermekek elleni bűncselekményekben, fokozhatja a kiszolgáltatottságot, az adatai veszélybe kerülhetnek ezzel is növelve a sebezhetőségüket, továbbá a bevonás, toborzás hatékony eszköze is lehet, nem utolsó sorban pedig a bűncselekmény elkövetéséhez is segítségül használhatnak.
A közvetlen hatások mellett fontos az online bizalom kérdésköre is, a digitális média írástudása ma már nem az eszközökön, hanem a valóság ismeretén és a kontextusok megértésén alapul, ezen a téren a gyermekek pedig értelemszerűen kiszolgáltatottabbak. Külön szintet jelent a barátként, érzelmi társként, vagy megerősítő támogatóként való megjelenése is a gyermekek életében, ami szintén okozhat kiszolgáltatott helyzeteket.
Az alábbiakban az MI általi kiszolgáltatottság és az MI elkövetők általi felhasználásának egyes típusait mutatom be a teljesség igénye nélkül.
Az MI általi kiszolgáltatottság
A mesterséges intelligencia számos módon növelheti a gyermekek kiszolgáltatottságát. Vannak, amelyek az MI működésére vezethetőek vissza és vannak, amelyek a gyermekek személyiségi jegyeire, elsősorban korukból adódó naivitására.
Eltérő lehet a hatása annak, ha a gyermek eleve egy generatív MI-t, például ChatGPT-t használ és annak, ha MI-alapú tartalomajánló algoritmussal működő közösségi platformot. Első esetben a gyermek tisztában van azzal, hogy MI-t használ, a másikban nincs feltétlen tudatában a háttérben zajló folyamatoknak.
Az MI számos algoritmikus kockázatot rejt magában. Ilyen például:
- káros tartalmak ajánlása gyermekek számára;
- a gyerekek adatainak túlzott gyűjtése és a profilozás;
- függőséget elősegítő működés.
Gyermeki korban a káros tartalmakkal való találkozás azért is veszélyes, mert a gyermek koránál és naivitásánál fogva nem képes felmérni annak súlyát. Ha kiskorától kezdve találkozik például önkárosító, vagy radikalizációs tartalommal, annak veszélyeit nem feltétlen tudja kellően megítélni. Emellett ő maga is könnyebben vonódik be ilyen folyamatokba, hiszen mintegy példaként jelenik meg előtte.
Néhány hónapja egy 16 éves fiú öngyilkosságától volt hangos a sajtó, a szülők úgy vélik, egy chatbot járult hozzá a tragédiához. Álláspontjuk szerint a ChatGPT megerősítette a gyermek önpusztító gondolatait ahelyett, hogy lebeszélte volna róla őt. Azonban a cég akként nyilatkozott, hogy több mint 100 alkalommal irányította a chatbot a gyermeket segítségért. Ez az eset sajnos nem egyedi.
A gyermekek adatainak gyűjtése, tárolása és a profilozás alapján nem csupán a gyermek adatai válhatnak ismertté, de annak szokásai is. Amennyiben ezek az adatok illetéktelen kezekbe kerülnek, nemcsak adatvédelmi kérdéseket vetnek fel, de akár az elkövetőknek is segítségül szolgálhatnak pl. emberrablás esetén azzal, hogy a gyermek milyen útvonalon halad egyedül haza az iskolából.
Egyre ismertebb a gyermekek körében az a jelenség, miszerint a különféle chatbotokkal folytatnak napi szintű beszélgetést, tőlük kérnek életvezetési tanácsokat. Ez pedig feltehetően hatással van a személyiségükre is. Szlankó Viola, az UNICEF Magyarország gyermekvédelmi igazgatója felhívja rá a figyelmet, hogy a bármilyen szempontból sérülékeny gyerekek kb. negyede a chatbotot részesíti előnyben a valós emberekkel szemben, és/vagy azért fordul hozzá, mert úgy érzi, nincs kitől segítséget kapnia. Számukra a mesterséges intelligencia egyszerre válhat menedékké és veszélyforrássá. Menedékké, mert legalább ott meghallgatják őket, és veszélyforrássá, mert a valódi emberi kapcsolatokat háttérbe szoríthatja, azok helyére léphet. Mindez a gyermek elszigetelődéséhez vezethet, ami fokozza a kiszolgáltatottságot. Az MI-vel folytatott “beszélgetések” számos ponton adatbiztonsági kérdéssel is kapcsolódnak.
További veszélyt rejt magában, hogy amikor egy gyermek alapvető kapcsolati modelljeit egy interakcióra tervezett algoritmussal alakítják ki, az az érzékeléssel és az érzelmekkel kapcsolatban is mély zavart kelthet, amelyeknek a kisgyermekek társas fejlődésére nézve olyan következményei lehetnek, melyek nem ismertek.
A gyermek kiszolgáltatottságának visszaszorítását szolgálhatják többek között az alábbiak:
- a gyerekeket és szüleiket is tájékoztatni kell arról a pszichés teherről, amit a MI-alapú rendszerek előidézni képesek;
- az MI-alapú alkalmazásoknál szükségesek lennének a beépített, életkorhoz igazított használati időkorlátok és figyelmeztetések;
- elérhetővé kell tenni a szülők számára olyan eszközöket és információkat, amelyek segítik a túlhasználat megelőzését.
Az MI bűnelkövetők általi felhasználása
Az elkövetők számos módon használhatják fel az MI-t a gyermekek sérelmére elkövetett bűncselekmények kapcsán. Ilyen például:
- az MI-támogatott beszélgetés;
- a profilozás eredményének felhasználása;
- becserkészés „deepfake” technológiával;
- MI segítségével létrehozott képek a gyermekről.
Ezen felsorolás számos ponton összefügg egymással, a fentiek élesen nem elhatárolhatóak.
Az elkövetők a mesterséges intelligencia segítségével nagyobb számú áldozattal képesek kapcsolatban lépni, hosszabban kommunikálni, nagyobb figyelmet és lekötést sugallani. Ezt erősíti tovább, hogy eltűnnek a nyelvi korlátok, az elkövető bármilyen anyanyelvű gyermekkel könnyen tud kommunikációt létesíteni. Emellett az MI jobban képes felmérni a gyermek igényeit, így könnyebben tud a bizalmába férkőzni. A Hintalovon Gyermekjogi Alapítvány is felhívja a figyelmet arra, hogy gyakori elkövetői stratégia a hamis profilok felhasználása a gyerekek bizalmának fokozatos kiépítésére, ezt pedig később akár online bántalmazás vagy szexuális kizsákmányolás követhet. Az MI a gyerekek online viselkedési mintáinak elemzésére is képes, lehetőséget teremtve arra, hogy az elkövetők személyre szabott, célzott manipulációs vagy zaklatási taktikákat alkalmazzanak. Ez pedig már átvezet a korábban tárgyalt profilozás eredményének felhasználásához.
Az Alapítvány arra is figyelmeztet, hogy a „deepfake” technológia révén ma már rendkívül élethű képek, videók és hangfelvételek hozhatók létre, amelyekben gyerekek arcképét, hangját, személyes jellemzőit vagy adatait (például születési helyét és idejét) engedélyük nélkül használják fel. Ezen adatok alapján a technológia lehetővé teszi, hogy az elkövetők hamis identitásokat hozzanak létre, vagy már létező profilokat lopjanak el, és más gyerekek bizalmába férkőzve olyan tartalmakhoz jussanak hozzá, amelyekhez egyébként nem lenne lehetőségük. Az elkövetők könnyebben tudják magukat a gyermek kortársának kiadni, hiszen az MI arra is alkalmas, hogy a beszélgetés stílusát, az elkövető szóhasználatát úgy alakítsa át, hogy az az adott korosztályhoz igazodjon.
A „deepfake” azonban további veszélyeket is hordoz magában. Egy átlagos fényképből is készíthető pornográf kép. Ebben az esetben viszont már a gyermekpornográfia tényállását valósítja meg az elkövető. Az alapul szolgáló képeket az elkövetők a közösségi médiák felületeiről könnyedén elérhetik.
Az MI elkövetők általi felhasználása jellemzően az adatvédelem kérdését is érintik.
A gyermek védelmét az online becserkészés és manipuláció ellen többek között az alábbiak segíthetik:
- olyan oktatási anyagok kidolgozása és terjesztése az iskolában, amelyek támogatják a gyerekeket abban, hogy felismerjék a digitális manipuláció jeleit, megértsék az online zaklatás és becserkészés működését, és tudják, hogyan kezeljék ezeket a helyzeteket;
- olyan MI-vel támogatott védelmi rendszerek létrehozása és megerősítése, amelyek képesek felismerni, azonosítani és megelőzni a gyerekek arcképének, hangjának vagy egyéb biometrikus adatának jogosulatlan felhasználását;
- a gyermekeket körül vevő felnőttek – különösen a szülők, gondviselők, pedagógusok – felkészítése arra, hogy kezelni tudják vagy észrevegyék az online bántalmazás és egyéb káros tevékenységek első jeleit.
Következtetések
Már alapvetően a gyermekek digitális jelenléte is kockázatot jelent, amit tovább fokoz az MI térnyerése. A gyermekek általában párhuzamosan több platformon is jelen vannak, mindezt gyakran szülői felügyelet nélkül.
A gyermekek különösen nehezen tesznek különbséget a valódi és szintetikus emberi jelenség között. Gyakorta nem ismerik fel a manipulált tartalmakat. Ez a probléma várhatóan fokozódni fog, hiszen a ma születendő gyermekek már az MI által átszőtt világba születnek bele, így a valóság és a generált dimenzió számukra összefonódik.
Fontos leszögezni, hogy az MI önmagában nem okozója a gyermekek áldozattá válásának, azonban fokozhatja a kiszolgáltatottságot, illetve az új kockázati tényezők mellett a meglévőket felerősítheti.
A mesterséges intelligencia azonban nem csupán az elkövetőknek nyújthat segítséget, de bűnüldözésben és a bűnmegelőzésben is fontos szerepet játszhat.
[1] Ezen blogcikkben gyermek alatt a 18. életévét be nem töltött személyt kell érteni.
Nyitókép: depositphotos.com
