A XXI. századi információs társadalom látszólag észrevétlenül lépett be az adatosítás korszakába. Ezt a korszakot kettő, a mai napig is tartó technológiai folyamat jellemzi; a külvilág eseményeit és az emberi magatartásokat digitalizált adatokká átalakítani képes eszközök és szolgáltatások széles körben történő elterjedése, valamint az így létrejövő hatalmas adatmennyiséget begyűjteni, tárolni és feldolgozni képes gépi eljárások rohamos ütemű fejlődése.
A számítógépes kapacitások jelentős mértékű növekedése és a folyamatosan bővülő adathalmazok rendelkezésre állása együttesen tették lehetővé, hogy a különböző MI, azaz mesterséges intelligencia alapú gépi eljárások mára képessé váltak olyan összetett feladatok elvégzésére is, melyek végrehajtása korábban kizárólag emberi közreműködéssel volt elképzelhető: MI-alapú diagnosztikai eszközök segítenek az orvosoknak a daganatos betegségek gyorsabb felismerésében; MI-számításokra támaszkodnak a bankok a hitelkérelmek automatikus kiértékelésekor; a biztosítóintézetek az ügyfélkockázati minősítések elkészítésekor; az adóhatóságok az állampolgárok adóelkerülési gyakorlatának azonosítására; a szociális ellátórendszerek, hogy megállapítsák egy adott személy állami ellátásokra és szolgáltatásokra való jogosultságát, de még a bűnüldöző hatóságok is annak érdekében, hogy pontosabb előrejelzéseket készíthessenek a jövőbeni bűnelkövetés vagy bűnismétlés valószínűségéről.
Az elmúlt években az ilyen, s az ezekhez hasonló MI eljárásokhoz kötődő társadalmi, etikai és jogi kockázatokkal kapcsolatban a figyelem elsősorban három kulcsfontosságú kihívásra irányult:
- az MI-re jellemző gépi tanulásból és autonóm működésből eredő átláthatóság, elszámoltathatóság és kiszámíthatóság hiánya;
- az MI által vezérelt téves, elfogult vagy diszkriminatív döntéshozatal veszélye;
- az MI-rendszerek alapvető emberi szabadságjogokra és a demokratikus intézmények működésére gyakorolt negatív hatása.
A jelen írás – terjedelmi korlátok okán – nem vállalkozik arra, hogy a fent említett MI eljárásokról és az azokhoz kapcsolódó veszélyekről részletes leírást adjon. Célja ehelyett a köz- és magánszektorban is egyre inkább népszerűbbé váló, MI alapú társadalmi pontozás gyakorlatainak rövid ismertetése.
Mi a társadalmi pontozás?
A társadalmi pontozás egy olyan algoritmikus gépi számításokon alapuló eljárás, amely az állampolgárokat személyes jellemzőik, illetve a különböző helyzetekben tanúsított magatartásuk alapján értékeli egy egyedileg hozzájuk rendelt pontszám segítségével. Az ehhez hasonló rendszerek szélsőséges formájára a leggyakrabban felhozott – és a nyugati médiában némileg félreértett – példa a kínai Társadalmi Kreditrendszer, melynek célja az állampolgárok „megbízhatóságát” értékelni különböző minősítő / osztályozó listák kialakításával. E listákban a jónak és kívánatosnak ítélt viselkedés – ilyen lehet például az önkéntes véradás – pontok hozzáadását, míg a nem megfelelő magatartás – például adófizetési határidő elmulasztása – pontlevonást vonhat maga után. Az összegyűjtött pontszámoktól függően részesülhet jutalomban vagy büntetésben az egyén.
Ilyen jutalom például az állam által támogatott tanfolyamokon való ingyenes részvétel, hozzáférés kedvezményes lakáshitelhez, az olcsóbb tömegközlekedés biztosítása, míg a büntetésként az egyetemekre történő beiratkozás megtiltását, hitelkérelmek automatikus elutasítását vagy a tömegközlekedés használatának határozatlan ideig történő megtiltását szabhatják ki. Egy ilyen központilag irányított, az egyént adatpontokra redukáló rendszer az állami túlhatalom kiépítésének jelentős kockázatát rejti magában; az a polgár, akinek – online és offline – magatartását a „Nagy Testvér” folyamatosan figyelemmel kíséri és értékeli, választási szabadságában és döntési autonómiájában is lényegesen korlátozott.
Szerencsére az ehhez hasonló általános pontozási gyakorlatok elterjedésével és széles körű alkalmazásával kapcsolatos aggodalmak – egyelőre – megalapozatlanok az EU tagállamaiban. Az Unió időben felismerte az általános társadalmi pontozásban rejlő jelentős veszélyeket, és prioritásként fogalmazta meg azok szigorú szabályozását. A Bizottság 2021. április 21-én tette közzé az MI-rendelet tervezetét, melyben olyan kockázat alapú megközelítést javasol, amely amellett, hogy szigorú technikai, jogi és etikai feltételeket ír elő bizonyos nagy kockázatú MI technológiák használatához (pl. az átláthatóság, az emberi felügyelet és a diszkriminációmentes döntéshozatal kapcsán), további négy MI gyakorlat tiltását rendeli el arra hivatkozva, hogy azok elfogadhatatlan kockázatot jelentenek az európai értékekre és az alapvető emberi jogokra.
A tervezet ilyen gyakorlatnak minősítette (1) a szubliminális (tudatalatti) technikák alkalmazásával történő manipulációt, (2) a veszélyeztetett csoportok valamely sebezhetőségét kihasználó magatartástorzító befolyásolást, (3) a hatóságok által végzett, mesterséges intelligencián alapuló, általános célú társadalmi pontozást, illetve (4) a valós idejű, távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken történő alkalmazását.
Az általános célú pontozással kapcsolatban külön megemlítendő, hogy az Európai Unió Tanácsa által 2022. december 6-án közzétett közös álláspont a Bizottság eredeti szövegéhez képest további szigorítást ír elő, és az állami hatóságok mellett megtiltja a magánszereplőknek is az ilyen gyakorlatok folytatását. E szigorítás két oknak tudható be: egyrészt a magánvállalatok, például a különböző közösségimédia- és felhőszolgáltatók a közhivatalokhoz hasonlóan hatalmas mennyiségű személyes adatot kezelnek, mely felhasználásával könnyedén végezhetnek kiterjedt társadalmi pontozást; másrészt a magánszektorban tevékenykedő, MI technológiákat alkalmazó cégek napjainkban már olyan létfontosságú infrastruktúrákat ellenőriznek, mint a szállítmányozás, a telekommunikáció vagy a közlekedés. Az e szektorokból történő, pontozáson alapú negatív elbírálás vagy kizárás legalább annyira súlyos társadalmi-gazdasági következményekkel járhat az egyének számára, mint az állam által nyújtott szolgáltatásokból való kizárás.
Vannak veszélyei?
Az Unió szigorú szabályozási törekvéseinek elismerése mellett e gyakorlatokkal kapcsolatban fontos megemlíteni azt is, hogy nem csak az állampolgárok „megbízhatóságát” értékelő általános pontozási eljárások hordoznak veszélyeket. Az európai közigazgatásban is számos alkalommal támaszkodnak nem általános pontozáson alapuló eljárásokra olyan fontos kérdések kiértékelésében, mint a közszolgáltatásokhoz való jogosultság ellenőrzése, a polgárok viselkedésével kapcsolatos kockázatok felmérése, valamint az emberi viselkedésminták azonosítása és előrejelzése. E gyakorlatok talán leginkább megosztó felhasználási területe az igazságszolgáltatási rendszerben történő alkalmazásukhoz kötődik. Szerepük és befolyásuk nem elhanyagolható, hiszen az ilyen módon készített értékelések befolyásolhatják a valós életben alkalmazott bűnmegelőzési stratégiákat, többek között azt, hogy hol szükséges fokozni a megfigyelést vagy mely személyek igazoltatása válhat indokolttá. Emellett a büntetőügyekben hozott bírósági döntésekre is hatással lehetnek, például az őrizetbe vétellel, az óvadék megállapításával, az előzetes letartóztatással, a próbára bocsátással vagy a büntetés-végrehajtás felfüggesztésével kapcsolatosan.
Erre példaként szolgálhat az Egyesül Királyságban évek óta használt HART kockázatelemző rendszer. A gépi tanuláson alapuló szoftvert a durhami rendőrség használja a jövőbeni bűnismétlés valószínűségének előrejelzésére. A HART rendszer – 34 kategóriát magába foglaló adatbázisból – profilt alkot az eljárás alá vont személyről, majd annak kiértékelésével egy kockázati pontszámokat hoz létre. A kapott pontszám alapján a vizsgált személyt a három előre meghatározott kockázati csoport (magas, közepes, alacsony) valamelyikébe sorolja. Ez az osztályozás segíti az igazságügyi hatóságok döntését a tekintetben, hogy vád alá helyezzék-e a személyt vagy a Checkpoint névre hallgató, bíróságon kívüli rehabilitációs programba utalják. Amennyiben az elkövető az alacsony kockázati csoportba kerül, a programba utalják, ezzel lehetőséget biztosítva számára, hogy elkerülje a bírósági eljárás lefolytatását. Ellenkező esetben – tehát ha közepes vagy magas kockázati csoportba sorolták – megindul a vádemelés. Ehhez hasonló – a bűnelkövetési valószínűséget előre jelző – eszközöket használnak a bűnüldöző szervek például Hollandiában (ProKid), Svájcban (Precops), Németországban (RADAR-iTE) és Olaszországban (Delia) is.
Érzékelve a gyakorlatokhoz kötődő potenciális veszélyeket, több jogvédő szervezet is kritikával illette az Unió rendelettervezetét, amiért az kizárólag az általános társadalmi pontozást, illetve a személyek megbízhatóságát értékelő pontozási eljárásokat rendeli tiltani. Érvelésük szerint a pontozáson alapuló eljárásoknak több olyan – jelenleg nagy kockázatúként kategorizált – alkalmazási módja is létezik (pl.: szociális ellátáshoz való hozzáférés engedélyezése, jövőbeni bűnelkövetés / bűnismétlés valószínűségének előrejelzése), ami jelentős veszélyeket rejt az állampolgárok alapvető szabadságjogaira nézve. Álláspontjuk szerint az állampolgárok hosszú távú érdekeire tekintettel a jövőben ezek tiltása is szükségessé válhat.
Jelenleg még kérdéses, hogy az uniós szervek a végleges szabályalkotási folyamat során megalapozottnak látják-e ezeket az aggodalmakat. Az EU rendes jogalkotási eljárásának megfelelően a háromoldalú tárgyalások azt követően kezdődhetnek meg, hogy a Parlament 2023 júniusában elfogadta a tervezetre vonatkozó álláspontját. Az európai jogalkotók – optimista – becslése szerint a végleges Mesterséges Intelligencia jogszabályt még ez év végéig, de legkésőbb a 2024-es európai parlamenti választások előtt el tudják fogadni.
A blogbejegyzés a TKP2021-NKTA-51 számú projektben, a Kulturális és Innovációs Minisztérium Nemzeti Kutatási Fejlesztési és Innovációs Alapból nyújtott támogatásával, a TKP2021-NKTA pályázati program finanszírozásában valósult meg.
