Indító blogbejegyzésemben hírül adtam, hogy elkészült a mesterséges intelligencia szabályozását célzó átfogó EU rendeletszöveg még áprilisban. A tervezet rendelkezéseit folytatásokban ismertetem. A sorozat első részében azt jártam körbe, hogy hogyan definiálja a kódex az MI-t, míg a második részben a kódex hatályának kérdésével foglalkoztam. Ebben a harmadik részben a tiltott MI kategóriáit ismertetem a tervezet alapján.
Ahogy azt a tárgyi hatályról szóló bejegyzésben írtam, a tervezet négy kategóriába sorolja az MI-ket: a tiltott, a nagy kockázatú, a tájékoztatási kötelezettséggel együttjáró és a semmilyen korlátozás alá nem eső kategóriákba. Ebben a blogbejegyzésben először a tiltott kategóriák kerülnek terítékre.
A tervezet négy tiltott „mesterséges intelligencia gyakorlatot” sorol fel. Az első kategóriába az 5. cikk (1) a) pont alapján olyan MI-k tartoznak, „amelyek szubliminális (tudatalatti) technikákat alkalmaznak az adott személy tudatán kívül annak érdekében, hogy lényegesen torzítsák egy személy magatartását.” A rendelkezés elég sok értelmezési kérdést felvet, és őszintén szólva hosszas kutatás után sem találtam meggyőző példát arra, hogy a jogalkotó itt mire gondolhat – tekintetbe véve azt is, hogy például a gyermekek manipulálása vagy más kiszolgáltatott helyzetben levő csoportok helyzetével való visszaélés már nem ebbe a kategóriába, hanem a b) pont alá tartozik. Ezért csak találgathatok, hogy itt valószínűleg azokra az érzelmi manipulációkat alkalmazó marketingeszközökre, esetleg a függőségeket (például a játékszenvedélyt) kihasználó módszerekre lehet gondolni, amelyeket néhány sci-fi alkotásban is láthattunk a közelmúltban, illetve a magyar versenyhatóság a booking.com döntésben (amelyről korábban ezen a blogon is írtunk) hasonló gyakorlattól tiltotta el, és bírságolta meg a platformot.
Ennél kézzelfoghatóbb a b) pont szerinti rendelkezés, amely szerint tiltott az olyan MI, amely „a személyek egy meghatározott csoportjának életkor, testi vagy szellemi fogyatékosság miatt fennálló valamilyen sebezhetőségét” használja ki, hogy ezeknek az embereknek a magatartását torzítsa. Ez esetben elég világosan látszik, hogy főleg a gyerekeket célzó manipulatív MI-k betiltása volt a cél. Ahogy azt a 5rights Foundation cilvilszervezet egy kutatásában kimutatta, a fiatalok különösen hajlamosak például (MI nélkül is), hogy a videojátékok „jutalmazási ördögi körébe” („reward loop”) kerüljenek, így minden olyan alkalmazás, amely ezt kihasználja, rendkívül veszélyes számukra.
A c) pont kissé hosszabb és bonyolultabban megfogalmazott tiltást tartalmaz. Olyan rendszerekről van szó, amelyek „természetes személyek megbízhatóságának értékelésére vagy osztályozására” szolgálnak „egy bizonyos időszakon keresztül” és „hátrányos vagy kedvezőtlen bánásmódra” vezetnek, mégpedig olyan területeken, amelyek nem függenek össze „azzal a kontextussal, amelyben az adatokat eredetileg létrehozták vagy gyűjtötték”, illetve „indokolatlanok vagy aránytalanok” a magatartáshoz képest. A körmönfont megfogalmazás valójában a kínai társadalmi kreditrendszert igyekszik úgy betiltani, hogy közben ne korlátozza az élet számtalan területén hasznos, sőt olykor szinte nélkülözhetetlen profilozást, azaz természetes személyek bizonyos kategóriákba, csoportokba sorolását. Így nem általában tiltja ezeket az MI-ket, csak akkor, ha az értékelés a gyűjtött adatokhoz képest más területekre terjed ki. Mondjuk a politikai nézetei miatt valakit hátrány ér az egyetemi felvételin vagy nem kap bankhitelt, mert túl sok alkoholt vásárol a boltban. A törekvés üdvözlendő, más kérdés, hogy úgy tűnik a világ kicsit eltúlozta (démonizálta) a kínai rendszer hatékonyságát és kiterjedését.
Végül a d) pont ismét egy, a közelmúltban sok helyen nagy port felvert kategóriát tilt be, a „valós idejű távoli biometrikus azonosító rendszerek használatát a nyilvánosság számára hozzáférhető helyeken, bűnüldözési célokból”, azaz lényegében a köztéri arcfelismerést. Ismert, hogy több USA-beli városban nagy felháborodást keltett a rendszerek használata, és elég sok város be is tiltotta. Ennél a pontnál már azonban elég sok kivételt is találunk, hiszen könnyen belátható, hogy egy merényletre készülő terrorista vagy egy elveszett kisgyermek megtalálása felülírhatja ezt a tiltást. A kivételek épp ilyen esetekre vonatkoznak. Megengedett az arcfelismerő MI, ha „bűncselekmények konkrét potenciális áldozatainak” vagy „eltűnt gyermekek” felkutatása a cél, „terrortámadás megelőzése” vagy a legsúlyosabban büntetendő bűncselekmények (így például emberrablás, emberölés, szervkereskedelem, stb.) elkövetőinek felderítése. A tervezet az arcfelismeréssel kapcsolatos kivételek alkalmazásának konkrét feltételeit is részletezi, amelyek közül a „szükségesség és arányosság” tesztjét érdemes kiemelni: a hatóságoknak azt kell mérlegelniük, hogy az arcfelismerés elkerülhetetlenül szükséges-e és arányban áll-e az elérendő céllal.
