Nemrégiben megjelent egy fontos írás Stefan Larsson svéd professzor tollából. A Lundi Egyetem oktatója szembemenve a jelenleg divatos állásponttal azt állítja, hogy a gombamód szaporodó etikai útmutatók nem megfelelő eszközei a mesterséges intelligencia (MI) szabályozásának. Mivel magam is mélyen egyetértek ezzel a kijelentéssel, ebben a blogbejegyzésben szeretnék a svéd kollégám álláspontja mellett érvelni, és egy másik diskurzus, az „elfogulatlan (nem-diszkrimáló) MI” diskurzusának tévedéseire is rávilágítani.
Az MI-t legalább ugyanakkora szorongás veszi körbe, mint amekkora lelkesedés és várakozás. A szorongás fő forrása az a gondolat, hogy az MI – különösen ennek gépi tanuláson alapuló változata – egy bizonyos ponton túl kicsúszhat a kezeink közül és különböző sérelmeket, károkat okozhat (a munkahelyeink elvételétől a rasszista, elfogult döntéseken keresztül az emberiség pusztulásáig). A közvélemény tele van tévhitekkel, a politika, az akadémiai szféra és a nagyvállalatok pedig buzgón igyekeznek mutatni, hogy tesznek valamit a kockázatok kezelése érdekében.
A lázas kockázatkezelés és katasztrófa-megelőzés legfontosabb eszközei jelenleg azok az etikai kódexek, amelyek közül az egyik ezzel foglalkozó gyűjtőoldal már több mint 150-et listáz. A legtöbb ilyen etikai kódex nem hosszabb egy-két oldalnál és nagyjából a jól ismert Asimov törvények első passzusát bontja ki részletesen, miszerint a robotnak nem szabad kárt okoznia emberi lényben. A különböző kódexek a lehetséges károkozások változatos formáit igyekeznek felsorolni a nem, faj, etnikum, bőrszín alapján diszkrimináló algoritmusoktól kezdve a homályos, nem érthető szempontok alapján igazságtalan vagy embertelen döntéseket hozó kódokig. A kódexek nagy része ennél a szintnél nem is nagyon megy tovább, míg más kódexek esetleg igyekeznek kissé operatívabb, technikaibb szabályokat is megfogalmazni az adatkezelésre, az adatok betöltésére, értelmezésére, az MI döntések alól mindenképpen kivett területekre, esetleg bizonyos eljárási szabályokra vonatkozóan. Az EU vonatkozó legfrissebb anyagáról (a Fehér Könyvről) blogunkban mi is írtunk már, de Európa egyébként is erős az etikai kódexekben és a szorongásban, ahogy azt az Európai Bizottság Mesterséges Intelligenciával Foglalkozó Magas Szintű Szakértői Csoportjának Megbízható Mesterséges Intelligenciára Vonatkozó Etikai Iránymutatása is mutatja.
Larsson, részben Thilo Hagendorff, részben pedig Mark Coeckelbergh írásaira támaszkodva azzal érvel, hogy az etikai kódexek egyszerűen túl általánosak, sok pontjukon egymással ellentétes eredményekre is vezethetnek, nem veszik figyelembe a technológia sajátosságait és sok olyan elvárást is tartalmaznak, amelyeknek az MI különböző területein egyszerűen nincsen értelme. Bár tudományos írásként nem mondja ezt ki ilyen erős formában, de a lényege az, hogy ezeknek a kódexeknek bizony nem sok értelmük van.
Vegyük az első két elvet, amely szinte minden kódexben kitüntetett helyen szerepel: a „transzparencia”, és a „megmagyarázhatóság” elveit. Ez azt mondaná, hogy az MI működésének átláthatónak és elmagyarázhatónak kell lennie. Ezután pedig gondoljunk a Google rangsoroló vagy a Facebook newsfeed algoritmusára. Mindkét algoritmus csaknem bizonyosan tartalmaz gépi tanuláson alapuló elemeket és produkálhat nem várt (nem-determinisztikusnak tűnő) kimeneteket. Ugyanakkor mindkét algoritmus nemcsak egyszerűen túl bonyolult ahhoz, hogy el lehessen magyarázni, hanem ráadásul a cégek üzleti titkát is képezi, így valószínűleg még az ehhez értő szakemberek sem fogják soha megtudni, hogy mi van a „belsejükben”. A két legfontosabb algoritmusra a két legfontosabb elv tehát már mindjárt nem alkalmazható.
További gond, hogy ezeknek az általános elveknek a lefordítása a technológia aprópénzére egyáltalán nem triviális. Egy bank rámondhatja a hitelbírálati szoftverére hogy „megfelelő indokolást” nyújtott a hitelbírálati döntéshez, mert felsorolta azokat a paramétereket (személyes körülmények, anyagi helyzet, fedezet nagysága, pénzügyi előélet stb.), amelyeken a döntés alapszik. Ugyanakkor ez valójában nem tette a döntést átláthatóvá, és jól megmagyarázottá, hiszen semmit nem mondott arról, hogy a konkrét döntés során melyik paramétert hogyan, milyen mértékig és főleg milyen adatok alapján hozták meg. A többi elvvel ugyanez a helyzet: nagyon nehezen lehet megmondani, hogy hol van az a határ, ahol egy ilyen általánosan megfogalmazott követelménynek már megfelel egy MI.
Az etikai kódexek legproblematikusabb elvárása és állatorvosi lova ebből a szempontból a diszkriminációtilalom. Itt a fentebbi problémák ugyanis két újabbal egészülnek ki: nemcsak arról van szó, hogy a diszkrimináció maga is egy rendkívül sokrétű és nehezen értelmezhető jogi konstrukció, hanem arról is, hogy az MI soha nem diszkriminál közvetlenül védett tulajdonságok (pl. bőrszín, kisebbség) alapján, hanem jellemzően olyan demográfiai és egyéb paraméterek alapján dönt, amelyek sokszor statisztikailag „rámutatnak” egy védett csoportra. A lakóhely, az iskolai végzettség és a vagyoni (jövedelmi) helyzet hármasa például nagyon gyakran igen pontosan behatárolnak egy védett csoportot (Magyarországon is).
További gond a diszkriminációmentes MI-vel, hogy az MI szabályozásának diskurzusa mintha egyszerűen átugrotta volna azt a problémát, amelyet az alkotmányjog régebb óta a „horizontális hatály” fogalmával ír körbe. A magáncégek az üzleti tevékenységük körében (csaknem) szabadon szerződhetnek, akivel csak akarnak. (Persze az Általános Szerződési Feltételek tartalmát régebb óta szabályozza a magánjog, de ettől most tekintsünk el.) Az, hogy szűk körben az utóbbi időben elkezdtek bizonyos alapjogi-alkotmányjogi követelményeket számon kérni rajtuk, egy lassú és sok buktatóval terhelt folyamatnak tűnt – egészen mostanáig. Úgy tűnik ugyanis, hogy az MI „diszkriminációtilalmi” diskurzusa egyszerűen átugrotta ezt a kérdést és adottnak veszi, hogy a magánszereplőknek is be kell tartani ezeket a – gyakran tisztán alkotmányjogi – követelményeket. Én azonban úgy vélem, hogy ezen a problémán nem lehet ilyen egyszerűen átugrani. A „mellérendeltségen alapuló, diszpozitív” magánjog eszméje az utóbbi időben mintha szinte teljes defenzívába vonult volna, én szeretném ugyanakkor még nem eltemetni. És egyetértek Larssonnal, hogy az MI-vel kapcsolatban az újabb és újabb etikai kódexek gyártása elég haszontalannak tűnik. Ennél szerintem kreatívabbnak és alaposabbnak kellene lennünk. Egy következő blogbejegyzésben igyekszem felvázolni azt is, hogy szerintem milyen irányban kellene elindulnunk.