El kell-e dobnunk az összes régi szabályt?
Ennek a sorozatnak a nyitó blogbejegyzésében, amelyben az egyre szaporodó mesterséges intelligencia etikai kódexek hiábavalóságát részleteztem, egyúttal ígéretet tettem, hogy ezek helyett néhány konkrét és kézzelfogható javaslatot teszek a mesterséges intelligencia szabályozására. Az első blogbejegyzés az MI definíciós javaslatát tartalmazta. A második arról szólt, hogy kik legyenek az MI szabályozás címzettjei. A harmadik azt taglalta, hogy a jogi, az etikai és a technikai szabályok milyen keverékét érdemes alkalmazni az MI „fékentartására”, a negyedik pedig, hogy érdemes-e általános „robotjogi”, vagy „MI-törvénykönyvet” alkotni. Ebben az ötödik, befejező bejegyzésben azt a kérdést teszem fel, hogy vajon a „régi” jogi szabályok közül mennyi lesz használható egy MI-kel teletűzdelt környezetben, és lehet-e valamilyen általános jóslatot mondani erre vonatkozóan.
A sorozat korábbi cikkeiben már többször érintettem azt a kérdést, hogy vajon mennyit lehet megtartani a „régi” jog szabályaiból abban a „szép új világban”, amelyben az élet sok területén MI (gépi tanuláson alapuló) algoritmusok tevékenykednek?
Mivel az általános válasz elég nehéz, ismét érdemes elővenni néhány konkrét területet. Elsőként azt, ahol az autonóm, MI alapú ágensek már kézzelfogható közelségben vannak: az önvezető autók világát. A kérdés tehát az, hogy szükség lesz-e ebben a világban hagyományos KRESZ-re, hogyan alakul át a műszaki tanúsítás rendszere, a magánjogban kellenek-e módosítások a felelősség kapcsán, és vajon a büntető törvénykönyv közlekedési bűncselekményeket tartalmazó XXII. fejezetéhez hozzá kell-e majd nyúlni?
Ebben a konkrét esetben nyilvánvaló, hogy a válasz – persze más körülmények mellett – főként azon múlik, hogy az önvezető járművek teljesen átveszik-e a közlekedésben az uralmat, vagy hosszú ideig velünk marad egy olyan állapot, amelyben közösen vesznek részt autonóm gépek és emberek. Az embereknek szükségük van KRESZ-re, amely nekik szóló parancsokon keresztül koordinálja a járművek mozgását, olyan szabályrendszerre amely egészségügyi alkalmasságukat garantálja, meg azt, hogy megtanultak vezetni, és a járművek átvizsgálását előíró, nagyrészt a biztonsággal kapcsolatos mechanikai követelményeket tartalmazó szabályokra. És természetesen a magánjogi és a büntetőjogi felelősség szabályaira is. Ebben a kevert rendszerben a gépeket is meg kell tanítani olvasni az embereknek készült táblákat és jelzéseket, valamint felkészíteni őket az emberi esendőségből és hibázási hajlamból eredő kockázatokra is. A válasz tehát természetesen az, hogy a régi szabályokra mindeddig még szükség lesz.
Egy olyan világban azonban, ahol már kizárólag autonóm ágensek vezetik az autókat, mindez vagy feleslegessé, vagy teljesen más súlypontúvá válik. KRESZ-re abban az értelemben, ahogy azt most értjük, egyáltalán nem lesz szükség. A gépeket nem célszerű színes táblákkal utasítani arra, hogy hajtsanak lassabban, vagy adjanak elsőbbséget, ez közvetlen adatszintű kommunikációval sokkal gyorsabb és biztonságosabb. Ez azt is jelenti, hogy a jelenlegi önvezető járművekre vonatkozó műszaki erőfeszítések – pl. a táblák felismerésének képességét fejlesztő megoldások – egy jelentős része egy csapásra értelmét vesztené, ha hirtelen kizárólag autonóm gépek vennének részt a forgalomban, hiszen a gépeket a többi ágens, az infrastruktúra, illetve a külső környezetből nyert szenzoradatok fogják vezérelni. Hiszen mi értelme egy 60-as sebességkorlátozó táblának, amikor a forgalom és a külső körülmények alapján az algoritmusok pillanatról pillanatra képesek lesznek eldönteni, hogy mi a biztonságos sebesség egy adott helyen. Nincsen szükség továbbá az emberek egészségügyi és képességbeli vizsgálatait taglaló jogszabályokra sem, és értelmüket vesztik a közlekedési bűncselekmények. Nagyon is szükség lesz viszont az önvezető algoritmusok „fittségét” és „vezetési képességét” előíró sztenderdekre, és ezeket megbízhatóan tesztelő rendszerekre, valamint a járművek koordinációját a régi KRESZ alapelvei (tehát magasabb szintű elvei, és nem részletszabályai) alapján végző rendszerekre, és az ezeket vezérlő szabályokra.
Gondoljuk még tovább ezt a helyzetet. Ha kizárólag ember nélküli járművek vesznek részt a közlekedésben, valójában már arra sem lenne szükség, hogy minden gépjármű saját autonóm MI megoldással rendelkezzen, mert ekkorra sokkal célszerűbb egy értelmesen lehatárolható közlekedési alrendszer (pl. egy város, vagy egy meghatározott autópálya-szakasz) forgalmát egyetlen szoftverrel irányítani, ahol az egyes járművek csak végrehajtanák ennek a szoftvernek az utasításait. A közlekedőknek csak az úti céljukat kellene közölni a rendszerirányító ágenssel, amely ezután a legcélszerűbb, leggyorsabb és legbiztonságosabb módját választhatná ki az utazásnak. Egy ilyen rendszer szabályai pedig ismét másfélék kellene hogy legyenek, hiszen nemcsak az egyes járművek, hanem a központi vezérlő szoftver megfelelőségét is folyamatosan monitorozni és mérni kellene.
Ugyanakkor ebben a felállásban nemcsak műszaki természetű sztenderdekre lesz szükség: egészen biztosan szükség lesz majd olyan szabályokra is, amelyek a szoftver(ek) döntéseit emberi nyelven elmagyarázzák az autóban ülőknek. És szükség lesz olyan szabályrendszerre is, amely a minden erőfeszítés ellenére bekövetkező balesetek és károk jogi következményeit kezeli. Ez azonban csaknem bizonyosan nem a hagyományos kártérítési és büntetőjogra fog hasonlítani. Hiszen az autonóm ágens bárminnyire is emberszerű viselkedést tanúsít a maga szűk területén, (ti. a „járművezetésben”), a vétkesség, amelyre ezek a rendszerek épülnek, az esetében mégiscsak kizárt, ahogy egyébként a központi forgalomirányító szoftver esetén is, ha itt egyáltalán előfordulhat káresemény. A károsultat kompenzálni lehet, de a hibázó MI-t szankcióval értelmetlen sújtani.
Ugyanez a gondolatmenet azonban más szektorokban már csak korlátosan alkalmazható. A pénzügyi szektorban, másik visszatérő példámban, a robot tanácsadóknak szintén meg kell tudni magyarázni a döntéseiket, – ez ebben a világban nem új, hanem nagyon is régi szabály, a pénzügyi fogyasztóvédelem sok más szabályával együtt, amelyet a robotbrókereknek is ugyanúgy be kell tartaniuk, mint az embereknek. Tisztességesen tájékoztatniuk kell az ügyfelet a lehetőségeikről, fel kell tárniuk a kockázattűrő képességüket, a piacon található befektetési lehetőségek közül a lehető legszélesebb körben kell választaniuk terméket, és főképp a befektető érdekében, és nem az őket üzemeltető cég érdekében kell eljárniuk.
Ezt a világot is elkezdhetjük továbbgondolni abban az irányban, hogy elképzelhető-e egy olyan pénzügyi piac, ahol a közlekedés analógiájára az emberek már csak a befektetési és profitcéljaikat közlik az ágensekkel, de magán a tényleges tranzakciók piacán már kizárólag szoftverek és gépek mozognak. Ez nagyon is elképzelhető, de ha be is következik, ez a rendszer akkor sem lesz soha úgy központosított, mint a közlekedési rendszerek, mert a robotbrókerek egymással versengő, adott esetben egymásnak kárt (veszteséget) is okozni képes ágensek maradnak majd, mindvégig elszigetelt tranzakciókkal: a pénzpiacon a versengés marad a főszabály, és az együttműködés a kivétel, szemben a közlekedéssel. Ahogy kivételesek lesznek azok a koordinációs és felelősségi szabályok is, amelyek a piaci összeomlásokat akadályozzák meg. Ezért ebben a szférában nagyon sokminden alakul majd másképp. Máshogy alakul a kártérítés kérdése. A közlekedési rendszerektől eltérően a jogi szabályoknak ebben a világban nem kell megóvniuk az egyes aktorokat mindenféle károsodástól, anyagi veszteségtől, hiszen a robotbrókerek is csak kockáztatnak. Ez egyébként mutatja egyúttal azt is, hogy egy olyan általános elv, hogy az MI semmilyen körülmények közt nem okozhat semmilyen kárt az embernek, egyszerűen értelmetlen, hiszen a robotbrókerek a pénzügyi piacokon adott esetben egy-egy tranzakcióval igenis okozhatnak veszteséget nemcsak a piac kívülálló résztvevőinek, hanem akár a saját megbízójuknak is anélkül, hogy megtérítési kötelezettség(ük?) keletkezne.
Mindez csak két példa volt, és messze nem vettem végig még ezen két példa összes szabályozási kérdését sem. Nem túlzás tehát azt állítani, hogy nagyon komplex problémáról van szó, főként azért mert az MI-k az élet számos más területén is teret hódítanak, ahol minden kérdést újra és újra végig kell majd gondolni. És a válaszok nagyon változatosak lesznek attól függően hogy például autonóm fegyverrendszerről, az ipari termelésben és termelésirányításban használt, a mezőgazdaság, az egészségügy, az oktatás, a tudományos kutatás vagy a közigazgatás területén tevékenykedő MI-kről van szó.
Mivel ez a bejegyzés egy sorozat utolsó tagja, néhány szót érdemes következtetés gyanánt mondani.
Az első következtetés az óvatosságé: a jövőt senki sem képes előre látni. Új felfedezések, váratlan események ezt a jövőt nagyon sokfelé alakíthatják. Ki tartotta másfél éve azoknak a virológusoknak a forgatókönyveit reálisnak, akik egy, az életünket alapvetően felforgató világjárványt jósoltak már régebb óta? Bizonyára nagyon kevesen. De a járvány bekövetezett, és lehet, hogy az emberiség sorsát teljesen más pályára állítja, mint amit még röviddel ezelőtt is képzeltünk. Ugyanez igaz az MI-re is: itt is születhetnek olyan felfedezések, és történhetnek olyan váratlan események, amelyek a mostani magyarázó kereteket teljesen felülírják majd, beleértve az én öt részes blogsorozatomat is. Megjegyzem, ha néhány apokaliptikus jóslat bekövetkezik, akkor egyáltalán nem kell bajlódnunk majd szabályozási problémákkal.
A második következtetés a válasz ennek a bejegyzésnek a címében felvetett dilemmára: nem, nem kell eldobnunk az összes szabályt, de azt, hogy melyek maradhatnak meg, és melyek helyett kell újat alkotni, inkább az adott terület, életviszony dönti el, amelyen az MI tevékenykedik, így nagyon nehéz ezzel kapcsolatban általános szabályt felállítani. Az biztos, hogy a meglevő normák célját, morális igazolásait újra végig kell majd gondolnunk, és ennek fényében eldönteni, hogy milyen szabályozás szükséges.
Végül a harmadik következtetés az, hogy emiatt az MI-ről általában alig van értelme beszélni, ha szabályozásról szólunk. A kockázatok és az érdekek annyira különböznek azokon a területeken ahol az MI megjelent, hogy ezekből szinte lehetetlen mindenre érvényes általánosítható következtetéseket levonni. Az etikai kódexek is – amelyek valójában a jogszabályok célját és igazolási alapját tartalmazzák – csak akkor igazán hasznosak, ha figyelembe veszik az adott életviszonyt, ágazatot, amelyben az MI tevékenykedik.
