Katonai (etika) szemmel
A XXI. század technológiai forradalma, különösen a mesterséges intelligencia (MI) térnyerése alapjaiban rajzolhatja át a közszolgálat, a rendvédelem és a honvédelem mindennapjait. XIV. Leó pápa május 25-én, Pünkösd ünnepén promulgált Magnifica Humanitas kezdetű enciklikája erre a kihívásra reflektálva arra figyelmeztet, hogy a technológia soha nem jelent önmagában megváltást, de nem is eleve gonosz. A gyakorlatban azonban „soha nem semleges”, hiszen mindig azoknak a szándékait, érdekeit és értékeit tükrözi, akik finanszírozzák, fejlesztik és használják azt. A biztonságért és a tudományos oktatásért felelős szakemberek – különösen a Ludovika polgárai – számára az a központi kérdés, hogy milyen emberképet építünk bele abba a technológiába, amely egyre inkább szervezi a fegyveres konfliktusainkat, a politikánkat és a mindennapi munkánkat. A dokumentum egy összegzése lehetne az egyik legfajsúlyosabb mondata: az MI-nek az embert kell szolgálnia ahelyett, hogy a hatalom átláthatatlan koncentrációját segítené elő.
A közszolgálat és különösen a katonai hivatásrend számára a pápai dokumentum legfontosabb szempontjai közül kiemelkedik néhány. Az egyik ilyen az autonóm fegyverrendszerek és az optimalizáció illúziója. A dokumentum katonai-etikai szempontból egyik legfajsúlyosabb megállapítása, hogy az autonóm fegyverrendszerek csökkenthetik az erőszak alkalmazásának küszöbét, mivel a modern háborút gyorsabbá, személytelenebbé és „optimalizálhatóbbá” teszik. A pápai irat szerint a halálos vagy visszafordíthatatlan döntéseket szigorúan tilos átláthatatlan, automatizált folyamatokra bízni. Ez az etikai szakirodalomból jól ismert black-box (fekete-doboz) probléma. A harctéri döntési láncnak minden esetben visszakövethetőnek kell lennie, a morális felelősséget pedig soha nem lehet elhárítani azzal a kényelmes kifogással, hogy „a gép ezt javasolta”. Ez pedig a szakirodalom által tárgyalt ún. automation bias (az automatizációs elfogultság). Az optimalizáció ugyanis önmagában nem jelent etikai haladást.
A másik kiemelendő gondolat és üzenet a valóság torzítása.A modern konfliktusokat nemcsak a fizikai térben, hanem az információs színtéren is vívják, ahol a tét a közös valóságunk megőrzése. Az enciklika rávilágít, hogy az MI és a digitális platformok algoritmusai felerősítik a dezinformációt, szándékosan összemossák a tényeket a véleményekkel, és torz narratívákat képesek tömegesen terjeszteni. (fake news, deep fake) Ha a társadalom tagjai saját, személyre szabott algoritmikus buborékjaikba zárkóznak (ezt a szakirodalomban rokon silo és echo chamber kifejezések írják le), az nem pusztán kommunikációs zavar, hanem a demokrácia és a nemzetbiztonság meggyengüléséhez vezet. A rendvédelem és a közszolgálat számára ezért a tényeken alapuló igazság védelme ma már elsőrendű biztonsági feladat.
Az enciklika a munka világának átalakulásával kapcsolatban bevezeti a „deskilling”, azaz a képességvesztés fogalmát. Bár tegyük hozzá ez visszavezethető egyrészt Harry Braverman (1974) gondolatára, aki a kapitalista munkafolyamatokat elemezve írta le, hogyan bontják szét a gyárak a komplex szakmai tudást egyszerű, ismétlődő mozdulatokra, ezzel tudatosan csökkentve a munkások képzettségének szükségességét és így az alkupozícióját. Ellenben Shannon Vallor 2015-ös, a Moral Deskilling and Upskilling in a New Machine Age című tanulmányában adaptálta ezt a szociológiai fogalmat az etika területére. Érdekes, hogy az enciklika ezt csak implicite használja. Vallor nem a fizikai szaktudás, hanem az erkölcsi döntéshozatali képesség (moral skills) elvesztésére hívta fel a figyelmet. A probléma az, amikor a technológia nem kiegészíti és támogatja az emberi munkát, hanem kiüresíti azt, és a dolgozót puszta ellenőrzött, ismétlődő feladatokra redukálja. A honvédség és a rendőrség kontextusában ez húsbavágó kérdés: vajon az MI segít-e a katonai döntéshozóknak jobban gondolkodni, komplex helyzetekben dönteni és vezetni, vagy csupán az adminisztrációt és a vak megfelelést gyorsítja fel? Sőt, váltja fel?
A vatikáni bemutatón felszólalt Christopher Olah (az Anthropic társalapítója). Annak a cégnek egy prominens informatikai szakembere, amely etikai álláspontja miatt az USA védelmi szektorával való szakításával került a címlapokra, miközben egy zárt kibervédelmi rendszer fejlesztésén is dolgozik, amely megint éppen etikai aggályok miatt zárt. Nem véletlen, hogy ő kapott lehetőséget szólni a szentszéki ünnepi alkalmon. Olah arra figyelmeztetett, hogy a mesterséges intelligencia fejlesztését nem lehet pusztán a nagy tech-cégekre bízni, ahhoz széleskörű – kormányzati, civil és vallási – külső kontrollra van szükség. Olah három kiemelt területet nevezett meg, amelyre a társadalomnak fókuszálnia kell: a munkahelyek átalakulása, az MI hasznainak igazságos globális elosztása, valamint a rendszerek belső működésének megértése (interpretálhatóság). Ez utóbbi nem csupán technikai luxus, hanem kőkemény „morális és politikai kérdés”. Ha nem látjuk át pontosan, hogyan jut egy MI-rendszer a következtetéseire (például egy kockázatelemzés vagy profilalkotás során), azzal olyan hatalmi struktúrákat hozunk létre, ahol a felelősség „szétkenődve” oszlik meg, a döntés pedig vitathatatlanná válik.
A fentiekből (tehát nem csak az enciklikából) egyenesen következik, hogy a fegyveres testületeknél és a közszolgálatban az emberközpontú és felelős MI-stratégia elengedhetetlen. A technológiai beszerzéseknél és alkalmazásoknál meg kell követelni a rendszerek etikai szempontú vizsgálatát (pl. átláthatóság), hogy a döntéshozók mindenkor indokolni tudják lépéseiket. A Nemzeti Közszolgálati Egyetemhez hasonló intézményeknek a képzéseik során tudatosan kell küzdeniük a technológiai képességvesztés (deskilling) ellen. Olyan vezetőket kell képezni, akik értik az MI működését, de képesek megőrizni kritikai gondolkodásukat és nem engedik, hogy az emberi méltóságot „teljesítménymutatók, kockázati pontszámok” váltsák fel. A tisztképzésben különösen is fontos lesz a kiképzésbe való beépítés, de legalább ennyire az elméleti képzés azon belül is a filozófiai etikai és releváns jogi ismeretek is. Mindehhez képzett oktatókra, és olyan együttműködésekre van szükség, amelyek részben a civil technológiai cégekhez, részben az etikára szakosodott közösségekhez köti. Mindezt úgy, hogy nélkülözhetetlen lesz a multidiszciplináris megközelítés, ahol jogászok, filozófusok, IT szakemberek és még sok más terület szakemberei egymással karöltve segítik az oktatás-kutatás-fejlesztés hármasát. Hogy például egy civil szervezet, a Mesterséges Intelligencia Etika Fórum mottóját idézzem: „A szakember fogalma nálunk szándékosan sokrétű – hiszen a jövőt csak közösen érthetjük meg.”
Az enciklika szerint a mesterséges intelligencia robbanásszerű terjedése végső soron egy ősi kérdést tesz fel számunkra új formában: Bábelt építünk vagy Jeruzsálemet? Létrehozhatunk egy olyan technokrata „disztopikus” világot, ahol egy szűk elit koncentrált hatalma alatt minden csupán adat, kontroll és teljesítmény kérdése, de dönthetünk úgy is, hogy a technológiát a közös élet, az igazság és a béke szolgálatába állítjuk. Az enciklika a szakirodalomhoz képest igazán nem hoz újat, ugyanakkor egy ilyen pápai irat morális tekintély és a spirituális útmutató jellegű is. A legfontosabb üzenete nem a fejlődés megállítása, hanem az, hogy ne engedjük elszakadni az embertől a gépeket. A honvédelem, a rendvédelem és a tudomány képviselőinek óriási a felelősségük abban, hogy az eredmény, a teljesítmény, a számszerűsíthető mérési eredmények ne kerekedjenek az etikai mérlegelés, azaz értékek, kultúra és végső soron az ember fölé, és ne a gépek uralma jöjjön el az emberi szellem uralma helyett.
Nyitókép forrása: Melpomene / depositphotos.com
