Hol húzódnak a felelősség határai az autonóm robotika korában?
Ki a felelős, ha egy részben autonóm robot hibás döntést hoz a közös fizikai térben? Valóban megőrizhető-e az érdemi emberi kontroll ott, ahol a helyzetértékelés és a fizikai beavatkozás folyamatosan egybefolyik? Csupán morális gyűrődési zónává válik a hús-vér kezelő, aki a bonyolult rendszerek hibáiért elviszi az erkölcsi és jogi felelősséget? Vagy felruházhatók-e a gépek erkölcsi státusszal, amint önállóan kezdenek cselekedni a mindennapjainkban? Markovics Milán Mór őrnagy, a Nemzeti Közszolgálati Egyetem Hadtudományi és Honvédtisztképző Kar Hadtörténelem Tanszékének egyetemi oktatója kutatási programjában pontosan ezeket a határvonalakat vizsgálja, arra a kérdésre keresve a választ, hogy miként őrizhető meg az ember érdemi szerepe egy olyan világban, ahol a gépek önállóan érzékelnek, mozdulnak és avatkoznak be a mindennapokba
A digitális algoritmusok kiléptek a képernyők korlátai közül: a modern robotikai rendszerek terjedésével a gépek ma már közvetlenül a fizikai valóságban cselekszenek és formálják a mindennapi döntéseket. Ez a technológiai váltás alapjaiban rendezi át az emberi cselekvőképességet, a kontrollt és az erkölcsi felelősséget.
A digitális tanácsadástól a fizikai cselekvésig: a robotika új etikai kihívásai
Az őrnagy kutatási programjának korábbi fázisa a szoftveres döntéstámogató rendszerek működésére fókuszált. Markovics Milán hangsúlyozta, hogy ez a szakasz csupán az elkerülhetetlen kiindulópontot jelentette, hiszen a felmerülő etikai dilemmák nem zárhatók le a tisztán digitális környezetben. A döntéstámogató szoftverek esetében a legfőbb kérdés az, hogy az ember mennyiben marad a folyamat érdemi alakítója. Attól ugyanis, hogy a formális eljárási rend szerint egy ember hagyja jóvá a gépi ajánlást, még nem biztosított, hogy az illető valóban átlátja a helyzetet, képes mérlegelni az alternatívákat, és birtokában van a valódi döntési szabadságnak.
„Amikor emberi ágenciáról, cselekvőképességről beszélek, ezt az érdemi cselekvői szerepet értem rajta. Ezt pedig nemcsak az algoritmus határozza meg, hanem az is, milyen körülmények között használják, és milyen szervezeti döntések veszik körül” – fogalmazott az őrnagy.
A vizsgálódás robotika felé történő kiterjesztését két indok tette szükségessé. Az egyik ok gyakorlati: a mesterséges intelligencia és a robotika összekapcsolódásával a gép a közös fizikai térben kezd önállóan műveleteket végezni. A másik indok elméleti mélységű: az ágencia kérdését ki kell terjeszteni a döntések fizikai végrehajtására is. Ha egy mentőrobotnak el kell jutnia egy sérülthöz, a végső célt ugyan az ember jelöli ki, de a konkrét útvonalat és az akadályok kikerülését már maga a gép választja meg, mozgásával befolyásolva mások lehetőségeit is.
Markovics Milán idézte Steven Spielberg Mesterséges értelem című filmjét, amely meglátása szerint kiválóan vetítette előre a ma tapasztalható erkölcsi dilemmákat. A fizikai megtestesülés, azaz a robotikában alapvető embodiment fogalma – amelyre Rolf Pfeifer és munkatársai már évtizedekkel ezelőtt rávilágítottak – azt mutatja meg, miként fonódik össze a test, a vezérlés és a környezet.
„A robotika nagyon élesen veti fel, hogyan maradhat felelős az ember egy olyan folyamatért, amelynek a részleteit már nem ő irányítja” – emelte ki a kutató.
Egy részben autonóm robot esetében a helyzet felmérése és a beavatkozás folyamatosan egybefolyik. Amíg a szoftveres döntéstámogatásnál az ember megfontolhatja a gépi ajánlást a cselekvés előtt, addig a robot mozgás közben érzékel, módosít, és ezzel megváltoztatja azt a helyzetet, amelyet az embernek értékelnie kellene. Egy gondozórobot példáján keresztül az oktató rávilágított, hogy amikor a gép felsegít valakit, az erő alkalmazásának és a mozdulat irányának közvetlen erkölcsi jelentősége van, hiszen egyszerre érinti a testi épséget és a személy akaratának tiszteletben tartását.
Ember és gép fizikai együttműködése: kényszerpályák a közös cselekvési térben
A fizikai világban történő együttműködés során az ember és a gép közös cselekvési teret hoz létre, ahol a felek mozdulatai kölcsönösen meghatározzák a másik választási lehetőségeit. Az őrnagy felhívta a figyelmet arra, hogy a középpontban mindig az a kérdés áll: mennyire képes az ember a saját megértése, belső értékei és mérlegelése alapján formálni azt a cselekvést, amelyért utólag a felelősséget várják tőle. Ha a rendszer architektúrája és a szervezeti rend előre rögzíti a kereteket, az ember szerepe beszűkülhet, még ha formálisan ő mondja is ki a végső szót.
„Szerintem az egyik legsúlyosabb etikai probléma ott jelenik meg, ahol elválik egymástól az, amit elvárunk valakitől, és az, amit ténylegesen meg tud tenni. Elvárjuk, hogy vállalja a döntés következményeit, közben viszont nincs elég információja, ideje vagy felhatalmazása ahhoz, hogy érdemben felülvizsgálja a gépi javaslatot” – mutatott rá a szakértő.
Ennek a dinamikának a megértéséhez az őrnagy egy konkrét példát hozott fel. Képzeljük el, hogy egy ember és egy részben autonóm robot együtt visz egy hordágyat. A robot mozgása hat az ember egyensúlyára, az ember reakciójára pedig a robot rendszere válaszol. Ha a gép hirtelen akadályt érzékel és irányt vált, a saját szempontjai szerint ez indokolt lehet, ám veszélyeztetheti a sérültet. Az emberi kontroll ott csúszik el, ahol a kezelő már csak alkalmazkodni tud a megkezdett mozgáshoz, módosítani pedig nincs ideje vagy eszköze. Ilyenkor a gép működése szűkíti be az emberi választásokat.
Markovics Milán hangsúlyozta, hogy ez a jelenség az iparban terjedő kollaboratív robotok, a cobotok használatakor is tetten érhető. Az érdemi kontroll megőrzéséhez elengedhetetlen, hogy látszódjon, mire készül a robot, az ember menet közben is alakíthassa a folyamatot, és a leállítás ne okozzon még nagyobb veszélyt. Egyetlen vészleállító gomb önmagában nem garantálja a biztonságot, ha a hirtelen megállás is sérülést idézhet elő.
Az emberi kontroll és a morális gyűrődési zóna
Az etikai szakirodalomban központi jelentőségű érdemi emberi kontroll – angolul meaningful human control – fogalmával kapcsolatban Markovics Milán Filippo Santoni de Sio és Jeroen van den Hoven elméleti keretére hivatkozott. A kutatók két feltételt emeltek ki: az úgynevezett trackingfeltétel megköveteli, hogy a rendszer működése érzékeny legyen a releváns emberi és erkölcsi indokokra, míg a tracingfeltétel kimondja, hogy a gép működése visszavezethető kell legyen olyan személyekig, akik értik a rendszer képességeit és a saját felelősségüket. „Ha ezek a feltételek hiányoznak, az ember jelenléte vagy jóváhagyása könnyen puszta formalitássá válik” – mondta az őrnagy.
Markovics Milán hozzáfűzte, hogy a hallgatóinak is folyamatosan felhívja a figyelmét arra: ne bízzák magukat vakon a hatékonynak tűnő gépi rendszerekre. Ha ugyanis valaki a gépi automatizmusok miatt elszokik az önálló feladatmegoldástól, idővel elveszíti a kritikus felülbírálathoz szükséges szakmai tudását. Példaként hozta fel a szoftverfejlesztést, ahol a mély tudás nélküli, mesterséges intelligenciára támaszkodó kódolás – a vibe coding – komoly veszélyeket rejt, amennyiben a fejlesztő nem képes ellenőrizni az eredményt.
Amikor a szervezetek a felelősséget a kezelőre hárítják anélkül, hogy megadnák a valódi beavatkozás feltételeit, Madeleine Clare Elish fogalmával élve egy morális gyűrődési zóna jön létre. Ahogyan a gépkocsi gyűrődési zónája a fizikai ütközés energiáját nyeli el, úgy veszi magára az ember a rendszer hibájának valamennyi erkölcsi következményét. Balesetkor a számonkérés a kezelőt éri el, míg a helyzetet előidéző korábbi szervezeti és fejlesztési döntések rejtve maradnak.
A felelősségre vonás klasszikus filozófiai feltételei az ismereti és a szabadságfeltétel. Az ismereti feltétel azt vizsgálja, mit tudott vagy mit kellett volna tudnia a kezelőnek, míg a szabadságfeltétel a tényleges befolyás mértékét méri. Az oktató érvelése szerint nehéz megindokolni, hogy valakit csak azért hibáztassunk, mert éppen ő ült a kezelőpultnál, miközben a korábbi eljárások meghatározták a cselekvési korlátait.
Széttöredező felelősség: ki a valódi döntéshozó az összetett rendszerekben?
Az összetett rendszerek esetében a felelősség tisztázását megnehezíti, hogy a végeredményt több egymásra épülő döntés alakítja. Markovics Milán rávilágított arra, hogy a „végső soron ki döntött?” kérdés mögött gyakran az a téves feltételezés áll, hogy egyetlen döntési pillanatot és egyetlen szereplőt kell megtalálnunk. A valóságban a célok kijelölése, a kockázatok elfogadása, az architektúra megtervezése és az üzemeltetési szabályok mind a láncolat részei.
„Magát a robotot nem tenném automatikusan egy kategóriába a gyártóval és az üzemeltetővel. Abból, hogy a robot közvetlenül okoz valamit, még nem következik, hogy erkölcsileg felelősségre vonható. A gép döntött magyarázat nem mentheti fel azokat, akik a rendszert kialakították és alkalmazták” – szögezte le az őrnagy.
Amikor egy szervezetben mindenki csak a saját részfeladatára hivatkozik, és senki sem vállalja a teljes működés kockázatát, Dennis Thompson nyomán a sok kéz problémájáról beszélhetünk. Ha sokan működnek közre egy folyamatban, rendkívül nehéz megállapítani az egyéni felelősséget. Ennek megelőzésére Markovics Milán szerint már a bevezetés előtt világosan rögzíteni kell a szerepköröket a rendszer teljes életciklusára vonatkozóan, meghatározva, kinek mit kell ellenőriznie és mikor köteles közbelépni.
Humán kompetenciák és etikai korlátok: a tudásmegőrzéstől a robotok morális megítéléséig
A robotokkal való együttműködés hosszabb távú hatásairól szólva Markovics Milán óvatosságra intett, különválasztva az alkalmi teljesítményingadozást a képességek tartós elsorvadásától. Hivatkozott Cymek, Truckenbrodt és Onnasch 2023-as berlini kísérletére, ahol a résztvevők áramköri lapok hibáit keresték. Az a csoport, amely úgy tudta, hogy előttük egy robot már átnézte a képeket, kevesebb hiányosságot vett észre a jelöletlen hibákból, mint az egyedül dolgozók. A szerzők ezt a társas lazsálás jelenségével hozták összefüggésbe: az emberek kevésbé figyelmesen dolgozták fel a látottakat, mert a gép közreműködésére támaszkodtak. Markovics Milán hozzátette, hogy egy rövid kísérletből még nem lehet tartós készségvesztésre következtetni, de a vizsgálat jól mutatja a gépi jelenlét pszichológiai hatásait.
Különösen fontosnak nevezte a különbséget a tapasztalt szakember és a kezdő között. Míg a rutinos szakember meglévő tudással ad át feladatokat a gépnek, addig a kezdő, aki eleve gépi segítséggel tanul, eleshet a mély mérlegelés képességétől. Ezért olyan képzést tart szükségesnek, ahol a résztvevők rendszeresen dönthetnek önállóan is, és szimulált körülmények között találkoznak hibásan működő gépekkel.
A kutatás hosszabb távú iránya a robotok morális státuszának vizsgálata. Az őrnagy kiemelte a morális ágencia és a morális páciensi státusz közötti különbséget, amely mára – David J Gunkel, The Machine Question című könyve nyomán – a robotika egyik meghatározó megkülönböztetése lett. A morális ágens az, aki erkölcsi szempontok alapján cselekszik és felelősségre vonható. A morális páciens pedig az, akire nekünk erkölcsleg tekintettel kell lennünk, akár felelős, akár nem. A kettő nem jár szükségszerűen együtt: egy csecsemőt erkölcsi védelem illet meg, mégsem tekinthető felelősségre vonható cselekvőnek.
„Nyitott vagyok arra, hogy egy robotnak morális státusza lehet, de ehhez tisztázni kell, milyen indokok és bizonyítékok alapján ismerjük el. A kutatás egyik legnehezebb pontja éppen az, hogyan döntsük el, mikor utal a rendszer működése valóban erkölcsileg jelentős képességekre” – érvelt a kutató.
Markovics Milán részletezte, hogy az emberszerű külső vagy a fájdalom elkerülésének gépi utánzása önmagában nem bizonyítja a szubjektív élményeket vagy a szenvedés képességét. Ha egy szenzor érzékeli a sérülést és a robot elkerülő mozdulatot tesz, az technikai reakció, nem pedig átélt tapasztalat.
Az emberi szándék megőrzése a gépi autonómia korában
A technológia fejlődése nem mentesíthet bennünket azon kötelezettség alól, hogy az emberi cselekvőképesség és felelősség feltételeit tisztázzuk. Markovics Milán Mór őrnagy kutatásai világosan jelzik, hogy a robotika és a mesterséges intelligencia terjedése nem törli el az etikai kereteket, viszont megköveteli azok újszerű átgondolását.
Az érdemi emberi kontroll megőrzése nem azt jelenti, hogy minden mikrofolyamatot emberi kézzel kell irányítani, hanem azt, hogy a gépi működés határait és a célokat szigorúan az emberi erkölcsi indokoknak kell alárendelni. A jövő társadalmi és biztonsági kihívása azon múlik, képesek vagyunk-e olyan intézményi feltételeket teremteni, amelyek között az ember nem puszta morális gyűrődési zónaként nyeli el a gépi hibák következményeit, hanem valódi, felelős formálója marad a saját döntéseinek.
Nyitókép forrása: avigatorphotographer.gmail.com / depositphotos.com


