A mesterséges intelligencia etikai és jogi kihívásai a haderőben
A mesterséges intelligencia (MI) mára az oktatástól és a munka világától kezdve a hitelbírálaton át az egészségügyig átszőtte mindennapjainkat, de miként alakítja át a döntéshozatalt, a parancsnoki szerepet és az emberi felelősség fogalmát a mesterséges intelligencia katonai alkalmazása? A téma nemcsak az autonóm fegyverrendszerekről szól, hanem azokról az algoritmusokról is, amelyek már a döntések előtt befolyásolják, mit lát a vezető fontosnak, sürgősnek vagy fenyegetőnek.
Markovics Milán Mór őrnagy, a Nemzeti Közszolgálati Egyetem Hadtudományi és Honvédtisztképző Kar Alapozó Tudományok Intézetének tanársegédje kutatásaiban arra mutat rá, hogy ez a technológiai fejlődés a haderőt sem hagyja érintetlenül: az MI alkalmazása ma már nem csupán elméleti lehetőség, hanem a katonai realitás része, legyen szó logisztikai optimalizálásról vagy komplex döntéstámogató rendszerekről.
Az őrnagy szerint a katonai döntéstámogatás mechanizmusa alapjaiban hasonlít a mindennapokban használt Google-keresőhöz, ami hatalmas adatmennyiséget szűr meg, annak érdekében, hogy a felhasználó számára a legrelevánsabb ajánlást nyújtsa. Míg korábban a katonai vezetőknek korlátozott információkból kellett dönteniük, ma a bőség zavarával küzdenek, ahol az MI segít az ellenség, a kombatánsok (a fegyveres konfliktusokban részt vevő harcoló felek) és a non-kombatánsok megkülönböztetésében.
Az MI alkalmazásának fő előnyei, mint a gyorsaság, a precizitás és a monoton munkaterhek átvétele, jelentős stratégiai előnyt jelentenek. Ugyanakkor a rendszerekbe vetett túlzott bizalom, az úgynevezett automatizációs torzítás (automation bias) komoly kockázatokat hordoz, hiszen a felhasználók hajlamosak az algoritmus elsődleges ajánlásait kritika nélkül elfogadni. A katonai MI alkalmazása során fellépő etikai és jogi kockázatok három fő szakaszra bonthatók, amelyek közül az első az adatminőség kérdése. Ha a rendszerbe táplált adatok egyoldalúak, az eredmény is torz lesz; erre példa a brit rendőrség esete, ahol a rendszer az elavult bűnügyi adatok alapján folyamatosan ugyanazokra a területekre küldte a járőröket, elhanyagolva más fontos körzeteket.
A kockázati modell második szintje a fejlesztői vagy modelltorzítás, amely magában foglalja a hírhedt „fekete doboz” (Black Box) problémát. Ez azt jelenti, hogy az öntanuló algoritmusok olyan bonyolult számítási folyamatokat végeznek, amelyeket még a fejlesztők sem tudnak minden esetben végigkövetni. Egy beszédes katonai illusztráció szerint a harckocsik azonosítására tanított rendszer kudarcot vallott, amikor a környezeti viszonyok, például a köd vagy a felhők megváltoztak, mert az algoritmus nem magukat a járműveket, hanem a felvételek környezeti sajátosságait tanulta meg felismerni. A harmadik szint a felhasználói torzítás, ahol a döntéshozó saját felkészültsége és az adatok értelmezésének képessége válik a leggyengébb láncszemmé.
A jogi és etikai szabályozás egyik legégetőbb kérdése a felelősség megoszlása. Markovics őrnagy szerint a jelenlegi álláspont az, hogy a felelősség a rendszer teljes életciklusa alatt megoszlik az adatgazda, a szoftvermérnök és a katonai döntéshozó között. A szakirodalom korábban a „Human in the loop” (ember a hurokban) fogalmát használta, de ma már a „Meaningful Human Control” (tudatos és felelős emberi kontroll) kifejezés a meghatározó. Ez nem csupán az ember fizikai jelenlétét jelenti a döntési folyamatban, hanem egy olyan tudatos és kritikus hozzáállást, amely képes felülbírálni az algoritmus outputjait.
A jövő katonai vezetőinek képzése során központi szerepet kell kapnia a kritikus gondolkodásnak. Az őrnagy a görög „Krínó” szóra utalva emelte ki, hogy a valódi döntéshozatal a helyes és helytelen közötti különbségtétel képességén alapul. A jövő tisztjeinek nemcsak az MI-alapú hadijátékokat és szimulációkat kell elsajátítaniuk, hanem mélyreható etikai és jogi ismeretekkel is rendelkezniük kell, hogy a technológiai segítséget valódi, ellenőrizhető haszonná alakítsák a hadszíntéren. Az MI tehát nem váltja ki a parancsnokot, hanem egy olyan eszközt ad a kezébe, amelynek használatához minden eddiginél nagyobb morális és szakmai felelősség társul.
Nyitókép forrása: DragosCondreaW / depositphotos.com
