Az autonóm fegyverrendszerek és a mesterséges intelligencián (MI) alapuló döntéstámogató rendszerek alkalmazása új kérdéseket vet fel a nemzetközi humanitárius jog érvényesítésében. A jelen blogbejegyzés a megkülönböztetés és az arányosság, valamint az elővigyázatosság elvei alapján vizsgálja e rendszerek alkalmazásának hadijogi korlátait. Központi kérdése, hogy milyen feltételek mellett tekinthető érdeminek az emberi felügyelet. Az elemzés amellett érvel, hogy ehhez a döntéshozónak értenie kell a rendszer korlátait, és érdemi lehetőséggel kell rendelkeznie a rendszer működésének ellenőrzésére és szükség esetén a beavatkozásra. A gépi becslés javíthatja ugyan a döntés megalapozottságát, a támadás jogszerűségének megítéléséhez viszont a hadszíntér jogilag releváns körülményeit is értékelni kell.
A katonai célú mesterséges intelligenciáról a legtöbbeknek a gyorsaság, a pontosság, a kegyetlenség és az emberi hibák csökkentésének ígérete jut az eszébe. A nemzetközi humanitárius jog azonban ezeknél sokkal összetettebb kérdést tesz fel: képes-e a mesterséges intelligencia a hadszíntéren olyan működésre, amely mellett teljesíthetők a védett személyek és objektumok megóvására irányuló kötelezettségek? Az elemzéshez Amoroso (2026, pp. 13–14) háromrészes jogszerűségi tesztjét alkalmazom, amely a megkülönböztetés, az arányosság és a támadással kapcsolatos óvintézkedések követelményeit vizsgálja. Vizsgálni szükséges ez alapján a megkülönböztetés, az arányosság és az elővigyázatosság követelményeinek teljesülését. Elemzésem kiindulópontja az 1977. évi I. kiegészítő jegyzőkönyv 36. cikke, amely a részes államokat az új fegyverek, hadviselési eszközök és módszerek jogi felülvizsgálatára kötelezi. A katonai mesterséges intelligencia elemzésének teljessége érdekében az autonóm fegyverek mellett a MI-alapú döntéstámogatást is vizsgálni szükséges. Az előbbiek emberi beavatkozás nélkül választhatnak ki és támadhatnak célokat, az utóbbiak ajánlásokat fogalmaznak meg az emberi döntéshozó számára. E különbség azonban elhalványulhat, ha a katonáknak nincs elégséges ideje, információja vagy kiképzése az ajánlás ellenőrzésére. A jóváhagyás lehetősége önmagában tehát még nem jelent érdemi kontrollt. A döntéstámogató rendszerek 36. cikk alá rendelése ugyanakkor külön értelmezést kíván. A célkiválasztási integrációjuk új hadviselési módszernek minősülhet. E megközelítés erénye a tényleges katonai funkció vizsgálata, de ebből nem következik valamennyi katonai szoftver automatikus besorolása ugyanazon felülvizsgálati kategóriába.
Elég, ha fegyver visel?
A megkülönböztetés elve nem teljesíthető pusztán azzal, hogy az algoritmus nagy pontossággal azonosít embereket, fegyvereket, egyenruhákat, járműveket vagy épületeket. Az alkalmazandó jogi minősítéshez a környezet, a magatartás és a katonai funkció értékelése is szükséges. Ennek hadijogi jelentősége világos, hiszen egy fegyver felismerése nem dönti el, hogy viselője támadható-e, mert lehet, hogy éppen a saját hadseregünk is ugyanazt a fegyvert rendszeresítette. Ha saját katonánk viseli a rendszeresített nemzeti egyenruhát vagy egy külföldi zsoldban álló zsoldos, a hadijogi megítélésük távolról sem ugyanaz. Különösen nehéz a polgári személyek ellenségeskedésekben való közvetlen részvételének megítélése, hiszen gyakran semmilyen megkülönböztető jelzést nem viselnek. A Melzer (2009) által kidolgozott ICRC-útmutató három együttes feltételt vizsgál: a sérelem megfelelő küszöbét, a közvetlen okozati kapcsolatot és a hadviseléssel való kapcsolatot. Ezek jogi értékelést igénylő kritériumok, amelyek nem helyettesíthetők egyszerű viselkedési korrelációkkal. Ebből önálló kritikai következtetés adódik: az algoritmus kialakítása során nemcsak technikai hibák, hanem vitatott jogértelmezések is beépülhetnek a rendszerbe. Ha a fejlesztő egy meghatározott magatartásmintát támadhatósági jelként kezel, akkor egy jogi álláspontot tesz működési szabállyá. A felülvizsgálatnak ezért az adatok minőségén túl a kategóriák mögött álló jogi előfeltevéseket is vizsgálnia kell. A jogi értékelésben ezért az alkalmazási környezetek különbségeit is figyelembe kell venni. Egy elkülöníthető, személyzet nélküli katonai objektum elleni támadás nem azonos nehézségű, mint az, amikor a rendszer lakott területen személyek magatartását értékeli. Ebből feltételes, feladathoz kötött jogszerűségi megítélés következik.
Mit mond az arányosság elve?
Az arányosság elve tiltja az olyan támadást, amelytől a polgári személyek körében a járulékos veszteség, sérülések, polgári javakban okozott károk vagy ezek együttese várható olyan mértékben, amely túlzott lenne a várt konkrét és közvetlen katonai előnyhöz képest. El kell választani a civil károk becslését, a katonai előny értékelését és a túlértékelésétől. Ez lényeges módszertani megkülönböztetés: az első feladat bizonyos elemei számszerűsíthetők, a végső jogi mérlegelés azonban nem vezethető le pusztán az adatok mennyiségéből. Egy algoritmus becslést adhat arra, hány személy tartózkodik egy épületben vagy mekkora területet érinthet egy robbanás. Ebből még nem következik, hogy önállóan megfelelően értékeli a katonai előny jelentőségét és azt, hogy a várható járulékos veszteség túlzott-e. A bizonytalanságot tovább növeli, hogy a katonai előny a műveleti helyzet változásával módosulhat. Amoroso (2026) érvelését követve kifogásolható az a megoldás, amely célkategóriánként előre rögzített civilveszteségi kerettel kívánja helyettesíteni az arányossági elemzést. Az előzetes emberi mérlegelés fontos lehet, de csak akkor, ha a konkrét támadás körülményeire épül, és a későbbi változásokat is figyelembe veszik. A korábbi engedély nem teszi szükségtelenné a támadás felfüggesztését vagy megszakítását, ha a releváns feltételek megváltoznak. Fontos kiemelni, hogy a mesterséges intelligencia gyakran a harctéri adatok alapján is tanul, és ha a rendszer emberi példákból sajátít el mérlegelési mintákat, a képzésbe bekerülhetnek az oktatók vitatható értékválasztásai is. A jogszerű döntések utánzása tehát nem bizonyítja, hogy a rendszer minden új helyzetben helyesen ítéli meg az arányosságot. A megkülönböztetés és az arányosság követelményeinek érvényesítése mellett önálló kötelezettség a támadás során megvalósítható óvintézkedések megtétele. Ezek közé tartozik a célpont katonai jellegének ellenőrzése, a polgári károk elkerülését vagy csökkentését szolgáló fegyverek vagy harceljárások megválasztása, továbbá az előírt feltételek fennállásakor a támadás leállítása vagy felfüggesztése (I. kiegészítő jegyzőkönyv, 57. cikk). A célpont ellenőrzése és a fegyverek megválasztása e kötelezettség szerves része (Henckaerts & Doswald-Beck, 2005). Az emberi és a gépi hibák eltérő természete önálló jelentőséget adhat együttműködésüknek. Egy átlagosan pontosabb rendszer is követhet el olyan hibát, amelyet az ember felismerne. És ez fordítva is igaz: a gép olyan adatot vagy ellentmondást is észlelhet, amelyet a harctéri stressznek kitett katona figyelmen kívül hagy. Ebből a kölcsönös ellenőrzés és a feladatok megfelelő megosztásának indokoltsága következik. Az érdemi emberi kontroll fogalma ezért a döntési folyamat minőségére irányítja a figyelmet: az embernek értenie kell a rendszer feladatát és korlátait, és tényleges lehetőséggel kell rendelkeznie a beavatkozásra. Különösen veszélyes az automatizálási torzítás (automation bias), azaz a gépi ajánlás kritikátlan elfogadása. Az „érdemi emberi kontroll” pontos tartalma ugyanakkor nem tekinthető egységesen rögzített mércének. A fogalom e blogbejegyzésben annak értékelését segíti, hogy az emberi közreműködés ténylegesen biztosítja-e az alkalmazandó jogi kötelezettségek teljesítését (Amoroso & Tamburrini, 2021). Ha a kezelő pusztán megerősíti a rendszer választását, jelenléte nem feltétlenül nyújt védelmet. Ugyanakkor az ember saját előfeltevései is torzíthatják a helyzetértékelést. Az eredményes rendszernek mindkét hibaforrással számolnia kell. El kell ismernem, hogy a teljesen autonóm fegyverek bevetése és bizonyos helyzetekben az emberi beavatkozás korlátozása indokolt lehet, például rendkívül gyors reakciót igénylő légvédelmi feladatoknál. Fenntartásaim vannak viszont az emberi ellenőrzés egészének megszüntetésével, mert továbbra is lényegesek a rendszer előzetesen rögzített alkalmazási korlátai és működésének ellenőrizhetősége. A megvalósíthatóság azonban nem kizárólag katonai műveleti hatékonysági kérdése, mert a civil lakosságra leselkedő veszélyeket is mérlegelni kell. Az elővigyázatosság kötelezettségének korlátai nem szüntetik meg a megkülönböztetés és az arányosság követelményeit. A képzés, az ellenőrzési lehetőség vagy a döntések ismételt vizsgálata erős jogi indokokkal alátámaszható. Egy meghatározott technikai megoldás azonban nem válik pusztán célszerűsége miatt minden helyzetben kötelezővé. Ehhez a várható védelmi előnyt, a megvalósíthatóságot és az alternatívákat is értékelni kell. A helyzetértékelés aktuális gépi korlátai módosulhatnak, és a mesterséges intelligencia exponenciális fejlődésével csökkenhetnek, viszont a védett személyekkel szembeni követelmények ettől még megmaradnak. A katonai mesterséges intelligencia jogszerűségét az adott küldetés, hadszíntér, résztvevők, környezet és ellenőrzési rend összefüggésében kell megítélni. A technikai precizitás fontos bizonyíték lehet, de az érdemi jogi értékelést nem helyettesíti. A civil lakosság védelme szempontjából az a döntő, hogy az ember és a gép együttműködése ténylegesen lehetővé teszi-e a nemzetközi humanitárius jog követelményeinek teljesítését.
Irodalomjegyzék
Amoroso, D. (2026). ‘Testing’ the legality of autonomous weapons systems and AI-based decision support systems under international humanitarian law. In O. Dur, M. C. Sati, & M. E. Hayyar (Eds.), Kırımlı Dr. Aziz Bey collected courses on international humanitarian law (Vol. 2, pp. 11–52). Kızılay Culture and Arts Publications.
Amoroso, D., & Tamburrini, G. (2021). Toward a normative model of meaningful human control over weapons systems. Ethics & International Affairs, 35(2), 245–272.
Henckaerts, J.-M., & Doswald-Beck, L. (2005). Customary international humanitarian law: Vol. 1. Rules. Cambridge University Press.
Melzer, N. (2009). Interpretive guidance on the notion of direct participation in hostilities under international humanitarian law. International Committee of the Red Cross. Az ICRC kiadványa
Protocol Additional to the Geneva Conventions of 12 August 1949, and Relating to the Protection of Victims of International Armed Conflicts (Protocol I), June 8, 1977, 1125 U.N.T.S. 3. A hivatalos magyar fordítás a kihirdető 1989. évi 20. törvényerejű rendelet 2. §-ában olvasható.
Nyitókép forrása: ankarb / depositphotos.com




