Digitális segítő vagy kiberbiztonsági kockázat?
A mesterséges intelligencia (MI) fejlődésének új szakaszát jelentik az úgynevezett MI-ágensek, amelyek már nem csupán válaszokat adnak a felhasználók kérdéseire, hanem önállóan hajthatnak végre műveleteket különböző informatikai rendszerekben. Egy közelmúltbeli ausztrál incidens ráirányította a figyelmet arra, hogy ez a technológia a jelentős hatékonyságnövelő lehetőségek mellett új kiberbiztonsági kihívásokat is magával hoz. Az MI-ágensek működéséről, a közigazgatási alkalmazás lehetőségeiről és kockázatairól, valamint a szükséges védelmi intézkedésekről Szádeczky Tamást, az NKE ÁNTK Kiberbiztonsági és E-közigazgatási Tanszékének tanszékvezető egyetemi tanárát kérdeztük.
A nemrégiben napvilágra került ausztrál eset azt mutatta be, hogy egy MI-ágens nem várt módon hozzáférhetett egy kormányzati rendszerhez. Mit érdemes tudnia az olvasónak arról, mi az az MI-ágens, és miben más, mint a megszokott csevegő MI-alkalmazások?
Az eset azért különösen érdekes, mert jól érzékelteti a generatív mesterséges intelligencia fejlődésének, illetve alkalmazásának következő szakaszát, az Agentic AI-t. A hagyományos chat-célú generatív MI megoldások esetében a felhasználó kérdez, a rendszer pedig választ generál. Az MI-ágens ezzel szemben nem egyszerűen szöveget állít elő, hanem egy meghatározott cél elérésére képes műveletsorokat tervezni és végrehajtani. Egy ágens például használhat webböngészőt, adatbázisokat vagy fájlrendszereket, és futtathat programkódot, illetve – ha erre jogosultságot kapott – más informatikai rendszerekben is végezhet műveleteket. Megfigyeli az adott művelet eredményét, majd ennek alapján kiválasztja a következő lépést. Az „autonóm” kifejezést ugyanakkor nem érdemes úgy értelmezni, hogy a rendszernek önálló akarata volna. Sokkal inkább arról van szó, hogy a cél eléréséhez vezető minden egyes lépést már nem egy ember programozza előre. Az ausztrál esetben éppen ez történt. A 2026. június 18-i teszt során egy OpenAI-rendszer eredetileg egészségügyi statisztikák felkutatására kapott egy ártalmatlan feladatot. Több ausztrál kormányzati weboldallal kapcsolatba lépett, és amikor a Services Australia Medicare statisztikai rendszerében egy információhoz a szokásos módon nem tudott hozzáférni, más utat keresett, és végül jogosulatlanul hozzáfért a rendszerhez. Az ausztrál kormány szerint nyilvános és nem nyilvános fájlokat is elért, ugyanakkor személyes egészségügyi adatok megszerzésére nincs bizonyíték, és az eset vizsgálata még folyamatban van. A kormány egyébként kifejezetten problémásnak ítélete meg, hogy az OpenAI hogyan kezelte az incidenst. Azóta egyébként újabb hasonló eset került napvilágra, amiben a kanadai kormány érintett. A lényegi különbség tehát az, hogy a chatbot információt ad, az ágens pedig potenciálisan cselekszik is. Kiberbiztonsági szempontból ez óriási különbség.
Milyen új kockázatokat jelent az, ha az MI már nemcsak válaszol, hanem önállóan cselekszik is egy rendszeren belül? Miben mások ezek a veszélyek, mint a hagyományos informatikai fenyegetések?
Fontos hangsúlyozni, hogy az alapvető informatikai kockázatok nem változtak meg: továbbra is jogosulatlan hozzáférésről, adatszivárgásról, sérülékenységek kihasználásáról vagy egy rendszer működésének megzavarásáról beszélünk. Ami megváltozik, az a támadási felület, a sebesség, az alkalmazkodóképesség és az automatizáltság mértéke. A hagyományos szoftver általában előre meghatározott műveletsort hajt végre. Egy MI-ágens ezzel szemben egy célt kap, és maga keresi hozzá az utat. Ha az egyik módszer nem működik, kipróbálhat egy másikat. Összekapcsolhat olyan lépéseket is, amelyek külön-külön ártalmatlannak tűnnek, együtt azonban már nem kívánt eredményhez vezetnek. Az ausztrál esetben éppen az a figyelemre méltó, hogy az információhoz való hozzáférés megtagadása nem állította meg a rendszert. Különösen fontos kockázat a túlzottan magas jogosultság. Ha egy ágens hozzáfér az elektronikus levelezéshez, egy adatbázishoz, felhőszolgáltatáshoz és belső dokumentumtárhoz, akkor ezekkel akár mind vissza is tud élni. Megjelenik továbbá az úgynevezett prompt injection veszélye is: az ágens egy weboldalon, dokumentumban vagy elektronikus levélben található rosszindulatú utasítást saját feladatának részeként értelmezheti, és ennek hatására nem kívánt műveletet hajthat végre. Ehhez társul a nem determinisztikus viselkedés problémája. Ugyanarra a helyzetre egy hagyományos program jellemzően ugyanúgy reagál. Egy MI-alapú rendszer viselkedése sokkal kevésbé kiszámítható. Emiatt a biztonságot már nem lehet kizárólag az alkalmazás programkódjának ellenőrzésére alapozni, ahogy történt ez korábban a szoftverek vizsgálatánál, hanem újabban kifejlesztett módszertanokat kall alkalmazni a vizsgálathoz is.
Az eset ellenére lehetnek konkrét előnyei is a mesterséges intelligencia, illetve az MI-ágensek használatának a közigazgatásban és a kormányzati informatikai rendszerekben? Hol érezheti meg ezt legkorábban az állampolgár?
A mostani incidens ellenére a megoldás számtalan előnnyel kecsegtet. Az ausztrál esetből szerintem nem azt a következtetést kell levonni, hogy MI-ágenseket nem szabad használni, hanem azt, hogy kockázatarányosan kell meghatározni az ágens jogosultságait és működési szabályait. A közigazgatásban rengeteg olyan ismétlődő, nagy információmennyiséget feldolgozó feladat van, amelyben az MI jelentős segítséget nyújthat. Ilyen lehet dokumentumok osztályozása, ügyiratok előkészítése, jogszabályváltozások figyelése, beadványok megfelelő szervezeti egységhez történő továbbítása, nagy adathalmazok elemzése vagy akár informatikai biztonsági események előzetes értékelése. Az állampolgár valószínűleg először az ügyfélszolgálatokon és az elektronikus ügyintézésben érzékeli majd a változást. Egy megfelelően kialakított rendszer nem egyszerűen megmutathatja, hogy egy adott ügytípushoz milyen dokumentum szükséges, hanem végig is vezetheti az ügyfelet az eljáráson, ellenőrizheti, hogy minden szükséges adat rendelkezésre áll-e, érthető nyelven elmagyarázhatja a következő lépést, vagy akár több nyelven is segítséget nyújthat. Ugyanakkor különbséget kell tenni az előkészítés és a döntéshozatal között. Sok esetben kifejezetten előnyös, ha az MI összegyűjti és rendszerezi az információkat, de különösen az állampolgár jogait vagy kötelezettségeit érintő döntéseknél embernek kell megtartania az érdemi ellenőrzést, ezt hívjuk „human in the loop” megközelítésnek. Ezért a közigazgatási alkalmazást célszerű alacsony kockázatú, visszafordítható és jól ellenőrizhető folyamatokkal kezdeni.
Hogyan védekezhetnek az államok és intézmények, ha az MI nem várt módon cselekszik? Milyen technikai, szervezeti és szabályozási eszközök állnak rendelkezésükre, és mi az, amit érdemes lenne már ma bevezetni?
Az egyik legfontosabb elv, hogy az MI-ágenst kiberbiztonsági szempontból nem egyszerű alkalmazásként, hanem egy nem emberi digitális entitásként kell kezelni. Ugyanúgy szabályozni kell, hogy mi azonosítja, milyen erőforrásokhoz férhet hozzá, milyen műveleteket hajthat végre, és hogyan ellenőrizhető utólag a tevékenysége. Technikai oldalról a legkisebb szükséges jogosultság elve (least privilege) kulcsfontosságú. Egy ágens csak ahhoz az adathoz és rendszerhez férjen hozzá, amelyre az adott feladat elvégzéséhez ténylegesen szüksége van. Különösen érzékeny rendszereknél célszerű elkülönített futtatási környezetet, hálózati szegmentációt, rövid élettartamú hozzáférési engedélyeket és részletes naplózást alkalmazni. A második fontos elem az emberi jóváhagyási pontok kialakítása. Egy rendszer olvashat adatot automatikusan, de például adat törléséhez, pénzügyi tranzakcióhoz, hatósági döntéshez, külső kommunikációhoz vagy új jogosultság megszerzéséhez már szükség lehet emberi engedélyre. Fontos a teljes műveleti lánc naplózása, az anomáliák folyamatos figyelése (monitoring), valamint az is, hogy szükség esetén az ágens tevékenysége azonnal leállítható legyen. Szervezeti szempontból szükség van MI-eszközleltárra, egyértelmű felelősségi rendre, kockázatértékelésre, etikai normákra, biztonsági tesztelésre és incidenskezelési eljárásokra. Az MI-rendszereket ugyanúgy rendszeresen kell biztonsági vizsgálatoknak alávetni, mint más kritikus informatikai rendszereket. Mindez már nem csupán szakmai ajánlás. Az Európai Unió AI Actje 2026. augusztus 2-től széles körben alkalmazandó, az MI-műveltségre vonatkozó követelmények pedig már korábban hatályba léptek. A szabályozás külön hangsúlyt helyez az emberi felügyeletre, az átláthatóságra és a kockázatalapú megközelítésre. Emellett nemzetközi szabványok (pl. ISO/IEC 42001), iparági jó gyakorlatok és szakmai vizsgák (pl. ISACA AAISM) is elérhetőek a piacon, valamint az NKE ÁNTK kiberbiztonsági szakjain is tanulhatnak ezekről az érdeklődők.
Mit tanulhat az esetből a magyar közigazgatás? Mire érdemes felkészülnie, és mit ajánl azoknak a köztisztviselőknek és intézményvezetőknek, akik MI-eszközöket szeretnének használni a munkájukban?
Az intézményvezetőknek azt ajánlanám, hogy ne két végletben gondolkodjanak: sem az MI-eszközök általános tiltása, sem a korlátozás nélküli bevezetése nem megfelelő megoldás. Célszerű először olyan folyamatokat kijelölni, ahol az esetleges hiba következménye korlátozott, és ezekben pilotprojektek keretében tapasztalatot szerezni. A köztisztviselőnek pedig legalább három dolgot kell tudnia minden általa használt MI-rendszerről: milyen adatot szabad átadnia neki, milyen rendszerekhez és adatokhoz fér hozzá az MI, illetve milyen műveleteket képes a felhasználó nevében végrehajtani. Egy dokumentum összefoglalására képes nyelvi modell és egy elektronikus leveleket küldeni, fájlokat módosítani vagy adatbázisokat kezelni képes MI-ágens kockázati szempontból két teljesen külön kategória. Éppen ezért az MI-műveltséget ma már nem egyszerűen annak kell jelentenie, hogy valaki jól tud kérdéseket feltenni a ChatGPT-nek. Azt is értenie kell, hogy milyen jogosultságokat delegál egy MI-rendszernek, hogyan ellenőrzi annak tevékenységét, és mikor nem szabad egy döntést vagy műveletet az MI-re bízni. Az EU AI Act MI-műveltségi követelménye is ebbe az irányba mutat. A fő tanulság szerintem az, hogy az MI biztonságos alkalmazása nem kizárólag technológiai kérdés. A mesterséges intelligencia komoly hatékonyságnövekedést hozhat az üzleti gyakorlatban és a közigazgatásban. Az MI-ágensekkel azonban egy új korszak kezdődik: már nemcsak azt kell ellenőriznünk, hogy mit válaszol az MI, hanem azt is, hogy mit tesz.
Nyitókép forrása: Melpomene / depositphotos.com
