A (kiber)biztonság gyakorlatAI címmel rendezett közös konferenciát a Nemzeti Közszolgálati Egyetem (NKE) Államtudományi és Nemzetközi Tanulmányok Kar (ÁNTK) Kiberbiztonsági Kutatóintézete, a Nemzetbiztonsági Szakszolgálat (NBSZ) Nemzeti Kibervédelmi Intézete (NKI) és a Hírközlési és Informatikai Tudományos Egyesület (HTE) Információbiztonsági Szakosztálya a mesterséges intelligencia gyakorlati alkalmazásáról április 10-én, a Ludovika Főépület Széchenyi Dísztermében.
Hasznos eszköz, ami ártani is képes
A mesterséges intelligencia (MI) hatékony, erős, ám nem túlzottan kiforrott eszköz. Olyan, mint a kalapács: lehet hasznos, de lehet akár ártó is – fogalmazta meg a konferencia alapgondolatát Szabó Lajos, az NBSZ NKI igazgatója. Hozzátette, az utóbbi néhány évben nagyon népszerű lett az MI, főként a nagy nyelvi modellek révén. Így egyre többször merül fel a kérdés: de mi lesz ezzel a jövőben? Megoldja minden problémánkat? Vagy elpusztítja az emberiséget? Szabó Lajos szerint egyik sem valószínű, ezért is érdemes a felhajtás és a félelem mögé nézni. Sok lehetőséget nyújthat az MI, ugyanakkor képes a veszélyeket is fokozni. Az NBSZ NKI igazgatója kiemelte, az eszköz használata nem csak technológiai, de felelősségi és bizalmi kérdés is, e területe pedig éppen annyira érdekes, mint a technológiai része.
Akinél kalapács van, hajlamos mindent szögnek látni – folytatta az igazgató gondolatát Kovács László vezérőrnagy, intézetvezető, az NKE tudományos rektorhelyettese. Hozzátette, az MI valódi mélységét földi halandó aligha értheti, ám nem is kell mindenkinek tudni a terület matematikai alapjait. Ugyanakkor az MI-t a köz- és magánszféra egyaránt használja a gyakorlatban, ezért érdemes megismerni a biztonsági aspektusait. Kovács László kiemelte, az elmúlt néhány évtized olyan új korszakot nyitott, ami hihetetlen lehetőségeket nyújtó jövőt sejtet. Jó úton akkor járunk a Ludovika nagy elődjeinek nyomában, ha ezt a jövőt kutatjuk, vizsgáljuk, mégpedig olyan szakemberekkel, akik feladatukat az IT-biztonság területén a gyakorlatban végzik.
Ambivalens érzéseket keltenek bennünk az MI által felvetett kérdések – mondta el saját köszöntőjében Magyar Sándor, a HTE elnöke. Hangsúlyozta, aki nem használja az MI-t, az lemarad, ezért nem lehet figyelmen kívül hagyni a terület gyakorlati kérdéseit. Fontos ugyanis a jövő technológiáit magunk mellé állítani, szerencsére éppen erről szólnak a mai konferencia előadásai – zárta köszöntőjét Magyar Sándor.
Végezze ember azt a feladatot, amiben jobb
A konferencia témáit ismertette átfogóan a Kiberbiztonság és MI: kockázatok és megoldások című nyitó előadásában Varga Pál egyetemi docens, a Budapesti Műszaki és Gazdaságtudományi Egyetem Villamosmérnöki és Informatikai Kar Távközlés és Mesterséges Intelligencia Tanszékének tanszékvezetője. Elmondta, az első, hasonló témájú konferenciát 2022 novemberében rendezte a tanszék, éppen egy nappal a ChatGPT bejelentése előtt. Azóta a kiberbiztonsági trendek közé verekedte fel magát a generatív MI – olyan témák mellé, mint a ransomware, a járműfeltörés, a belsős támadások, a deepfake, az IoT biztonság vagy a zéró bizalmú kiberbiztonság. AZ MI egyaránt hordoz az információbiztonság területén műszaki és etikai, jogi kihívásokat. Előbbire az összetettsége, az adatok problémás elérhetősége és az átláthatatlanság a legjobb példa, utóbbira a torzítások, az adatvédelmi aggályok, illetve a felelősség az autonóm döntésekért és a szerzői jogok kérdése. Varga Pál azt is hangsúlyozta, jelentősen fokozza a hatékonyságot a kiberbűnözők kezében a generatív mesterséges intelligencia. Az eszközök már nagyon könnyen személyre szabhatók és skálázhatók anélkül, hogy valaki akár nyelveket beszélne vagy az informatikához értene. Óriási szerepe lesz az MI-nek a megtévesztésben: az ingyenesen használható deepfake szoftverek már nemcsak multimédiás anyagokat, hanem dokumentumokat, weboldalakat, üzeneteket, sőt, hamis chatrésztvevőt is tudnak létrehozni. További fenyegetést jelent az automatizált adathalászat, a generatív malware, valamint a modell-támadások (azaz az MI-rendszerek félrevezetése). Mindennél fontosabb ma az óvatos, észszerű használat, azaz nem lehet mindent automatizálni vagy épp kiengedni a felhőbe. A védekezést szintén komolyan képes segíteni a generatív MI, ám e terület nemcsak műszaki, hanem szervezeti felkészülést is igényel. Varga Pál szerint nagyon fontos, hogy amit a gépek tudnak jobban, azt csinálják a gépek, amit viszont az ember, azt hagyni kell az embernek végezni. A jövő a kezünkben van, ne engedjük el – zárta előadását a tanszékvezető.
A szabályozott MI
Egy bank életét a szabályozások számos oldalról érintik. Az MI-t ezért komplexen, de csakis szabályosan használhatják – emelte ki a Hogyan használja az MI-megoldásokat egy pénzintézet? című előadásában Nagy Zsombor, az OTP Bank Nyrt. Innovation Tribe projektvezetője. A vállalat elsősorban az üzleti adatok jogszerű, komplex felhasználására használja az MI-t. Ugyanis rengeteg olyan összefüggés van, amit eddig enélkül nem sikerült megfelelően kiaknázni. A pénzintézet további célja a felelős MI-használat, amitől hatékonyabb, gyorsabb feladatellátást remélnek, vagyis azt, hogy ugyanaz az ember több feladatot tudjon elvégezni egységnyi idő során. A bankban kevés a teljesen ember nélküli alkalmazás, az MI-t ismert adatokkal és átlátható működéssel használják, illetve van emberi kontroll a kimeneten is.
Fáradhatatlan asszisztens
Bódis Péter CISO, az SMP Solutions Zrt. IT biztonsági vezetője a cég kiberbiztonsági fókuszú MI-chatbotját mutatta be a Hatékony információbiztonsági tudatosítás MI-chatbot alkalmazásával című előadásában. Elmondta, a chatbot egyedülálló, innovatív eszköz: voltaképpen egy paraméterezhető nyelvi modell, magas adatbiztonsággal és Teams-integrációval. Használatában ez egy információbiztonsági szakértő, tanár és őrangyal egyben, amely folyamatosan fejlődik, de nem fárad el, ha kérdezik, válaszol, ha lerázzák, visszatér. Lényeges eleme az automatizáció, ennek részeként a munkaköri szerepek szerint személyre szabhatóság.
Ki írt alá?
Golda Bence, a Cursor lnsight műszaki vezetője a cég első, MI-hez kapcsolódó projektjét, a banki aláírópadot mutatta be az MI-alapú dokumentumhitelesítés a gyakorlatban című előadásában. A hazai pénzintézet megrendelésére készült eszköz képes a dokumentumok hiteles digitális aláírására úgy, hogy ahhoz ne kelljen személyes tanúsítvány. Emlékeztetett, 2015-ben még a bank sem volt felkészülve ennyire innovatív fejlesztésre, de szerencsére együttműködő volt. A fejlesztésnek nagyon komoly technikai és módszertani kihívásai is akadtak. Már itt elkezdődött az MI, pontosabban egy fejlett gépi tanuláson és a mélytanuláson alapú algoritmikus rendszer használata, mégpedig az aláírópadon történő emberi mozgás alapján.
Még nélkülözhetetlen az ember
Az előadásokat követő, Marsi Tamás, az NBSZ NKI főosztályvezetője által moderált kerekasztal-beszélgetéshez az előadókon túl csatlakozott Oláh István, az OTP Bank Nyrt. IT kockázatkezelési vezető tanácsadója is. Itt elhangzott, a generatív MI ellenére mindenkinek érdemes továbbra is értenie a maga feladatához és fejlesztenie magát a saját területén. A konferencia folytatásában a kiberbiztonság további gyakorlati kérdéseiről szólt Griffiths Dániel (Black Cell Magyarország Kft.), Magyar Sándor (HTE, NKE) és Ott Károly (IdomSoft Zrt.) előadása. Kerekasztal-beszélgetésüket Bányász Péter, az NKE ÁNTK egyetemi docense moderálta.
A nyitókép forrása: Free Press / Flickr
