Ugrás a tartalomhoz
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • GYŰJTEMÉNY
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
Menü
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • GYŰJTEMÉNY
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • GYŰJTEMÉNY
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
Menü
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • GYŰJTEMÉNY
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
Pató Viktória Lilla

Tudományos vészjelzés Európából

A Choose Europe és a kutatói kivándorlás dilemmája.

Pató Viktória Lilla 2025.06.04.
Rab Árpád

A megfoghatatlan kézzelfoghatóvá tétele?

Egy etikus mesterségesintelligencia-mérőrendszer felé.

Rab Árpád 2025.05.27.
Tardi Roland

A mesterséges intelligencia jelenléte a német politikában

Az MI új korszakot nyitott a választási kampányokban.

Tardi Roland 2025.05.20.
Balogh Zsolt György

Jog és logika – III. rész

A fuzzy logika a klasszikus logika kiterjesztése.

Balogh Zsolt György 2025.05.13.
Ződi Zsolt

A zürichi kutatók esete az etikus Reddittel

Kutatási szabadság és etikus tudomány a mesterséges intelligencia korában.

Ződi Zsolt 2025.05.06.
ITKI BLOG
Ződi Zsolt
Ződi Zsolt
tudományos főmunkatárs, NKE Információs Társadalom Kutatóintézet
  • 2020.07.03.
  • 2020.07.03.

Az etikai kódexek hiábavalóságáról a mesterséges intelligencia szabályozásában

Nemrégiben megjelent egy fontos írás Stefan Larsson svéd professzor tollából. A Lundi Egyetem oktatója szembemenve a jelenleg divatos állásponttal azt állítja, hogy a gombamód szaporodó etikai útmutatók nem megfelelő eszközei a mesterséges intelligencia (MI) szabályozásának. Mivel magam is mélyen egyetértek ezzel a kijelentéssel, ebben a blogbejegyzésben szeretnék a svéd kollégám álláspontja mellett érvelni, és egy másik diskurzus, az „elfogulatlan (nem-diszkrimáló) MI” diskurzusának tévedéseire is rávilágítani.

Az MI-t legalább ugyanakkora szorongás veszi körbe, mint amekkora lelkesedés és várakozás. A szorongás fő forrása az a gondolat, hogy az MI – különösen ennek gépi tanuláson alapuló változata – egy bizonyos ponton túl kicsúszhat a kezeink közül és különböző sérelmeket, károkat okozhat (a munkahelyeink elvételétől a rasszista, elfogult döntéseken keresztül az emberiség pusztulásáig).  A közvélemény tele van tévhitekkel, a politika, az akadémiai szféra és a nagyvállalatok pedig buzgón igyekeznek mutatni, hogy tesznek valamit a kockázatok kezelése érdekében.

A lázas kockázatkezelés és katasztrófa-megelőzés legfontosabb eszközei jelenleg azok az etikai kódexek, amelyek közül az egyik ezzel foglalkozó gyűjtőoldal már több mint 150-et listáz. A legtöbb ilyen etikai kódex nem hosszabb egy-két oldalnál és nagyjából a jól ismert Asimov törvények első passzusát bontja ki részletesen, miszerint a robotnak nem szabad kárt okoznia emberi lényben. A különböző kódexek a lehetséges károkozások változatos formáit igyekeznek felsorolni a nem, faj, etnikum, bőrszín alapján diszkrimináló algoritmusoktól kezdve a homályos, nem érthető szempontok alapján igazságtalan vagy embertelen döntéseket hozó kódokig. A kódexek nagy része ennél a szintnél nem is nagyon megy tovább, míg más kódexek esetleg igyekeznek kissé operatívabb, technikaibb szabályokat is megfogalmazni az adatkezelésre, az adatok betöltésére, értelmezésére, az MI döntések alól mindenképpen kivett területekre, esetleg bizonyos eljárási szabályokra vonatkozóan. Az EU vonatkozó legfrissebb anyagáról (a Fehér Könyvről) blogunkban mi is írtunk már, de Európa egyébként is erős az etikai kódexekben és a szorongásban, ahogy azt az Európai Bizottság  Mesterséges Intelligenciával Foglalkozó Magas Szintű Szakértői Csoportjának Megbízható Mesterséges Intelligenciára Vonatkozó Etikai Iránymutatása is mutatja.

Larsson, részben Thilo Hagendorff, részben pedig Mark Coeckelbergh írásaira támaszkodva azzal érvel, hogy az etikai kódexek egyszerűen túl általánosak, sok pontjukon egymással ellentétes eredményekre is vezethetnek, nem veszik figyelembe a technológia sajátosságait és sok olyan elvárást is tartalmaznak, amelyeknek az MI különböző területein egyszerűen nincsen értelme. Bár tudományos írásként nem mondja ezt ki ilyen erős formában, de a lényege az, hogy ezeknek a kódexeknek bizony nem sok értelmük van.

Vegyük az első két elvet, amely szinte minden kódexben kitüntetett helyen szerepel: a „transzparencia”, és a „megmagyarázhatóság” elveit. Ez azt mondaná, hogy az MI működésének átláthatónak és elmagyarázhatónak kell lennie. Ezután pedig gondoljunk a Google rangsoroló vagy a Facebook newsfeed algoritmusára. Mindkét algoritmus csaknem bizonyosan tartalmaz gépi tanuláson alapuló elemeket és produkálhat nem várt (nem-determinisztikusnak tűnő) kimeneteket. Ugyanakkor mindkét algoritmus nemcsak egyszerűen túl bonyolult ahhoz, hogy el lehessen magyarázni, hanem ráadásul a cégek üzleti titkát is képezi, így valószínűleg még az ehhez értő szakemberek sem fogják soha megtudni, hogy mi van a „belsejükben”. A két legfontosabb algoritmusra a két legfontosabb elv tehát már mindjárt nem alkalmazható.

További gond, hogy ezeknek az általános elveknek a lefordítása a technológia aprópénzére egyáltalán nem triviális. Egy bank rámondhatja a hitelbírálati szoftverére hogy „megfelelő indokolást” nyújtott a hitelbírálati döntéshez, mert felsorolta azokat a paramétereket (személyes körülmények, anyagi helyzet, fedezet nagysága, pénzügyi előélet stb.), amelyeken a döntés alapszik. Ugyanakkor ez valójában nem tette a döntést átláthatóvá, és jól megmagyarázottá, hiszen semmit nem mondott arról, hogy a konkrét döntés során melyik paramétert hogyan, milyen mértékig és főleg milyen adatok alapján hozták meg. A többi elvvel ugyanez a helyzet: nagyon nehezen lehet megmondani, hogy hol van az a határ, ahol egy ilyen általánosan megfogalmazott követelménynek már megfelel egy MI.

Az etikai kódexek legproblematikusabb elvárása és állatorvosi lova ebből a szempontból a diszkriminációtilalom. Itt a fentebbi problémák ugyanis két újabbal egészülnek ki: nemcsak arról van szó, hogy a diszkrimináció maga is egy rendkívül sokrétű és nehezen értelmezhető jogi konstrukció, hanem arról is, hogy az MI soha nem diszkriminál közvetlenül védett tulajdonságok (pl. bőrszín, kisebbség) alapján, hanem jellemzően olyan demográfiai és egyéb paraméterek alapján dönt, amelyek sokszor statisztikailag „rámutatnak” egy védett csoportra. A lakóhely, az iskolai végzettség és a vagyoni (jövedelmi) helyzet hármasa például nagyon gyakran igen pontosan behatárolnak egy védett csoportot (Magyarországon is).

További gond a diszkriminációmentes MI-vel, hogy az MI szabályozásának diskurzusa mintha egyszerűen átugrotta volna azt a problémát, amelyet az alkotmányjog régebb óta a „horizontális hatály” fogalmával ír körbe. A magáncégek az üzleti tevékenységük körében (csaknem) szabadon szerződhetnek, akivel csak akarnak. (Persze az Általános Szerződési Feltételek tartalmát régebb óta szabályozza a magánjog, de ettől most tekintsünk el.) Az, hogy szűk körben az utóbbi időben elkezdtek bizonyos alapjogi-alkotmányjogi követelményeket számon kérni rajtuk, egy lassú és sok buktatóval terhelt folyamatnak tűnt – egészen mostanáig. Úgy tűnik ugyanis, hogy az MI „diszkriminációtilalmi” diskurzusa egyszerűen átugrotta ezt a kérdést és adottnak veszi, hogy a magánszereplőknek is be kell tartani ezeket a – gyakran tisztán alkotmányjogi – követelményeket. Én azonban úgy vélem, hogy ezen a problémán nem lehet ilyen egyszerűen átugrani. A „mellérendeltségen alapuló, diszpozitív” magánjog eszméje az utóbbi időben mintha szinte teljes defenzívába vonult volna, én szeretném ugyanakkor még nem eltemetni. És egyetértek Larssonnal, hogy az MI-vel kapcsolatban az újabb és újabb etikai kódexek gyártása elég haszontalannak tűnik.  Ennél szerintem kreatívabbnak és alaposabbnak kellene lennünk. Egy következő blogbejegyzésben igyekszem felvázolni azt is, hogy szerintem milyen irányban kellene elindulnunk.

Témakörök: diszkriminációtilalom, etikai kódex, gépi tanulás, mesterséges intelligencia, Stefan Larsson
nke-cimer

LUDOVIKA.hu

KAPCSOLAT

1083 Budapest, Ludovika tér 2.
E-mail:
Kéziratokkal, könyv- és folyóirat-kiadással kapcsolatos ügyek: kiadvanyok@uni-nke.hu
Blogokkal és a magazinnal kapcsolatos ügyek: szerkesztoseg@uni-nke.hu

IMPRESSZUM

Ez a weboldal sütiket használ. Ha Ön ezzel egyetért, kérjük fogadja el az adatkezelési szabályzatunkat. Süti beállításokElfogad
Adatvédemi és süti beállítások

Adatvédelmi áttekintés

This website uses cookies to improve your experience while you navigate through the website. Out of these cookies, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may have an effect on your browsing experience.
Necessary
Always Enabled
Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
Non-necessary
Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.
SAVE & ACCEPT