Skip to content
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
  • KERESÉS
Menü
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
  • KERESÉS
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
  • KERESÉS
Menü
  • MAGAZIN
  • BLOGTÉR
  • PODCAST
  • TV
  • WEBSHOP
  • FOLYÓIRATOK
  • KIADÓ
  • KERESÉS
Máthé Réka Zsuzsánna

Oroszország megállítása vagy lelassítása a cél?

Nagyhatalmi versengés áldozata lehet az EU.

Máthé Réka Zsuzsánna 2023.03.21.
Tóth Bettina

Mégsem intünk teljesen búcsút a belsőégésű motoroknak?

A német autóipar az e-üzemanyagban bízik.

Tóth Bettina 2023.03.17.
Teleki Bálint

Az uniós klímaharc pénzügyi háttere

Zöld célokért elkötelezett jegybankok.

Teleki Bálint 2023.03.16.
Kalas Vivien

A magyar–francia csúcstalálkozó jelentősége

Megbeszélés az Európai Uniót érintő témákról.

Kalas Vivien 2023.03.16.
Szuromi Benedek

Közös agrárpolitika 2023: amikor az agrárpolitika és a klímacélok találkoznak

Engedmények a zöldpolitikai elvárásokból.

Szuromi Benedek 2023.03.14.
ITKI BLOG
Ződi Zsolt
Ződi Zsolt
tudományos főmunkatárs, NKE Információs Társadalom Kutatóintézet
  • 2022.01.13.
  • 2022.01.13.

Az EU mesterséges intelligencia kódex-tervezete 3. rész

Indító blogbejegyzésemben hírül adtam, hogy elkészült a mesterséges intelligencia szabályozását célzó átfogó EU rendeletszöveg még áprilisban. A tervezet rendelkezéseit folytatásokban ismertetem. A sorozat első részében azt jártam körbe, hogy hogyan definiálja a kódex az MI-t, míg a második részben a kódex hatályának kérdésével foglalkoztam. Ebben a harmadik részben a tiltott MI kategóriáit ismertetem a tervezet alapján. 

Ahogy azt a tárgyi hatályról szóló bejegyzésben írtam, a tervezet négy kategóriába sorolja az MI-ket: a tiltott, a nagy kockázatú, a tájékoztatási kötelezettséggel együttjáró és a semmilyen korlátozás alá nem eső kategóriákba. Ebben a blogbejegyzésben először a tiltott kategóriák kerülnek terítékre.  

A tervezet négy tiltott „mesterséges intelligencia gyakorlatot” sorol fel. Az első kategóriába az 5. cikk (1) a) pont alapján olyan MI-k tartoznak, „amelyek szubliminális (tudatalatti) technikákat alkalmaznak az adott személy tudatán kívül annak érdekében, hogy lényegesen torzítsák egy személy magatartását.” A rendelkezés elég sok értelmezési kérdést felvet, és őszintén szólva hosszas kutatás után sem találtam meggyőző példát arra, hogy a jogalkotó itt mire gondolhat – tekintetbe véve azt is, hogy például a gyermekek manipulálása vagy más kiszolgáltatott helyzetben levő csoportok helyzetével való visszaélés már nem ebbe a kategóriába, hanem a b) pont alá tartozik. Ezért csak találgathatok, hogy itt valószínűleg azokra az érzelmi manipulációkat alkalmazó marketingeszközökre, esetleg a függőségeket (például a játékszenvedélyt) kihasználó módszerekre lehet gondolni, amelyeket néhány sci-fi alkotásban is láthattunk a közelmúltban, illetve a magyar versenyhatóság a booking.com döntésben (amelyről korábban ezen a blogon is írtunk) hasonló gyakorlattól tiltotta el, és bírságolta meg a platformot. 

Ennél kézzelfoghatóbb a b) pont szerinti rendelkezés, amely szerint tiltott az olyan MI, amely „a személyek egy meghatározott csoportjának életkor, testi vagy szellemi fogyatékosság miatt fennálló valamilyen sebezhetőségét” használja ki, hogy ezeknek az embereknek a magatartását torzítsa. Ez esetben elég világosan látszik, hogy főleg a gyerekeket célzó manipulatív MI-k betiltása volt a cél. Ahogy azt a 5rights Foundation cilvilszervezet egy kutatásában kimutatta, a fiatalok különösen hajlamosak például (MI nélkül is), hogy a videojátékok „jutalmazási ördögi körébe” („reward loop”) kerüljenek, így minden olyan alkalmazás, amely ezt kihasználja, rendkívül veszélyes számukra. 

A c) pont kissé hosszabb és bonyolultabban megfogalmazott tiltást tartalmaz. Olyan rendszerekről van szó, amelyek „természetes személyek megbízhatóságának értékelésére vagy osztályozására” szolgálnak „egy bizonyos időszakon keresztül” és „hátrányos vagy kedvezőtlen bánásmódra” vezetnek, mégpedig olyan területeken, amelyek nem függenek össze „azzal a kontextussal, amelyben az adatokat eredetileg létrehozták vagy gyűjtötték”, illetve „indokolatlanok vagy aránytalanok” a magatartáshoz képest. A körmönfont megfogalmazás valójában a kínai társadalmi kreditrendszert igyekszik úgy betiltani, hogy közben ne korlátozza az élet számtalan területén hasznos, sőt olykor szinte nélkülözhetetlen profilozást, azaz természetes személyek bizonyos kategóriákba, csoportokba sorolását. Így nem általában tiltja ezeket az MI-ket, csak akkor, ha az értékelés a gyűjtött adatokhoz képest más területekre terjed ki. Mondjuk a politikai nézetei miatt valakit hátrány ér az egyetemi felvételin vagy nem kap bankhitelt, mert túl sok alkoholt vásárol a boltban. A törekvés üdvözlendő, más kérdés, hogy úgy tűnik a világ kicsit eltúlozta (démonizálta) a kínai rendszer hatékonyságát és kiterjedését. 

Végül a d) pont ismét egy, a közelmúltban sok helyen nagy port felvert kategóriát tilt be, a „valós idejű távoli biometrikus azonosító rendszerek használatát a nyilvánosság számára hozzáférhető helyeken, bűnüldözési célokból”, azaz lényegében a köztéri arcfelismerést. Ismert, hogy több USA-beli városban nagy felháborodást keltett a rendszerek használata, és elég sok város be is tiltotta. Ennél a pontnál már azonban elég sok kivételt is találunk, hiszen könnyen belátható, hogy egy merényletre készülő terrorista vagy egy elveszett kisgyermek megtalálása felülírhatja ezt a tiltást. A kivételek épp ilyen esetekre vonatkoznak. Megengedett az arcfelismerő MI, ha „bűncselekmények konkrét potenciális áldozatainak” vagy „eltűnt gyermekek” felkutatása a cél, „terrortámadás megelőzése” vagy a legsúlyosabban büntetendő bűncselekmények (így például emberrablás, emberölés, szervkereskedelem, stb.) elkövetőinek felderítése. A tervezet az arcfelismeréssel kapcsolatos kivételek alkalmazásának konkrét feltételeit is részletezi, amelyek közül a „szükségesség és arányosság” tesztjét érdemes kiemelni: a hatóságoknak azt kell mérlegelniük, hogy az arcfelismerés elkerülhetetlenül szükséges-e és arányban áll-e az elérendő céllal.   

Témakörök: etikai kódex, Európai Unió, mesterséges intelligencia, versenyképesség
nke-cimer

LUDOVIKA.hu

KAPCSOLAT

1083 Budapest, Ludovika tér 2.
E-mail:
Kéziratokkal, könyv- és folyóirat-kiadással kapcsolatos ügyek: kiadvanyok@uni-nke.hu
Blogokkal és a magazinnal kapcsolatos ügyek: szerkesztoseg@uni-nke.hu

IMPRESSZUM

Ez a weboldal sütiket használ. Ha Ön ezzel egyetért, kérjük fogadja el az adatkezelési szabályzatunkat. Süti beállításokElfogad
Adatvédemi és süti beállítások

Adatvédelmi áttekintés

This website uses cookies to improve your experience while you navigate through the website. Out of these cookies, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may have an effect on your browsing experience.
Necessary
Always Enabled
Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
Non-necessary
Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.
SAVE & ACCEPT