Egy adatvezérelt társadalomban egyre inkább előtérbe kerülnek az adatok felhasználásának etikai kérdései. Az adatok meghatározó bemeneti forrást jelentenek a vállalatok számára, de a közigazgatásban és akár a szakpolitika kialakításában is adatelemzéssel racionalizálhatók a folyamatok. Egyes technológiai vállalatok üzleti modelljének lényege a személyes adatok felhasználásával nyújtott kényelmi szolgáltatások. A mesterséges intelligencián alapuló megoldások hatékonysága is nagyban a tanítóadatok minőségén múlik. Ezt felismerve az adatgazdálkodást új alapokra kívánják helyezni Európában, illetve jelzésértékű, hogy az Egyesült Államokban 2016-tól kezdve folyamatosan a három legkeresettebb állás között van az adatelemző (data scientist). De vajon melyek a legnagyobb kihívások az adatok etikus felhasználásáról szóló diskurzus kapcsán, és egyáltalán mi az az „adatetika”?
Technológiai fejlődés és etika
Az emberiség a tudományos és technológiai innovációval kapcsolatosan gyakran a „mit lehet megtenni és mit szabad megtenni” dilemmával néz szembe. Különösen élesen jelentkezik mindez az orvostudományi kutatások, illetve a biotechnológia területén, így a bioetika az alkalmazott etikai vizsgálódások kiemelt területévé vált. Korunkat jellemző meghatározó fejlődés továbbá a digitalizáció gazdaságot és társadalmat egyaránt átalakító folyamata, amely egyre több olyan alapvető területen fejti ki a hatását, mint az emberi kommunikáció, vállalati és közigazgatási hatékonyság, illetve komplex döntések előkészítése, beleértve a mesterséges intelligencián alapuló megoldásokat is. Ezeknek közös bemeneti feltétele: az adat, amelyre épül az algoritmusos döntéshozatal, valamint az MI megoldások. Létezik olyan álláspont, amely a tudomány és technológia előrehaladásával már-már új korszakot vizionál az emberiség történetében, míg mások inkább a kockázatokat hangsúlyozzák, és veszélyt látnak a gyökeres átalakulásban. A változások emberre gyakorolt hatásait (például a kamaszok csökkenő kognitív képességeit) illetően meglehetősen kevés kutatási eredmény áll még rendelkezésre, így a kutatók könnyen juthatnak akár ellentétes következtetésekre is saját meghatározottságaik alapján. Ebben a helyzetben kulcsfontosságú az etikai megközelítés kialakítása, amely magasabb absztrakciós szinten keresi a válaszokat az alapvető kérdéseinkre.
Az adatetikai diskurzus kihívásai
A big data korában a kulcs a nagy adattömeg, amelyre alapul valamely automatizált döntés, vagy amely a gépi tanulási folyamat „alapanyaga”. Kutatásetikai szempontból alapvető kihívást jelent, hogy az adatok elsősorban a magánszereplőknél halmozódnak fel, így az akadémiai szempontok csak lassan és áttételesen tudnak érvényesülni az etikai kérdések kialakításánál. A gazdasági szereplők egyre inkább azzal az igénnyel lépnek fel, hogy az adatok felhasználására vonatkozó etikai gondolkodást befolyásolják, amely hozzáállását jellemzően a technológia-determinista álláspont határozza meg, miszerint az innováció definíciószerűen jó, így a hangsúly az adatok gazdasági értékének kiaknázásában rejlik (Taylor & Denick, 2020). Ezzel párhuzamosan számos botrány tépázta meg a vállalati szektor hitelességét az adatkezelési gyakorlatukkal kapcsolatban, de visszás lehet a felhasználók elégtelen tájékoztatása vagy korlátolt döntési szabadságuk kihasználása a személyes adataik felhasználásával összefüggésben (pl. beépített adatkereskedelem/ built-in data trading).
A Facebook (Meta) „érzelmi fertőzés kísérlete” iskolapéldája annak, hogy az adattudomány művelése milyen kutatásetikai kérdéseket vet fel. Ebben a kísérletben a Facebook a hírfolyamban (News Feed) megjelenített posztokat manipulálta az érzelmi tartalmuk alapján, és azt vizsgálta, hogy hat-e a felhasználók érzelmi állapotára az, hogy milyen érzelmi töltetű tartalmaknak vannak kitéve az online környezetben. A kísérletbe a cég 689.003 felhasználót vont be, és az egyik csoportnál a pozitív tartalmú posztokat csökkentették, míg a másiknál a negatív tartalmakat fogták vissza. A kutatók szignifikáns összefüggést találtak aközött, hogy milyen érzelmi tartalmú posztoknak vannak kitéve a felhasználók, és hogy ők maguk milyen érzelmi töltetű posztokat generálnak. A kísérletet a Facebook adattudományi csoportja vezényelte (Core Data Team), és bár két akadémiai szereplő is részt vett benne, olyan alapvető kérdések merültek fel, mint a szándékos manipuláció, illetve tájékozott beleegyezés hiánya „embereken végzett” kísérlettel kapcsolatban.
Ebben a környezetben egyes nagy technológiai cégek komoly erőfeszítéseket tesznek, hogy befolyásolják az adatetika értelmezési kereteit és fejlődési irányait. A Facebook például a Müncheni Műszaki Egyetemen finanszíroz „független” Mesterséges Intelligencia Etikai Kutatóintézetet, így a piaci szempontok közvetlenül jelennek meg az akadémiai kutatásban. Linnet Taylor és Lina Dencik kritikai mélyelemzésükben arra jutnak, hogy a piaci szereplők motivációit az etikai diskurzusban való részvételük kapcsán alapvetően a fogyasztói bizalom helyreállítása határozza meg; de olyan álláspont is létezik, miszerint az adatetika tematizálására vonatkozó igyekezet a vállalkozások társadalmi felelősségvállalásának újfajta kommunikálására is felhasználható.
Az MI szabályozás etikai alapjainak megteremtése
Thomas Metzinger, az Európai Bizottság Mesterséges Intelligenciával Foglalkozó Magas Szintű Szakértői Csoportjának résztvevője nem optimista a vállalkozások motivációját illetően a szabályozás etikai alapjainak kialakítása során. Mint ismert, az Európai Unió a Mesterséges Intelligencia szabályozására vonatkozó tervezete („MI Kódex”) elsőként kíséreli meg az MI számonkérhető, kockázatalapú szabályozásának kialakítását. Ennek előzményeként a szabályozás elvi-etikai kereteit kellett kialakítani, amely érdekében a Szakértői Csoport 2019. április 8-án bocsátotta közre a megbízható MI-re vonatkozó etikai irányelveit. Metzinger szerint a testület iparági szereplői azzal a motivációval vettek részt munkájában, hogy elhúzzák az etikai diskurzust és ezzel is minél inkább késleltessék a hatékony európai normatív szabályozás megszületését. Ezt a magatartást („ethics washing”) a piaci szereplők részéről az etikai kérdésekkel való visszaélésként értékeli a filozófus, ugyanakkor kétségtelen, hogy az etikai alapok megteremtése nélkülözhetetlen egy ennyire új terület kapcsán felmerülő szabályozási igénynél. Metzinger kiemelte, hogy a szakértői csoportban mindössze négy tudós vett részt, akik az etika területén formális akadémiai képzésben vettek részt, és ők mindent elkövettek, hogy a politika-alkotás és szabályozás alapjául szolgáló megfelelő etikai alapok mielőbb megszülethessenek.
Érdemes felidézni az etikai kérdésekkel való foglalkozás hasznosságáról / értelméről szóló vitát, amely ezen a blogon is teret kapott. Magam részéről azt az álláspontot képviselem, hogy az etikai diskurzus nem helyettesíti a normatív szabályozást, de annak lefolytatása a megfelelő szabályozás előfeltétele. Milyen szabályozás volna az, amely nem vesz figyelembe etikai szempontokat? Egyáltalán, milyen jogrendszer lenne az, amely nem tart igényt erkölcsi megalapozásra? Kétségtelen, hogy széttartó vitákat eredményezhet és végső soron a jogalkotó dönt, de ez jó esetben reflektál az adott társadalom etikai normáira. Európa is élen jár sajátos értékei érvényre juttatásában a technológia szabályozás területén.
Persze, Európán kívül is nagy figyelmet kap a MI működése elvi alapjainak kidolgozása. Figyelemreméltó a Harvard Egyetem Berkman Klein Center kutatása, amely igyekszik szintetizálni a globális szinten az MI-re vonatkozó etikai és jogi megközelítések elvi alapjait és azt vizuálisan „térképszerűen” is megjeleníti. Ugyanígy említésre méltók a piaci szereplőktől jövő őszintének ható kezdeményezések, hogy miképpen lehet a big data korában a vállalati adatprojektek esetében, már a tervezési fázisban megjeleníteni az etikai szempontokat (ethical by design).
Az adatetika meghatározása
Az adatetika (data ethics) elvi kereteit Floridi és Taddeo dolgozták ki 2016-ban, amelyet az etika új ágaként határoztak meg. Az adatetika az adatokhoz, az algoritmusokhoz és a vonatkozó eljárásokhoz kötődő morális kérdéseket vizsgálja azzal az igénnyel, hogy morális szempontból elfogadható jó megoldásokat fogalmazzon meg és támogasson. Az adatetika tágabb értelemben az adattudomány (data science) kereteihez kapcsolódik és kutatási irányait az adatok etikája (ethics of data), az algoritmusok etikája (ethics of algorithm) és az eljárások etikája (ethics of practices) adja, amely utóbbiba beletartozik a szakmai etikai és deontológiai megközelítés is. A bejegyzés kereteit meghaladja az etikai nézőpont mélyebb kifejtése, ugyanakkor az adatetika fejlődése is hozzájárulhat ahhoz, hogy a technológiai innováció hatásait pontosabban megértsük. Ahogy Vizi E. Szilveszter fogalmaz, az etikai dimenzió következetes alkalmazása és meggyőző felmutatása feloldhat egy, a tudomány szerepét érintő dilemmát, mégpedig azt, hogy a tudomány teszi lehetővé a technológiai fejlődést, de a társadalom a tudósoktól várja az esetleges negatív hatások felmérését is. Az etikai hozzáállás kialakítása így növelheti a bizalmat az új megoldások iránt, ugyanakkor egyszerre jelenhet korlátot és lehetőséget a technológia számára.
