Kísérlet a fogalomtörténet béklyójának lerázására
RECENZIÓ – Etimologizáló tévedésnek nevezzük azt a vélekedést, hogy egy szó jelentését múltbeli értelme határozza meg. A bemutatott kötet egy ilyen hibát próbál leleplezni.
Az elmúlt évek során érthető módon megsokasodtak az MI-alapú döntéshozatal és a politika viszonyát boncolgató írások, melyeknek spektruma az önfeledten derűlátó technooptimizmustól annak végletes ellenkezőjéig terjed. A belga technológiafilozófus, Mark Coeckelbergh álláspontja e két szélsőség között helyezhető el: manifesztumszerű könyve ugyanis egyszerre hívja fel a figyelmet a politikai intézményrendszereket érő kihívásokra, valamint az MI-alapú rendszerek értékalapú szabályozásának szükségességére.
A Miért ássa alá a mesterséges intelligencia a demokráciát, és mit tehetünk ez ellen (Why AI Undermindes Democracy and What To Do About It) kiindulópontja az az elsőre meghökkentőnek tűnő állítás, miszerint a kibernetika és a kormányzat szoros fogalmi rokonságban állnak egymással. Ennek forrása a Platón Államából (6. könyv) közismert hajóhasonlat, melyben az ókori filozófus azt vette sorra, hogy ki(k)re is érdemes egy hajó irányítását bíznunk annak érdekében, hogy az sikeresen révbe is érjen: és miután egyaránt elvetette azt, hogy a legnagyobb lélekszámú csoport (utasok), valamint azt is, hogy egy kisebbség tagjai (matrózok) vezessék a járművet, arra a következtetésre jutott, hogy egyetlen ember, a kormányos kezében lesz az a legjobb helyen. Az említett kormányost pedig kübernétésznek (κυβερνήτης) nevezte, mely a kormányozni jelentésű kübernáó (κυβερνάω) ige származéka, és amely a latin közvetítésnek (gubernatio, gubernare) köszönhetően számos modern nyelvben napjainkban is a kormányzás megnevezésére szolgál.
Kevésbé köztudott azonban, hogy amikor Norbert Wiener 1948-ban megalkotta a kibernetika (cybernetics) kifejezést, ugyanehhez a görög szótőhöz nyúlt vissza (11). „Úgy határoztunk, hogy az irányítás és a kommunikáció elméletének teljes körét – legyen szó akár gépekről, akár élőlényekről – kibernetikának nevezzük el; a kifejezést pedig a görög χυβερνήτης, azaz ’kormányos’ szóból képeztük. […]. Emellett arra is rá szeretnénk mutatni, hogy a hajók kormányszerkezetei voltaképpen a visszacsatolási mechanizmusok egyik legkorábbi és legkiforrottabb formáját képviselik.” (Norbert Wiener: Cybernetics. Or Control and Communication in the Animal and the Machine, M.I.T. Press, Cambridge, Massachusetts, 2019, 18.)
Jóllehet, Wiener számára a kibernetika tárgyát még nem kizárólag számítógépes hálózatok képezték, hanem az idegsejtek közti kommunikációs és kontrollmechanizmusoktól kezdve a társadalmak egészében végbemenő hasonló folyamatokig mindent felölelt. Mindazonáltal tagadhatatlan, hogy a mai értelemben vett kibernetika is a kormányzás görög fogalomköréből jött létre (egy zárójeles megjegyzést pedig az is megérdemel talán, hogy a magyar nyelvújítók által megalkotott kormányzat szó is a latin gubernium tükörfordítása, tehát közvetett módon annak eredete is a platóni hajóhasonlatban keresendő).
Mivel azonban Platón – mint azt a hasonlatból is láthattuk – markánsan demokráciaellenes volt, Coeckelbergh pedig éppen a demokráciára leselkedő veszélyek egy csoportjára kívánja felhívni olvasói figyelmét, a fenti, fogalomtörténeti áttekintéssel pont arra kíván rámutatni, hogy a kibernetikában ugyanúgy benne rejlik az egyszemélyes – jelen esetben az MI általi – hatalomgyakorlás lehetősége, mint ahogy a platóni kübernétészben is benne rejlett. Mi több, egy ponton egészen odáig merészkedik, hogy szakítanunk kellene mind a kibernetikának, mind pedig a közigazgatásnak a kormányos-metaforára visszautaló megnevezésével, mivel az egyszemélyes uralom helyett „a demokrácia az, amelynek képességében áll, sőt feladata is egy demokratikus és a demokrácia érdekében megvalósuló mesterséges intelligencia létrehozatala” (30).
A szerző tehát a legkevésbé sem azt vitatja, hogy az MI természeténél fogva politikai célokra lenne használatos (a második fejezet egészében éppen azt mutatja be, hogy minden jelentősebb technológiai újításnak voltak politikai következményei), mindössze amiatt bírálja a jelenlegi gyakorlatot, mert az szerinte nem a megfelelő politikai céloknak kedvez. Coeckelbergh szerint ugyanis, ha a demokráciát a lehető legszűkebben értve a szavazati joggal azonosítjuk, a modern információs technológiák már erre is óriási veszélyt jelentenek (kedvenc példái ennek kapcsán a Cambridge Analytica és a kínai megfigyelőrendszerek által támasztott aggályok). De a szerző szerint még csak nem is szabad lehorgonyoznunk a demokráciának ennél a meglehetősen szűkre szabott értelménél, hanem azzal is számolnunk kell, hogy az MI hogyan képes befolyásolni a demokratikus részvétel deliberatív és republikánus értelemben vett lehetőségfeltételeit is. A Coeckelbergh által (némiképp tévesen) algoritmikusnak nevezett döntéshozatali mechanizmusok ugyanis, melyek eldöntöttnek tételeznek olyan kérdéseket, mint amilyenek például az egyéni felelősség korlátai, a szubszidiaritás szükségességének mértéke, vagy hogy a jogi vagy a szubsztantív egyenlőség eszméjét kell-e előnyben részesítenünk, könnyen felülírhatják a demokratikus részvétel előbb említett, hagyományos gyakorlatait.
A szerző két további fejezetet szán annak a kérdésnek is, hogy az MI alapú rendszerek által használt tényanyag és a belőlük levont következtetések ellenőrizhetetlensége miképpen képes erodálni az emberek egymással, valamint a politikai intézményrendszerrel szembeni bizalmát, de még mielőtt az olvasó végképp magába roskadna a rosszabbnál rosszabb hírek hallatán, Coeckelbergh egy mérsékelten pozitív végkicsengéssel is szolgál. A 6. fejezetben ugyanis annak lehetőségét veti fel a szerző, hogy megfelelő technikai és intézményi változások esetén lehetővé válhat az MI demokratizálása. Ennek érdekében végérvényesen szakítanunk kellene szerinte az értéksemleges MI gondolatával, és a további fejlesztéseket közjóorientált közösségek bevonásával kellene véghez vinni. Ennek azonban szükséges feltételét képezi Coeckelbergh szerint is egy olyan oktatási rendszer megléte, mely szélesebb tömegeket tesz alkalmassá kifejezetten az előbb említett feladat megvalósítására.
A Miért ássa alá a mesterséges intelligencia a demokráciát, és mit tehetünk ez ellen gondolatmenetéről és megállapításairól összességében tehát az mondható el, hogy egy roppant érdekes és meggyőző szempontfelvetést (a kübernétész, a kormányzat és a kibernetika fogalmi rokonságát) követően, az MI veszélyeinek taglalása során immár közhelyesebb vizekre téved, aminek kritikai élét pedig olyan javaslatokkal kívánja tompítani, melyek megvalósíthatóságához legalábbis kételkedve kell viszonyulnunk. A könyv egésze azonban egy hasznos, madártávlati betekintést nyújt a mesterséges intelligencia és a politikafilozófia viszonyának bonyodalmaiba.
Nyitókép forrása: Tzido / depositphotos.com
