Észrevételek a Facebook gyűlöletbeszéd elleni fellépésének tényleges hatékonysága kapcsán.
Néhány napja állt elő a Facebook azzal a hírrel, miszerint az elmúlt három negyedévben felére esett vissza a platformon megjelenő gyűlöletkeltő tartalmak elterjedtsége. Az eredmények ilyen formában az efféle tartalmakkal szembeni fellépés igen hatékony képét láttatják, azonban jobban a számok mögé nézve valamivel árnyaltabb kép bontakozik ki előttünk.
Az átláthatóság követelményének jegyében a Facebook negyedévente teszi közzé jelentéseit, amelyekből megismerhetők a szolgáltatónak a közösségi alapelvek érvényre juttatása terén elért eredményei. A legfrissebb, 2021. második negyedéves terminust ismertető (egyébiránt nyár végén megjelent) számadatok interpretálása során a Facebook igen büszkén kiemelte, hogy a platformon 50%-kal csökkent a gyűlöletkeltő tartalmak elterjedtsége. Ez kétségkívül megsüvegelendő teljesítményt sejtet, de anélkül, hogy a tényleges erőfeszítéseket és eredményeket elbagatellizálnánk, érdemes néhány magyarázó észrevételt fűzni az említett adatokhoz.
Elsőként nyilvánvalóan értelmezésre szorul, hogy tulajdonképpen mit is jelent ez az említett 50%-os csökkenés. Nos, a magyarázat szerint az elterjedtség (prevalence) azt hivatott kifejezni, hogy a platformon végzett összes tartalommegtekintésnek milyen aránya érintett szabálysértő (jelen esetben: gyűlöletkeltő) tartalmat. Ennek alapján az eredményekből kiolvasható, hogy míg 2020. harmadik negyedévében minden 10 ezer megtekintésből 10–11 minősült gyűlöletkeltő(nek minősített) tartalomnak, addig ez a szám a legutóbbi időszakban 5-re csökkent. (A mintavételezés és értelmezés magyarázatától e bejegyzés keretében eltekintenénk, a főbb mondanivaló tekintetében ugyanis nem bír relevanciával.) A jelentésből emellett kiolvasható például az is, hogy a platform által az intézkedéssel érintett tartalmak száma 31,5 millióra nőtt, amelyből (korábban szintén nem látott magas arányt eredményezve) 97,6%-ot proaktívan, technikai eszközökkel (mesterséges intelligencia alkalmazásával) – tehát nem felhasználói jelzés alapján – sikerült kiszűrni.
A kiragadott számadatok mellett az elmúlt évek tendenciáit megfigyelve, tisztán az egyes grafikonokra pillantva abba az illúzióba is ringathatjuk magunkat, hogy a gyűlöletbeszéd egyre inkább visszaszorulóban van a platformon. A kép azonban ennél bizonyosan sokkal árnyaltabb. Elég csak Frances Haugen, a Facebook korábbi alkalmazottjának a közelmúltban nyilvánosság elé tárt információira gondolnunk (akit azóta újabb korábbi munkatárs is követett), miszerint a platform hazudik, amikor azt állítja, hogy komoly lépéseket tesz a gyűlöletbeszéd visszaszorítása érdekében. Ha az átláthatóság jegyében közzétett és így bárki számára elérhető információk valótlanságát nem is tudjuk tényekkel alátámasztva igazolni, bizonyos adatok hiányára tekintettel mégis lehet okunk arra, hogy kétellyel fogadjuk a sikernek beállított eredményeket.
A közzétett adatokból ugyanis mindössze arra vonatkozóan vonhatunk le következtetéseket, hogy a platform milyen mennyiségű tartalmat ítélt gyűlöletkeltőnek; ezek milyen arányban viszonyultak az összes megtekintett tartalomhoz; illetve milyen megoszlásban voltak ezek között felhasználói jelzés alapján, és proaktív tevékenység következtében észlelt tartalmak. Egy nagyon fontos adat ugyanakkor hiányzik a képletből, mégpedig a közösségi oldalon ténylegesen megjelenő gyűlöletkeltő tartalmak száma. Ezek, vagyis a ki nem szűrt, ámde (jog)sértő tartalmak nem szerepelnek a közzétett adatokban. Egyes kiszivárgott dokumentumok szerint valójában csupán a gyűlöletkeltő tartalmak néhány százalékát érinti bármilyen intézkedés, amit igazolt, hiteles információk hiányában sem megerősíteni, sem cáfolni nem tudunk.
Az átláthatóság jegyében közzétett adatokból így csak azt az információt nem tudjuk meg, ami valójában érdekes volna: a gyűlöletbeszédnek minősülő tartalmak milyen arányban kerülnek eltávolításra, illetve maradnak a platformon. A tartalommoderálás hatékonyságát ugyanis tárgyilagosan nem az alapján ítélhetjük meg, hogy a mesterséges intelligencia használatának köszönhetően elért eredményeket a felhasználók jelzései alapján tett intézkedések számához viszonyítjuk.
Érdemes azonban rögtön még egy ponton pontosítani az előző állítást: a közzétett adatokból nem a ténylegesen gyűlöletkeltést tartalmazó tartalmak számát (arányát) tudjuk meg, hanem azt, amit a moderátorok végül annak ítéltek. Egyfelől ugyanis, amint az a közzétett adatokból is kiolvasható, a Facebook intézkedéseivel szemben igen sok „jogorvoslati” kérelmet nyújtanak be a felhasználók, aminek eredményeképpen számos tartalom végül visszakerül a platformra (előbbi nagyságrendileg negyedévente egymilliós számot jelent, utóbbi pedig néhány százezret).
Amit tehát világos tendenciaként ki lehet jelenteni a rendelkezésre bocsátott számokból, az az, hogy a platform 2017 vége óta egyre több tartalommal összefüggésben intézkedett gyűlöletbeszédre való hivatkozással, és az intézkedés alá vont elemekre egyre nagyobb arányban mesterséges intelligencia bukkan rá. Figyelembe véve a Facebook felhasználói számának folyamatos növekedését, talán nem megalapozatlan következtetés, hogy ezzel együtt a közzétett tartalmak, így a gyűlöletbeszéd kategóriájába sorolható elemek száma is folyamatosan emelkedik – még ha esetleg utóbbiak aránya egyre kisebb mértékben. Ha pedig elfogadjuk e feltételezést, akkor kijelenthető: úgy tűnik, a Facebook mesterséges intelligencia alkalmazásával egyre jobb és hatékony fellépésként értékelhető eredményeket képes produkálni anélkül, hogy egyébként valóban érdemi előrelépést mutatna fel a platform biztonságos környezetként való megteremtése terén. Valódi kárt ugyanis nem az a tartalom tud okozni, amit azelőtt eltávolít a szolgáltató, mielőtt akár egyetlen felhasználóhoz is eljutna, hanem az, amelyik nem kerül a tartalommoderátorok látóterébe.
A Facebook által nyilvánosságra hozott, alapvetően átláthatóságot szolgáló adatok kapcsán tehát elmondhatjuk, hogy akkor is könnyen félrevezető következtetések levonására lehetnek alkalmasak, ha az egyes értékek hitelességében nem kételkedünk. A megalapozott értékeléshez sokkal több információ összevetésére lenne szükség, köztük elsősorban olyanokra is, amelyeket – legalábbis hivatalos forrásból – valószínűleg sosem tudunk meg.
