Szele Tamás: Etika a kibertérben

Azt senki sem vitatja, hogy a mesterséges intelligencia nélkül sokkal kényelmetlenebb volna az élet, bár vannak esetek, amikor sokkal kényelmesebb is. Mindenesetre az eszközről magáról már nem lehet és nem is kell lemondani – de a felhasználásában alkalmazott alapvető etikai szabályok még kérdésesek, meghatározatlanok és azok is maradnak jó ideig. Ezt foglalja össze a The Insider tanulmánya, melyet az alábbiakban mutatok be, saját megjegyzéseimet szokás szerint a bekezdések végén, csillag alatt teszem meg.

A Pentagon és az Anthropic közötti szerződés felbontása az MI-technológiák etikus felhasználásával kapcsolatos egyik legnagyobb botránnyá vált. Minél gyorsabban fejlődik a mesterséges intelligencia piaca, annál élesebbé válik a digitális algoritmusok etikai korlátozásainak kérdése. A legtöbb állam még mindig nem tudott olyan jogszabályokat kidolgozni, amelyek szabályoznák a mesterséges intelligencia-technológiát, míg a fejlesztők ellenállnak minden olyan kísérletnek, amely korlátozná munkájukat. Amíg tehát a különböző államok nem boldogulnak ezzel, ezt a terhet a civil társadalom kell magára vállalja: olyan eszközök alkalmazásáról van szó, mint az MI-technológiák civil ellenőrzése, etikai kódexek és engedélyek kidolgozása, kollektív tesztelés és a médián keresztül gyakorolt nyomásgyakorlás.

Melyek az MI hibái és ki fogja kijavítani őket?

Az MI-rendszerek üzleti folyamatokba való bevezetésének mértéke már olyan mértékű, hogy az algoritmusok „elfogultságának” problémája komolyan kezd hatni a társadalomra: ismertek olyan esetek, amikor a felvételi eljárás során a mesterséges intelligencia elutasította a nők önéletrajzait, a színes bőrű vádlottakat (tévesen) magas bűnismétlési kockázatú személyekként jelölte meg, vagy megtagadta az orvosi ellátást az idősektől.

Egy másik problematikus terület a deepfake (mesterséges intelligenciával generált képek, amelyek sértőek vagy pornográf jellegűek lehetnek) özöne. Áprilisban a párizsi ügyészség beidézte kihallgatásra Elon Musk üzletembert, az X (Twitter) közösségi hálózat tulajdonosát, azzal a váddal, hogy Grok nevű csevegőrobotja gyermekeket ábrázoló, pornográf tartalmú deepfake-eket terjesztett.

Az ilyen botrányok és tragikus hibák fényében egyre nyilvánvalóbbá válik, hogy a világ összes államának jogalkotása lemarad az MI-rendszerekre vonatkozó szabályozás terén. A hagyományos állami szabályozás ebben az esetben a „Calligridge-dilemmával” szembesül: a korai szakaszokban nehéz megjósolni az új technológia bevezetésének következményeit, a későbbi szakaszokban pedig, amikor a kár már nyilvánvaló, az ellenőrzés túl költségessé és bonyolulttá válik.*

*A magyar jogrendszer szintén hasonló helyzetben van, még a hagyományos, internetes jogsértések esetében is: ha valaki online letölt egy régi játékot egy nyilvános oldalról, büntethető a szerzői és szomszédos jogok megsértése miatt, de ha valaki más online karaktergyilkosságot indít bárki ellen, esetleg a személyiségi jogaival is visszaél, például e-maileket ír a nevében ismeretleneknek, annak a rendőrség (ha kicsit is ügyes, sőt, akkor is, ha ügyetlen) bottal üti a nyomát. Ez utóbbit személyesen tanúsítom: évekig zaklatott valaki a legképtelenebb aljasságokkal, míg rendőrségi ügy lett a dologból, az is elhúzódott egy ideig, majd a végén értesítettek, hogy engem, mint sértettet ez egyszer nem büntetnek meg, de csak bizonyíték hiányában. Holott én magam bizonyítottam, hogy sérelem ért...

A demokratikus államok (az EU, az USA és az összes többi) mintha nem vették volna figyelembe az MI-modellek villámgyors fejlődését. Így például Luisa Jarowski úgy véli, hogy még a 2022–2024-ben elfogadott törvények (mint például az Európai Unió MI-törvénye) is elavultak és hatástalanok.

Ugyanakkor a szabályozó hatóságok többsége az elmúlt három évben tehetetlennek bizonyult, és félnek határozott intézkedéseket hozni, attól tartva, hogy a szabályozás elfojthatja az innovációt és lassíthatja a termelékenység növekedését (ez az érv gyakran hangzik el az EU-ban), vagy hogy ez vereséghez és a versenytársak (vagyis az USA szerint Kína) megerősödéséhez vezet az MI-versenyben.*

*Azért a megerősödéshez ezen a téren Kínának pont arra a hardver-háttérre is szüksége lenne, ami ez idő szerint hiányzik és nem is tudja mai technológiai szintjén pótolni.

Louise Jarowski megjegyzi, hogy a mesterséges intelligencia körüli hírverés, a túlzottan optimista előrejelzések az emberihez hasonló vagy azt felülmúló, minden betegséget egy évtized alatt meggyógyítani képes általános mesterséges intelligencia (AGI) létrehozásáról, valamint a generatív modellek „öntudatáról” és a generatív modellek „jólétéről” elterelik a figyelmet a valódi problémák megvitatásáról. Miközben a hatóságok zavarban vannak, a technológiai vállalatok saját szabályaik szerint kezdenek cselekedni, és ebben az esetben nem is beszélhetünk önszabályozásról.*

*A technológiai újítások lebecsülésénél csak egy nagyobb tévedés lehetséges: ha túlbecsüljük őket.

Mivel az MI-vállalatokat elsősorban üzleti érdekek vezérlik, készek támogatni bármilyen profitot hozó narratívát, még akkor is, ha ez azt jelenti, hogy olyan ötleteket népszerűsítenek, mint a chipek beültetése emberekbe az intelligencia és a termelékenység növelése érdekében.*

*Ez viszont erős túlzás. Ahogy Elon Musk idevágó kísérletei is azok voltak, és nem is jártak átütő sikerrel: egyelőre elmondható, hogy az emberi idegrendszer és a számítógép közötti valóban működő interface, az, ami többre képes egy kurzor mozgatásánál és a klikkelés emulációjánál, nem létezik és nem is biztos, hogy létrehozható.

Ebben a helyzetben a szabályozás terhe a nem állami mechanizmusokra hárul: a szakemberek által írt etikai kódexektől a közösségek által végzett független auditokig. Az iparágban megkezdődött az olyan szabványok kidolgozása, amelyek többek között a technológia fejlesztésének etikai vonatkozásait is érintik.

Etikai kódexek és korhatár-besorolások

Az Association for Computing Machinery (ACM) frissített etikai kódexe rendelkezéseket tartalmaz arról, hogy a technológiai fejlesztéseknek a „közjót” kell szolgálniuk, és a mérnököknek figyelembe kell venniük minden ember érdekeit – mintegy az iparág részvényeseinek tekintve a teljes emberiséget.*

*Csodás eszme. Most már csak a teljes emberiségnek kellene abban egyetértenie, hogy mi is az a „közjó” és mik a közös érdekeink. Ebben az ügyben még a legkisebb embercsoporton belül is radikális véleménykülönbségek tapasztalhatóak.

A dokumentum emellett ösztönzi bizonyos „értesítési mechanizmusok” létrehozását arra az esetre, ha egy vállalat figyelmen kívül hagyja munkája erkölcsi vonatkozásait. Érdemes azonban megjegyezni, hogy az ACM kiköti: „A kódex célja, hogy a számítástechnika szakembereit etikus megközelítésre ösztönözze” – vagyis a dokumentum valójában semmire sem kötelez.

Az Amerikai Villamosmérnökök és Elektromérnökök Intézete (Institute of Electrical and Electronics Engineers, IEEE) javasolta nemrég az „értékorientált tervezés” (Ethically Aligned Design) módszertanát. A szervezet létrehozta a P7000 szabványsorozatot, amely elmagyarázza, hogyan lehet elérni a kód átláthatóságát, megelőzni az algoritmusok elfogultságát és biztosítani a személyes adatok védelmét a mesterséges intelligenciával történő munkában. Ugyanakkor ezek a szabványok sem kötelezőek, amíg nem kerülnek be a törvényi szabályozásba.

Egy másik ötlet a mesterséges intelligencia-eszközök nem állami ellenőrzésére az iparágban egy önkéntes minősítési rendszer létrehozása, hasonlóan a filmiparban alkalmazott korhatárokhoz. A német AI Ethics Impact Group egy etikai címkézési modellt javasolt (az energiahatékonysági osztályokhoz hasonlóan), amely hat paraméter alapján értékeli a rendszert: átláthatóság, elszámoltathatóság, adatvédelem, méltányosság, megbízhatóság és környezeti fenntarthatóság. A méréshez egy speciális VCIO-modellt (Values, Criteria, Indicators, Observables) használnak, amely ezeket a viszonylag elvont fogalmakat konkrét, ellenőrizhető mutatókra bontja.*

*Ezeknek a kezdeményezéseknek van egy közös tulajdonságuk: az őket tápláló szándék nemes, de semmiféle szankció alkalmazására nincs lehetőség abban az esetben, ha valaki megsérti az elveiket. Mégis, mi történik a vétkessel, csúnyán fognak rá nézni? A szankció a jogrendszer része kellene legyen, csakhogy pont a jogrendszer az, ami képtelen követni a technológiai fejlődést.

Kollektív tesztelés és civil audit

Felépítésük sajátosságai miatt az MI-modellek nem mindig alkalmasak a hagyományos tesztelési módszerekkel végzett vizsgálatra. Itt kerülnek képbe a kiberbiztonsági területről származó, díjazásért szolgáltatott hibakereső programok (bug bounties), amelyeket az előítéletek felkutatására adaptáltak – ezek a bias bounties-ok.

Az első ilyen jellegű nagyszabású programot a Twitter (ma X) hajtotta végre 2021-ben a saját képszabályozó algoritmusára vonatkozóan. A résztvevők felfedezték, hogy az eszköz a fiatalabb, világos bőrű személyeket (illetve az őket ábrázoló képeket) részesíti előnyben.

Nonprofit szervezetek, például a Bias Buccaneers és a Humane Intelligence, átlátható versenyek formájában szerveznek ilyen ellenőrzéseket, az auditba nemcsak adatszakértőket, hanem szociológusokat és aktivistákat is bevonva. Ez a megközelítés lehetővé teszi az „ismeretlen ismeretlenek” (unknown unknowns) feltárását – ez olyan kockázatokat jelnet, amelyekről maguk a fejlesztők sem tudtak.

Az Eticas Foundation-hoz hasonló szervezetek kidolgozzák a közösségvezérelt ellenőrzés (Community-Led Audits) módszertanát, amelyre akkor van szükség, amikor az algoritmusok közvetlenül befolyásolják a társadalmi státuszt és az emberi jogokat. Ez a megközelítés ötvözi a technikai módszereket a szociológiaiakkal – interjúk és etnográfiai kutatások alkalmazásának bevonásával. Rotterdamban például egy ilyen közösségi audit felfedte egy algoritmus elfogultságát, amely igazságtalanul megfosztotta a támogatásoktól az egyedülálló anyákat és a migránsokat.*

*Ezek a problémák nagyon mélyek és nehezen kezelhetőek, ugyanis volt rá eset, hogy maguk az MI fejlesztői sem voltak képesek rájönni, honnan veszi a termékük az előítéleteket – míg rá nem jöttek, hogy egyrészt a felhasználóktól, másrészt a közösségi kommunikációból. Ennek szélsőséges példája volt Tay, a Microsoft 2016-ban nyilvánossá tett chatbotja, amit a rendszer tanulási mechanizmusát kihasználó radikális felhasználók mintegy 16 óra alatt neonáci szélsőségessé tettek, és szó szerint le kellett kapcsolni. Tudomásom szerint akkor merültek fel először etikai kérdések az MI-k kapcsán.

Az etikai licenc

Egy másik ellenőrzési eszköz a szabad forráskódú szoftverek (Open Source) felhasználói és fejlesztői közösségén belül jött létre: ez a „Felelős AI-licenc” (Responsible AI Licenses vagy RAIL). A hagyományos nyílt licenctől eltérően, amelyek a kód tetszőleges felhasználását engedélyezik, a RAIL magában foglalja az etikai követelményeket is.

A licenc jogosultja vállalja, hogy nem használja fel a modellt káros célokra: például deepfake-ek készítésére, bizonyítatlan orvosi tanácsok adására vagy bármilyen formájú diszkriminációra. Ez lehetővé teszi a fejlesztők számára, hogy megtartsák az irányítást afelett, hogyan hatnak felfedezéseik a világra.

Sajtó és alulról jövő aktivizmus

A nyilvános MI-felügyelet rendszerének fontos láncszemévé vált a nyomozó újságírás. Az olyan kiadványok, mint a The Markup és a ProPublica, az algoritmusok problémáinak „feltárására” specializálódtak. 2016-ban a ProPublica a Machine Bias című cikkében leleplezte az amerikai bíróságokon használt COMPAS rendszer faji elfogultságát. Ez a technológia az egyénre vonatkozó adatok alapján „jósolta meg” az általa várhatóan elkövethető bűncselekményeket (az ilyen eszközök használata az EU-ban tilos).

Az újságírók megszerezték a 2013-ban és 2014-ben a floridai Broward megyében letartóztatott több mint hétezer személy kockázati értékelését, és ellenőrizték, hogy közülük hányat vádoltak meg új bűncselekmények elkövetésével a következő két év során.

A becslés rendkívül megbízhatatlannak bizonyult: az erőszakos bűncselekmények előrejelzésében: csak a „kockázati csoport” tagjanak 20%-a követett el ténylegesen ilyesmit. 2025-ben a ProPublica felfedezte, hogy Elon Musk amerikai Kormányzati Hatékonysági Hivatala (DOGE) hibás mesterséges intelligencia-adatokra támaszkodva csökkentette a veteránok támogatását.

Akárhogyan vesszük, még ha tízszer ennyi ilyen közösségi kezdeményezés is lenne, még mindig nem volna elég a mesterséges intelligencia feletti ellenőrzés alapvető kérdéseinek megoldásához, ami csak az államok vagy nemzetközi szervezetek segítségével lehetséges. Sok szakértő viszont felveti a kérdést: érdemes-e a mesterséges intelligenciát ugyanolyan szigorúan szabályozni, mint a nukleáris fegyvereket, szükség van-e állami szabványokra az új modellek fejlesztéséhez és betanításához, sőt – „milyen mértékben engedhetjük meg a mesterséges intelligenciának, hogy tönkretegye az évek során kialakult társadalmi intézményeket”?

Az MI szabályozására mindenképpen szükség van, de ennek rugalmasnak és állandóan változónak kell lennie. Első sorban a technológia társadalmi és egyéni veszélyességét kell ennek szem előtt tartania, valamint emberi jogok sérthetetlenségét, és a felhasználók, valamint a piac érdekeit nemkülönben. Ugyanakkor mivel állandóan változik a helyzet és a környezet ezen a területen, lefektethetjük a tételt:

A mesterséges intelligenciát csakis egy erre kifejlesztett, különleges és állandóan frissülő, a helyzet változásait éjjel-nappal követő másik mesterséges intelligenciával lehetne hatékonyan szabályozni.

Hogy aztán ezt ki fogja fejleszteni, az a következő nagy konfliktus-sorozat kiváltó oka lesz majd.

Szele Tamás