Szele Tamás: Amikor az MI rajzik

Dehogy rajzik a mesterséges intelligencia, mondaná erre bárki, aki járatlan a kérdésben, nem méhecske vagy szárnyas hangya az. Dehogynem rajzik, kérem, megoldottuk, és ezzel olyan veszélyt sikerült az amúgy is súlyos válságoktól szenvedő emberi társdalomra szabadítanunk, mint még soha. A kérdéssel a WIRED magazin foglalkozott, az ő elemzésüket mutatom be az alábbiakban, saját megjegyzéseimmel, melyeket szokás szerint csillag alatt, a bekezdések végén teszek meg.

Hogy a történet legelején kezdjük, 2016-ban több száz orosz érkezett minden nap a szentpétervári Olgino negyedben található Szavuskina utca 55. szám alatti modern irodaházba: ők az Internetkutató Intézet néven elhíresült trollfarm munkatársai voltak. Ezek az alkalmazottak éjjel-nappal, a hét minden napján kézzel kommentálták a híreket, posztoltak a Facebookon és a Twitteren, és általában igyekeztek felbosszantani vagy megzavarni az amerikaiakat az akkoriban közelgő elnökválasztással kapcsolatban.*

*Hej, daliás idők voltak azok, Olgino még Prigozsin vállalkozása volt, és bár nagyon keveset fizetett a nála dolgozóknak, azok még mind emberek voltak. Ma már egyetlen humán adminisztrátor képes lenne ellátni a több száz orosz troll munkáját, mint látni fogjuk.

Amikor a rendszer végül lelepleződött, a média széles körben foglalkozott vele, és a szenátusban is meghallgatások zajlottak, a közösségi médiaplatformok pedig változtattak a felhasználók ellenőrzésének módján. A valóságban azonban a trollfarmba ömlesztett rengeteg pénz és erőforrás dacára Olgino hatása minimális volt – legalábbis egy másik, Oroszországhoz köthető kampányhoz képest, amelynek során Hilary Clinton e-mailjeit szivárogtatták ki közvetlenül a választások előtt.

Egy évtizeddel később az olgionói trollfarm ugyan már nem létezik, de a dezinformációs kampányok továbbfejlődtek, beleértve a mesterséges intelligencia használatát is hamisított weboldalak és hamisított videók létrehozására. A Science című tudományos folyóiratban csütörtökön megjelent új tanulmány a dezinformációs kampányok lebonyolításában hamarosan bekövetkező változásokat jósol. A tanulmány szerint a szentpétervári íróasztaloknál ülő több száz alkalmazott helyett egyetlen, a legújabb mesterséges intelligencia-eszközökhöz hozzáférő személy képes lesz több ezres közösségi média-fiókokból álló „rajokat” irányítani, amelyek nemcsak az emberi tartalomtól megkülönböztethetetlen, egyedi posztok létrehozására lesznek képesek, hanem önállóan és valós időben is fejlődni fognak – mindezt állandó emberi felügyelet nélkül teszik majd.*

*Ebben a legveszélyesebb egyrészt a rajok autonómiája, másrészt tömeges méreteik. Ha valakit manapság megtámad néhány, vele egyet nem értő troll, az áldozat egyszerűen letiltja őket és kész (régebben az ilyen brigantik képesek voltak gyengébb idegzetű embereket akár öngyilkosságba is kergetni). De nehéz letiltani tízezer, látszólag valós, eleven embernek, autonóm személyiségnek tűnő profilt, akik nem szó szerint ugyanazt szajkózzák. Időben is nehéz, fizikailag is, ráadásul ember legyen a talpán, aki nem inog meg ilyen teher alatt – ha valóban elhiszi, hogy ennyien utálják. Egy politikus számára pedig valóságos vereség lenne egy tömeges rajtámadás: még azok sem mernének kiállni mellette, akiknek tényleg rokonszenves, senki sem fordulna szembe a „népharaggal” – ami valójában csak gépharag.

A kutatók szerint ezek a mesterséges intelligencia-rajok olyan társadalmi szintű szemléletváltásokat eredményezhetnek, amelyek nemcsak a választásokat befolyásolhatják, hanem végső soron a demokrácia végét is előidézhetik – hacsak nem teszünk már most lépéseket ennek megakadályozására.

„A mesterséges intelligencia fejlődésének köszönhetően lehetőség nyílik arra, hogy a lakosság egészére kiterjedő szinten manipulálják a meggyőződéseket és a viselkedést” – áll a jelentésben. „Az emberi társadalmi dinamikát adaptívan utánozva sikeresen veszélyeztethető a demokrácia”.*

*Kezdjük rögtön azzal, hogy értelmét vesztené minden online közvélemény-kutatás. Sőt, a marketing is: egyáltalán, minden, aminek népszerűséghez, olvasottsághoz vagy szavazáshoz van köze. Ha az ember bármikor előránthat a mandzsettájából egymillió voksot, legyen szó politikáról vagy káposztás cvekedliről, vége a vitáknak és az eszmecseréknek is.

A dokumentumot 22 szakértő írta közösen, akik a világ minden tájáról származnak, és többek között az informatika, a mesterséges intelligencia és a kiberbiztonság, valamint a pszichológia, a számítógépes társadalomtudomány, az újságírás és a kormányzati politika területének szakértői.

A pesszimista kilátásokat azzal kapcsolatban, hogy a mesterséges intelligencia-technológia hogyan fogja megváltoztatni az információs környezetet, a terület más specialistái is osztják, akik véleményezték a tanulmányt.

„A kiválasztott egyének vagy közösségek megcélzása sokkal könnyebb, hatásosabb és erőteljesebb lesz” – mondja Lukasz Olejnik, a King's College London Háborús Tanulmányok Tanszékének vendégkutatója és a Propaganda: From Disinformation and Influence to Operations and Information Warfare cíymű könyv szerzője. „Ez egy demokratikus társadalom számára rendkívül veszélyes környezet. Nagy bajban vagyunk.”*

*Képzeljük el, hogy egy létező és nagyméretű közösséget sikerül nem csak megcélozni, de el is találni és meghódítani egy MI-rajjal, akik aztán tökéletesen manipulálhatóakká válnak bizonyos határokon belül, „vélemény-zombikká”, és úgy szavaznak, akár a választásokon is, ahogyan azt a háttérben rejtőzködő Bábumester kívánja tőlük. Közben pedig őszintén hiszik, hogy valóban a saját véleményüket érvényesítik. Ehhez képest minden eddigi propaganda-eszköz babazsúr, habos kakaóval és szalonzenekarral.

Még azok is úgy vélik, hogy a tanulmány olyan fenyegetésre világít rá, amelyet komolyan kell venni, akik optimisták a mesterséges intelligencia embereket segítő lehetőségeit illetően.

„A mesterséges intelligenciával támogatott befolyásolási kampányok minden bizonnyal a technológia jelenlegi fejlettségi szintjén mozognak, és ahogy a tanulmány is megállapítja, ez jelentős komplexitást jelent az irányítási szabályok és a védelmi válaszlépések szempontjából is” – mondja Barry O'Sullivan, a University College Cork informatikai karának professzora.

Az elmúlt hónapokban, amikor a mesterséges intelligenciával foglalkozó vállalatok igyekeztek bebizonyítani, hogy megérdemlik a beléjük fektetett több százmilliárd dollárt, sokan a legfrissebb mesterséges intelligencia-eszközökre mutattak rá, mint annak bizonyítékára, hogy a technológia végre beváltja a hozzá fűzött reményeket. A szerzők szerint azonban ugyanezt a technológiát hamarosan soha nem látott mértékű dezinformáció és propaganda terjesztésére is bevethetik.

A szerzők által leírt MI-rajok olyan mesterséges intelligencia által irányított eszközökből állnának, amelyek képesek tartós személyazonosságot és – ami döntő fontosságú – állandó memóriát fenntartani, ezáltal lehetővé téve a hiteles online személyazonosságok szimulálását. Az eszközök a közös célok elérése érdekében koordinálnák tevékenységüket, ugyanakkor a felderítés elkerülése érdekében egyéni személyiségeket és tevékenységeket alakítanának ki. Ezek a rendszerek képesek lennének valós időben alkalmazkodni a közösségi médiaplatformok által megosztott jelzésekhez és a valódi emberekkel folytatott beszélgetésekhez.*

*Elképzelem, ahogy a rajok megszállják a Tindert... körülbelül az az egyetlen közösségi felület, ahol hamar kiderül, ha valaki fizikailag nem létezik.

„A közösségi médiaplatformokon folytatott információs hadviselés új szakaszába lépünk, ahol a technológiai fejlődés a klasszikus bot-megközelítést idejétmúlttá tette” – mondja Jonas Kunst, a BI Norwegian Business School kommunikációs professzora és a jelentés egyik társszerzője.

Azon szakértők számára, akik évek óta nyomon követik a dezinformációs kampányokat és küzdenek ellenük, a dokumentum félelmetes jövőt mutat be.

„Mi van, ha a mesterséges intelligencia nem csak hallucinál információkat, hanem mesterséges intelligencia-chatbotok ezrei dolgoznak együtt, hogy a népes támogatás látszatát keltsék ott, ahol az nem is létezi? Ez az a jövő, amelyet a dokumentum elképzelt – orosz trollfarmok, digitális szteroidokon” – mondja Nina Jankowicz, a Biden-kormány korábbi dezinformáció elleni „cárja”, aki jelenleg az amerikai Sunlight Project vezérigazgatója.

A kutatók szerint nem világos, hogy ezt a taktikát már most is alkalmazzák-e, mivel a jelenlegi rendszerek, amelyek az összehangolt, nem hiteles viselkedés nyomon követésére és azonosítására szolgálnak, nem képesek felismerni az ilyen tevékenységet.

„Az emberek utánzására szolgáló megfoghatatlan tulajdonságaik miatt nagyon nehéz ténylegesen felismerni őket, és felmérni, hogy milyen mértékben vannak jelen” – mondja Kunst.

„A legtöbb közösségi média-platform adataihoz nem férünk hozzá, mert a platformok egyre korlátozóbbá váltak, így hozzájuk nehéz betekintést nyerni. Technikailag viszont mindenképpen lehetséges az MI-rajok alkalmazása. Egészen biztosak vagyunk benne, hogy már tesztelik a módszert.”*

*Ez kétségtelen, bizonyos jelekből magam is ezt a következtetést vonom le. Az MI-rajok sok eddigi botelhárító módszert tesznek elavulttá: manapság még gyanús, ha valakinek nincs profilképe, nincsenek személyi adatai vagy nincsenek ismerősei. Az ilyen vagy rosszban sántikál, vagy nem is ember, hanem bot – de az MI-rajoknak szó szerint rengeteg ismerőse lesz, a raj összes többi álprofilja, hogy mást ne mondjak. És pillanatok alatt generál magának mindegyik arcképtől személyi adatbázisig és életrajzig bármit.

Kunst hozzátette, hogy ezeket a rendszereket a fejlesztésük során valószínűleg még mindig emberi felügyelet alatt tartják, és azt jósolja, hogy bár a 2026-os novemberi amerikai félidős választásokon nem lesz jelentős hatásuk, de nagy valószínűséggel bevetik majd őket a 2028-as elnökválasztás megzavarására.

Az emberektől megkülönböztethetetlen MI-fiókok léte a közösségi médiaplatformokon csak az egyik probléma. Emellett a közösségi hálózatok méretarányos feltérképezésének képessége a kutatók szerint lehetővé teszi a dezinformációs kampányokat koordinálók számára, hogy az ügynököket konkrét közösségekre irányítsák, biztosítva ezzel a lehető legnagyobb hatást. Mint írják:

„Ilyen képességekkel felvértezve a rajok a maximális hatás érdekében pozicionálhatják magukat, és az üzeneteket az egyes közösségek hiedelmeihez és kulturális jelzéseihez igazíthatják, ami a korábbi botneteknél pontosabb célzást tesz lehetővé.”*

*Igen, megfelelő paraméterezéssel szó szerint bárkivé válhatnak.

Az ilyen rendszerek lényegében önfejlesztőek lehetnek, a posztjaikra adott válaszokat visszajelzésként használva fejleszthetik az érvelésüket az üzenetek jobb átadása érdekében. „Elegendő jelzéssel több millió mikroA/B tesztet futtathatnak, a sikeres változatokat gépi sebességgel terjeszthetik, és sokkal gyorsabban iterálhatnak, mint az emberek” – írják a kutatók.

Az MI-rajok által jelentett fenyegetés leküzdése érdekében a kutatók egy „AI Influence Observatory” létrehozását javasolják, amely akadémiai csoportok és nem kormányzati szervezetek embereiből állna, akik „a bizonyítékok szabványosításán, a helyzetfelismerés javításán és a gyorsabb kollektív reakció lehetővé tételén dolgoznának ahelyett, hogy felülről lefelé irányuló reputációs büntetéseket szabnának ki”.

Az egyik, ebből kizárt csoport nem másokból áll, mint maguknak a közösségi médiaplatformoknak a vezetőiből, elsősorban azért, mert a kutatók úgy vélik, hogy cégeik mindenekelőtt az elkötelezettséget támogatják, és ezért kevéssé ösztönzik őket az ilyen rajok azonosítására. (Magyarul: nekik még hasznuk is származik az MI-rajok tevékenységéből).

„Tegyük fel, hogy az MI-rajok olyan gyakorivá válnak, hogy már nem lehet megbízni senkiben, és az emberek elhagyják a platformot” – mondja Kunst. „Persze, ez azért már veszélyezteti a modellt. Ha csak növelik az elkötelezettséget, egy platform számára jobb, ha a rajok létét nem fedik fel, mert úgy tűnik, hogy nagyobb az elkötelezettség a felület iránt, több hirdetést tekintenek meg, ami pozitívan hat az adott vállalat értékelésére.”

A platformok cselekvésének hiánya mellett a szakértők úgy vélik, hogy a kormányok számára is kevés az ösztönző tényező a beavatkozásra. „A jelenlegi geopolitikai helyzet nem biztos, hogy barátságos a lényegében az online vitákat nyomon követő »megfigyelőközpontok« számára” – mondja Olejnik. Jankowicz egyetért: „Az a legijesztőbb ebben a jövőben, hogy nagyon kevés a politikai akarat az MI által okozott károk kezelésére, ami azt jelenti, hogy az MI-rajok hamarosan megvalósulhatnak”.

Persze, hogy kevés az akarat, hiszen minden politikus legkéjesebb álma teljesül: tetszés szerinti számú, fáradhatatlan, (majdnem) ingyen dolgozó propagandistához jutnak. Kérdés azonban, hogy az MI-rajok világában meddig lehet hiteles bármely szavazás, meddig maradhat fenn egyáltalán a demokrácia?

Ameddig az MI elkezd rajzani?

Szele Tamás