Szele Tamás: A jövő urai

Valószínűleg ma még fel sem mérjük, hogy mennyire fontos az a hír, amiről az alábbiakban – a The New York Times alapján – beszámolok. De rövidesen rá fogunk jönni, eléri az ingerküszöbünket, csak akkor már késő lesz. A történelem minden zsarnoksága azért kínozta, mészárolta polgárait vagy más polgárokat, hogy uralhassa a jövőt – és ennek lehetősége került most karnyújtásnyi távolságra a Kínai Népköztársaság számára. Ami könnyen jelentheti nem csak az általunk ismert, de mindenféle emberi civilizáció végét is.

Minden besúgórendszer, minden megfigyelés azért létezett és létezik, hogy a hatóságok felkészülhessenek a lázadásokra, felkelésekre, ellenzéki szervezkedésekre. Voltak és vannak államok, ahol egy rossz szó, egy vicc is elég ahhoz, hogy az állampolgárt hosszú évekre börtönbe zárják vagy akár ki is végezzék. Nemsokára már ennyire sem lesz szükség: a mesterséges intelligenciával kombinált megfigyelőrendszer nem csak azt tudja, kicsoda rendszerkritikus, ellenzéki vagy egyszerűen elégedetlen most, hanem azt is, ki lesz majd ilyen és mikor.

Jól tetszett olvasni.

Íme az, amit tudunk, megjegyzéseimet szokás szerint a bekezdések véégn, csillag alatt teszem meg.

A jövőlátó gépecske

Egy kínai vállalat olyan mesterséges intelligencián alapuló technológiát próbál kifejleszteni, amely lehetővé tenné az autoriter kormányok számára, hogy ne csupán megfigyeljék a rendszerkritikus ellenzéket, hanem akár azt is előre jelezzék, ki válhat a jövőben ellenzékivé.

A projekt, amely jelenleg még kutatási szakaszban van, olyan, mintha egy tudományos-fantasztikus disztópiából lépett volna elő, és bepillantást enged egy olyan világba, ahol az autoriter állam még azelőtt felléphet polgárai ellen, hogy azok nyilvánosan hangot adnának bármiféle ellenvéleményüknek.

A kínai Geedge Networks vállalat a Great Firewall kereskedelmi változatát forgalmazza, amely egy megfigyelő és cenzúrázó szoftver, amelyet Kína az online tevékenységek ellenőrzésére használ. Ezek az eszközök lehetővé teszik a kormányok számára, hogy figyeljék az internetes forgalmat, és jelentsék, ha valaki megpróbálja kijátszani a hagyományos online cenzúrát.

De a kiszivárgott vállalati dokumentumok szerint a cég olyan új termékeken dolgozik, amelyek mesterséges intelligenciát használnak a helyadatok és az internethasználat vizsgálatára, hogy megjósolják, ki tehet vagy mondhat akár a jövőben is valamit a kormány ellen – a Vanderbilt Egyetem kutatói szerint.

Egy ilyen technológia, ha tökéletesítik, hatalmas eszközt adna az autoriter kormányok kezébe a vélt vagy potenciális ellenségeik ellen.

Már az a gondolat is aggasztó, hogy egy autoriter kormány mesterséges intelligenciát használhat az ellenzéke visszaszorítására. De az iparágban dolgozók szerint az a forgatókönyv, mely szerint a mesterséges intelligenciát arra használják, hogy jóval azelőtt megjósolják az ellenzéki tevékenységet, mielőtt az ellenzéki cselekedne vagy akár csak kitervelne bármit is, már-már rémálom.

„Ez történik, amikor a tömeges megfigyelés találkozik a mesterséges intelligenciával” – mondta Brett J. Goldstein, a Vanderbilt Nemzetbiztonsági Intézet Wicked Problems Laboratóriumának igazgatója. Kiegyensúlyozó mechanizmusok nélkül az, amit Kína a saját polgáraival tesz, előrevetíti azt, ami bárhol lehetségessé válik majd, ahol ezeket az eszközöket szabályozás nélkül alkalmazzák.”

A kutatók megállapították, hogy a Geedge a pekingi kormány által támogatott kutató részlegével, a MESA Labbal együttműködve olyan technológiát fejlesztett, amely kínai állampolgárok profiljait hozza létre, majd mesterséges intelligenciával kiválasztja azokat, akik politikai kockázatot jelenthetnek.*

*A módszer világosnak tűnik: ha a polgár minden adatát és tevékenységét ismeri a rendszer, könnyen következtethet ezekből a hajlamaira is, és a kapcsolatrendszerét tekintetbe véve mérlegelheti, mennyire jelenthet adott esetben potenciális veszélyt az államrendre. Ha X. mondjuk nyugati irodalmat olvas, érdeklődik a környezetvédelem és a megújuló energiaforrások iránt és tegyük fel, amatőr szoftverfejlesztő, akkor most még kicsit sem veszélyes, de ha a lakóhelye közelébe építenek egy szeméttelepet vagy egy völgyzáró gátat, és ráadásul sok az ismerőse, könnyen válhat egy tiltakozó civil csoport vezetőjévé. Tehát a veszélyessége a szeméttelep függvénye – okosabb előbb lecsukni, és csak aztán építkezni, de ez még mindig olcsóbb, mint a civilek miatt máshová rakni a szeméttelepet. És ez még csak egy szándékosan enyhe példa volt.

Úgy tűnik azonban, hogy a vállalat fejlődését gátolta a Biden-korszakban bevezetett, a mesterséges intelligenciát működtető amerikai tervezésű számítógépes chipekre vonatkozó exportkorlátozás. Ez arra utal, hogy az amerikai korlátozások lelassíthatták Kína következő generációs megfigyelési technológiájának fejlesztését.

A Geedge dokumentumai azt mutatják, hogy 2024-ben, amikor szigorú amerikai exportkorlátozások voltak érvényben Kínával szemben, a vállalat és laboratóriuma nehezen talált elegendő számítási kapacitást a megfigyelési technológia fejlesztéséhez.

Brett V. Benson, a Vanderbilt politikatudományi professzora szerint a dokumentumok a GPU-k korlátaira utalnak. A GPU-k – grafikus feldolgozó egységek – azok a chipek, amelyek az MI-modelleket működtetik. A korlátozások következtében – mondta – a vállalat régebbi, kevésbé fejlett MI-modelleket és chipeket kezdett használni.

Ma a Geedge-nek – az amerikai tisztviselők szerint – elegendő grafikus feldolgozó egysége van a jelenlegi termékeihez. A tisztviselők szerint azonban a prediktív technológia legambiciózusabb változatának megvalósításához a vállalatnak valószínűleg olyan fejlettebb chipekre lenne szüksége, amelyeket Kína nem tud beszerezni.

A Biden-kormány volt tisztviselői szerint a hírszerzési adatok azt mutatták, hogy azok az intézkedések, amelyekkel Kínát korlátozták a csúcskategóriás, amerikai tervezésű chipek beszerzésében, sikeresen megőrizték az Egyesült Államok mesterséges intelligencia terén meglévő előnyét, és lassították más kínai technológiák fejlesztését.

De az, hogy az amerikai exportkorlátozások lassítják-e Kína mesterséges intelligenciát bevető elnyomó technológiáinak fejlesztését, nyitott kérdés.

A Trump-kormány enyhítette a Biden-korszak néhány exportkorlátozását, de fenntartotta azokat a világ legerősebb mesterséges intelligencia-chipjeit tervező amerikai vállalat, az Nvidia legfejlettebb processzoraira vonatkozóan. Trump elnök legutóbbi pekingi látogatása során viszont az amerikai illetékesek kijelentették, hogy Kína most már hozzáférhet az Nvidia-chipek fejlettebb verziójához.

Kína azonban igyekszik függetleníteni mesterséges intelligencia vállalatait az amerikai tervezésű chipektől, hogy az exportkorlátozások ne tudják tovább gátolni törekvéseiket.*

*Csak nekem jut eszembe az, hogy Kína a legbiztosabban akkor juthatna nagyon fejlett chipgyártó technológiához, ha sikeresen és ha lehet, vér nélkül annektálná Tajvant? Ugyanis az amerikai alkatrészek behozatala számukra bizonytalan: a nem túl okos Trump megengedheti az eladásukat, de ha a következő elnöknek csak két agysejttel is többje lesz nála, akkorát vág dühében a Resolute-asztalra, miközben megtiltja a GPU-kivitelt Kínába, hogy az menten kettéhasad.

A leendő ellenzékiek profilozása

A most napvilágra került információkat egy hatalmas adatbázisból nyerték ki, amely többek között 100 000, eredetileg tavaly szeptemberben feltöltött Geedge-dokumentumot tartalmazott. A dokumentumok alapján a Wired és más kiadványok részletesen bemutatták, hogyan exportálta a Geedge hálózati biztonsági szoftvereit olyan országokba, mint Etiópia, Kazahsztán, Mianmar és Pakisztán, lehetővé téve ezzel a mobilhálózatok tömeges megfigyelését.

A dokumentumokat átvizsgáló Vanderbilt-kutatók nem a Geedge által értékesített technológiára összpontosítottak, hanem a cég által jelenleg is fejlesztett, még nem üzemképes, új generációs technológiára, valamint azokra a korlátokra, amelyek megakadályozhatják a terv megvalósítását.

A Geedge dokumentumai szerint 2024 első hónapjaiban a vállalat kutatói azon dolgoztak, hogy a távközlési, közösségi média és helyadatok alapján viselkedési profilokat állítsanak össze a felhasználókról. Mesterséges intelligencia-modelleket használtak az emberek osztályozására és a „káros információk felderítésére” – ez egy közismert kínai eufemizmus, amelyet a Kínai Kommunista Párt használ a politikai ellenzék publikációi vagy más, a kormány által eltiitkolni kívánt anyagok azonosítására.

A 2024. február 5-i ülésen a kutatók megvitatták, hogyan lehet olyan profilokat készíteni az emberekről, amelyek segítségével „azonosítható a szándékuk” és „felfedezhetőek a káros információk” – derül ki az ülés jegyzőkönyvéből.

Úgy tűnik, hogy a Geedge kutatói olyan eszközöket fejlesztettek, amelyek mesterséges intelligenciát használnak annak előrejelzésére, hogy ki válhat a kínai kormány kritikusává, a vállalat megfigyelési technológiája által gyűjtött adatminták alapján.

„A Geedge kutatócsapata nem csupán viselkedési mintákat dokumentált. Megpróbálták előre jelezni, hogy a polgárok mit tehetnek legközelebb, és kivel” – mondta Benson úr. „Ezek a hétköznapi anyagokról szóló adathalmazok nyersanyagok olyan profilok létrehozásához, amelyek meghatározzák, ki vagy és mit fogsz tenni legközelebb.”

A dokumentumok arra utalnak, hogy a vállalat csapata azon dolgozott, hogy összekapcsolja a fizikai-földrajzi mozgásokat más online tevékenységekkel, beleértve azt is, hogy az emberek milyen filmeket néztek és milyen könyveket olvastak – állítják a Vanderbilt kutatói.

A Geedge kutatása bizonyos szempontból hasonlított egy másik, az államhoz kapcsolódó kínai vállalat, a GoLaxy munkájához. Tavaly a Vanderbilt és a The New York Times bemutatta a GoLaxy azon törekvését, hogy olyan mesterséges intelligencián alapuló szoftvert fejlesszenek ki, amely célzott propagandát terjeszt – olyan témákat támogatva, amelyeket a kínai kormány támogat, és olyan nézeteket elutasítva, amelyekkel Peking nem ért egyet.

Bizonyos szempontból a Geedge munkája a 2002-es „Minority Report” című filmet is idézi, amelyben a kormány megjósolja, ki követhet el bűncselekményt, és egy speciális rendőri egység még a bűncselekmény elkövetése előtt letartóztatja az embereket. Bár tévedhetetlennek tűnnek, a filmben a jövőt megjósló „precogok” alaptalanul gyilkossággal vádolják a Tom Cruise által alakított főszereplőt.

Kína évek óta foglalkozik a prediktív megfigyelési technológiával. De ahogy a Geedge dokumentumai mutatják, a mesterséges intelligencia-modellek felgyorsították az ilyen eszközök fejlesztését.

A Geedge pedig azt mutatja, hogy a prediktív rendőrségi technológia hamarosan kínai exportcikké válhat.*

*Igen ám, de a módszernek van egy hátulütője. Azért igényel szinte felmérhetetlen számítási kapacitást, mert majdnem végtelen mennyiségű lehetőséget, idővonalat kell tekintetbe venni, rengeteg változó függvényében. Még ha ezek számát csökkentik is – mondjuk egy Kínában várható esemény kapcsán ki lehet hagyni azt, hogy mekkora aznap a szélerősség a Bermudákon, hiszen ez mondjuk Liangsanban nem releváns – akkor is mérhetetlen lehetőséggel kell számolni. Ha egy fiktív, Liu nevű kínai polgár zöldhullámot kap, miközben munkahelyéről hazafelé vezet, tíz perccel előbb lép be a lakása ajtaján, és még ott találja a felesége szeretőjét, akit agyon is csap: ha csak egyetlen lámpa időben pirosra vált, késik annyit, hogy ne legyen ott a szerető, és este megihatja a mérgezett teát, amivel kedves és csalfa felesége kínálja. Ha már bűnügyi predikcióval foglalkozunk. A lehetőségek száma talán nem végtelen, de mindenképpen feldolgozhatatlanul sok, így valószínűleg csak a legszélsőségesebb eredményűeket fogják majd közülük tekintetbe venni, tekintet nélkül azok valószínűségére. Ha Liu a predikció alapján, pszichés alkata szerint lelőheti Hszi Csin-pinget, de csak akkor, ha három Nap lesz az égen és közben a Sárga Sárkány kilencet kölykezik, akkor Liut minimum be fogják csukni, holott még nem követett el semmit – ugyanis az illetékes szervek sosem tudhatják, miféle égi jelenések jönnek és mikor kölykeznek a sárkányok. Biztos, ami biztos: elkapják a fickót és kész.

A megfigyelőállam finomhangolása

Bár a dokumentumok nem fedik le az elmúlt hónapokat, nincs bizonyíték arra, hogy a Geedge véglegesítette vagy bevezette volna a prediktív technológiát – állítják olyan amerikai tisztviselők, akik névtelenséget kértek, hogy beszélhessenek érzékeny információkról.

De a tisztviselők elismerték, hogy a kínai cégek ilyen technológián dolgoznak, a megfigyelési állam finomhangolása érdekében. Szakértők és kormányzati illetékesek szerint pedig Kína közbiztonsági hivatalai versengenek a DeepSeek, az ország vezető mesterséges intelligencia modelljének használatáért, hogy más prediktív rendőrségi technológiákat is kifejlesszenek.

Amerikai tisztviselők szerint a Geedge és más kínai megfigyelő cégek valószínűleg rendelkeznek megfelelő számítási kapacitással a jelenlegi eszközeikhez.

A prediktív eszközök azonban – különösen, ha a cég végül lehallgatott telefonhívásokat vagy megfigyelővideókat is beépít az adatbázisba – számítási kapacitás-korlátokba ütközhetnek.

Ha a cég megpróbálná kiaknázni az ilyen típusú megfigyelési adatfolyamokat a biztonsági fenyegetések előrejelzésére, hamarosan elérné Kína jelenlegi számítási kapacitásának határait – állították az amerikai tisztviselők.

„A kínai biztonsági szolgálatok adat-túlterheléssel küszködnek” – mondta Jimmy Goodrich, a Kaliforniai Egyetem Globális Konfliktusok és Kooperáció Intézetének vezető kutatója. „Egyszerre túl sok információval kell megbirkózniuk. A mesterséges intelligencia valódi értéke abban rejlik, hogy képesek az adatokat osztályozni és felismerni a fenyegetéseket. De az, hogy ezt milyen mértékben tudják megvalósítani, a számítási kapacitáshoz való hozzáférésüktől függ. Ezért olyan fontosak az exportkorlátozások.”

Hölgyeim és uraim: egy lépésre vagyunk attól, hogy az embert azért is le lehessen csukni vagy lőni, ami még az esze ágában sem fordult meg egyelőre. De megfordulhat: mindenkinek a fejében megfordulhat minden, leginkább, ha életbe lép ez a kínai rendszer, egy 7,62-es lőszer.

Azért... ha Orbán Viktornak három éve lett volna ilyenje, ma is ő lenne a magyar miniszterelnök. Putyin sírva könyörög majd a technológiáért, de szerintem Hszi Csin-ping nem fogja odaadni neki.

Nehéz idők jönnek.

Szele Tamás