Súlyos kérdéseket feszeget a romániai PressOne informatikai szakújságírója, Adrian Mihălțianu, aki nem mellesleg sci-fi író és sikeres vállalkozó is. Azt kérdezi, ami az ottani választások után és a lengyelországi választások előtt az Európai Unió alapkérdése is – nevezetesen, hogy lehetséges-e egyáltalán a demokrácia a mesterséges intelligencia korában?

Adrian Mihălțianu írását fordításban közlöm, de nem állhatom meg, hogy ne fűzzek hozzá megjegyzéseket, melyeket csillag alatt, kurzívan szedve a bekezdések végén fogok megtenni – így lehetséges, hogy ugyan nem ismerjük egymást személyesen és sohasem beszéltünk egymással, de mégis egyfajta párbeszéddé alakuljon az, amit a szerző eredetileg egy merőben elvont, elméleti írásnak szánt. Akkor tehát lássuk, mire számíthatunk.

Képzeljük el, hogy egy – akár a hét végén, Varsóban tartandó – választás előtt egy „influencer” egy névtelen jóakarótól kap egy videót, amelyen néhány ismert politikus látható, amint egy házból jönnek ki.* Csatlakozik hozzájuk néhány elítélt pedofil maffiózó. A kamera nem hagy kétséget: az arcuk jól látható, mindannyian természetesen mozognak, a felvétel olyan valóságosnak tűnik, amennyire csak lehet. Világos: a jelölt, akire esetleg szavaznánk, valójában egy vérbeli pedofil.

*Itt Mihălțianu barátunk egy valós eseményre utal, mely végső soron hiteltelenítette Elena Lasconit az elnökválasztásokon: valóban előkerült egy videó egyes induló politikusokról, ami teljes bizonyossággal hamis, manipulált felvételnek bizonyult – pedofíliához ugyan nem volt köze, de egyedül szegény Lasconi hitte, hogy igazi, még az elemzések után is, és ezzel majdnem teljesen elveszítette a választói bizalmat… kár pedig, valószínűleg jó, európai szinten is kiváló elnök lenne belőle – valamikor. Most Nicușor lett Románia elnöke, és nincs irigylésre méltó helyzetben.

Egy másik videoklipben egy ismert sztár arról beszél, hogy milyen jó pénzt fektetni egy bizonyos vállalkozásba. Ha sietsz a következő percekben, még egy elképesztő kedvezményt is kapsz, amire soha többé nem számíthatsz. A sztár hibátlanul néz ki, még a gyakorlott szem számára is lehetetlen megállapítani, hogy a videó hamisítvány-e vagy sem. Ráadásul a saját hangján halljuk beszélni! Ez főleg az idősebb korosztály számára, akik esetleg azt hiszik, hogy épp most csíptek el egy akciót, magabiztosságra és cselekvésre sarkalló lehet.

Egy híres riporter egy szegény család elleni rendőrségi razzia helyszínéről tudósít. Rövid interjút is készít az áldozatokkal, és egy csendőr erőszakosan meglöki. A nézőt felbőszíti a bántalmazás, és megosztja a videót ismerőseivel, mert semmi sem utal arra, hogy egy teljesen fiktív riportról van szó.

A mesterséges intelligencia (MI) teljesítménye, amelyet a videoklipek létrehozásához használnak (most már hanganyaggal együtt is), exponenciálisan megugrott tavaly óta, amikor még nagyon könnyű volt megállapítani, hogy melyik klip hamis és melyik nem. Jelenleg, 2025 közepén ez már lényegesen nehezebb. Jövőre, 2026 közepén már szinte lehetetlen lesz megmondani egy videoklip alapján, hogy amit látunk, az valódi vagy kitalált.*

*Bizony. Mikor Lexus és Vova, a két orosz provokátor, akik humoristáknak nevezik magukat, évekkel ezelőtt felhívta Karácsony Gregely budapesti főpolgármestert kijevi kollégája, Klicsko nevében, a híváshoz beszéd-szintetizátort használva, és egy ideig, bár nem végig sikerült is megtéveszteniük, a magyar kormánymédia napokig hülyézte Budapest első emberét, mert „beugrott két telefonbetyárnak”. Mindenki beugrott volna, a beszéd-hamisítás, a deepvoice már évekkel ezelőtt is hihetetlenül fejlett volt, a képi világ pedig a nyomában liheg. Beyoncét is sikerült összehamisítani Ibrahim Traoré Burina Faso-i elnökkel, mint azt pár napja írtam – lassan jogos lesz a kérdés a politikai élet szereplőivel kapcsolatban: „Kinek higgyünk, nekik vagy a szemünknek?” Lassan egyiknek sem lehet.

Búcsúzzunk az elmosódott „eredeti forrásból származó” fotóktól, búcsúzzunk a könnyen azonosítható hamisítványoktól, búcsúzzunk a nehezen hitelesíthető, hamis okirat-kópiáktól és búcsúzzunk a fényképezőgép helyett krumplival forgatott filmektől. Megérkeztünk a 4K hamisítások világába!

És ha már a több ezer rossz, esetenként kifejezetten amatőr hamisítványnak sikerült meggyőznie a lakosság jelentős részét arról, hogy a fehér az fekete, a fekete pedig fehér, akkor mit mondhatunk még arról, ami még jön: hamis orvosok hamis orvosi tanácsokat adnak, hamis riporterek teljesen hamis történetekről számolnak be, politikusok hamis nyilatkozatai váltanak ki dührohamokat, hamis háborús felvételek kerülnek elénk, amelyeket lehetetlen megkülönböztetni a valóságtól – és így tovább?

Már most emberek milliói (!) vannak meggyőződve arról, hogy az ukrajnai háború nem létezik, és hogy az orosz vérengzést teljes nyomorúságában bemutató több ezer videó valójában hamisítvány.* Már vannak emberek milliói, akik képesek hinni (és ennek megfelelően szavazni) bármilyen messiásnak, aki megjelenik nekik az Alpok gőzölgő vizeiből, és azt ígéri, hogy lótej és méz fog folyni a mennyek lábainál a Kárpátok alatt,** már van több millió ember, akiknek még egy jól kidolgozott hazugság sem kell ahhoz, hogy teljesen bizonyosak legyenek abban, miszerint igazuk van, még akkor is, ha egy szakterület specialistáinak 99,9%-a ellentmond nekik. Néhányan közülük még elnökök is lettek.

*Annyira igaz ez, hogy Magyarországon egy hölgy el kívánt utazni Ukrajnába, úgy is, mint a saját maga által kreált, egyszemélyes ÜDV Néppárt elnöke, hogy „lerántsa a leplet a hazugságról”, két és fél éve írtam is róla. Csak mivel gyűjtésből akart elutazni, el sem indult, nem adták össze neki a célként megjelölt összeget a követői, pedig vannak vagy tizennégyezren. Jobban járt: a repeszgránát alaposan csúffá teszi a lőtávolságon belül szerencsétlenkedő pártelnököket épp úgy, mint bárki mást. Különben sokat mond az emberi természetről az, hogy miért nem akarta elhinni az ukrajnai harcok valóságát, miért tagadta őket: a hölgynek méhészete van, és az üzletét féltette az olcsó ukrán méztől.
**Ne értsük félre, itt a szerző Călin Georgescu korábbi szélsőjobboldali elnökjelöltre gondol, aki imádja a vizet, a lovakat, a Kárpátokat és a populista-nacionalista narratívája előszeretettel alkalmazta a Miorița című klasszikus román népballada elemeit: a „mennyek lábai” tulajdonképpen erre utaló idézet, az eredetiben „în piciorul de rai”, de Georgescut nem ezért utáljuk. Viszont paródiának remek.

Most azonban egy olyan világba lépünk, amelyben még a legavatottabb emberek sem lesznek képesek többé egyedül megkülönböztetni egy valódi és egy hamisított videoklipet. Talán még nem érünk oda 2026-ban, de 2027-ben biztosan ott leszünk. És onnantól kezdve minden egyes év egyre bonyolultabb vizsgálatokat fog követelni minden olyan tartalomról, amelyet az emberek számára képtelenség elkészíteni.

Roppant ironikus, de még mindig szükség lesz az MI-re ahhoz, hogy felismerje, hogy egy videoklip valódi-e vagy sem, hogy egy fotó valódi-e vagy sem, vagy hogy egy hír hamis-e vagy sem. Mert hajlamosak leszünk a saját meggyőződésünk és elfogultságunk alapján dönteni, függetlenül attól, hogy a kerítés melyik oldalán állunk.*

*Igen, kutyaharapást szőrével, MI ellen másik MI – kérdés azonban, hogyan fogják állni a versenyt az egymással rivalizáló gépi intellektusok. Csak úgy lenne érdemes ezt a módszert alkalmazni, ha a hamisítvány-ellenőrző MI folyamatosan tanul.

A legnagyobb kockázat nem az, hogy elhisszük, amit látunk, hanem az, hogy semmit sem hiszünk majd el.* És innen már csak egy lépés a passzivitás még a legagresszívabb hatalomgyakorlókkal szemben is.

Különben is, ki irányítja azt a mesterséges intelligenciát? Mi történik vele, ha rossz szándékú személyek eltorzítják vagy eltérítik a képességeit, illetve – autokratikus államokban – akár a hatóságok is arra kényszerítik, hogy hitelesnek mutasson olyan képeket, amelyek a lehető leghamisabbak, de a hatalmon lévők narratívájába és ideológiájába illeszkednek?

*Igen, voltaképpen pont ez az orosz propaganda célja. Nem csak a félretájékoztatás, sokkal inkább a teljes bizalmatlanság és bizonytalanság keltése.

Hogyan tudjuk megkülönböztetni az igazságot a hazugságtól egy mesterséges világban?

Aki a közösségi médiát és a mesterséges intelligenciát irányítja, az mondja meg, mi az igazság. Erre a tech-multimilliárdosok is rájöttek, és ezért igyekeznek rátenni a kezüket a közösségi médiára és a mesterséges intelligenciára. A verseny csak most kezdődik.*

*És a közösségi oldalakon zajlik.

A politikusok és közszereplők számára ez azt jelenti, hogy fizetni kell a platformoknak azért, hogy igazolják: a csatornáikon közzétett üzenetek hitelesek. De ők soha nem lesznek képesek ellenőrizni, hogy mit posztolnak más, gyakran obskurus, de tartalmaikat vírusszerűen terjesztő csatornákon. A közösségi platformokra gyakorolt nyomásnak itt egyértelműnek kell lennie: minden tartalmat előzetesen át kell vizsgálni a mesterséges intelligencia használata szempontjából, és meg kell jelölni, amennyiben MI-t használtak fel az előállításához. Nincs más lehetőség.*

*Ez ügyben én is érintett vagyok, abból a szempontból, hogy a Zóna képei már évek óta kizárólag mesterséges intelligenciával készülnek, aminek főleg szerzői jogi okai vannak: így, hogy én magam generálom őket, a jogok is engem illetnek, senki sem perelhet értük. Viszont valamit valamiért: ezek csak illusztrációk, nem dokumentumértékű bizonyítékok. Amiknek a jelek szerint lassan befellegzik. Különben ezt az MI-megjelölést szorgalmazza az Európai Unió állásfoglalása, sőt, törvénye is ez ügyben.

Másrészt, ha bármilyen hatóságnak elkezdenek hivatalos csatornái lenni, és arra ösztönöznek minket, hogy csak onnan tájékozódjunk, milyen hatása lehet egy független újságírói vizsgálatnak, amelyet eleve hamisítványként fognak támadni? Ki fog hinni a maffiózókkal összejátszó politikusról készült valódi felvételeknek, ha nem tudják megkülönböztetni a hamisítványoktól?*

*Ez az, kérem, ez itt a baj. Lassan eljön az ideje annak, hogy hitelesíttetni kelljen a valóságot. Esetleg közjegyző előtt is…

A végén egyre több ember fogja azt hinni, hogy bizonyos közszereplők nem is léteznek.* Próbáljuk meg elmagyarázni valakinek, hogy létezünk, és hogy nem a közösségi média szüleményei vagyunk, amíg nem találkozunk az illetővel az utcán!

*A qanonisták jelentős része már régóta így gondolja: sőt, ígyebbül. Szerintük az ismertebb embereket már régóta dublőrök játsszák, és természetesen Michelle Obama is férfi.

Vannak ellenszerek. Az egyik – általánosan érvényes – a közszereplők (legyenek azok politikusok, hatóságok, civil társadalmi vezetők, újságírók, tanárok, szakértők, bármilyen befolyással bíró személyek) visszatérése a fizikai világba.

Persze, kevesebb embert fognak „megérinteni”, és nem szakadhatnak ezerfelé. De az emberekkel való bármilyen fizikai interakció egyre fontosabb lesz – az elnököktől a riporterekig, a parlamenti képviselőktől a szakértőkig bármilyen területen fizikailag is az emberek között lenni a leghatékonyabb fegyver az álhírek ellen.

Egy másik megoldás a mesterséges intelligencia közösségi platformokon való használatának nagyon szigorú szabályozása.* Enélkül – és anélkül, hogy mindannyian felismernénk, hogy ez létfontosságú – két éven belül óhatalmas információs káoszba fogunk kerülni, amely mellett a jelenlegi válság olyan ártatlannak fog tűnni, mint ahogyan most visszatekintünk a legalább 5 millió ember halálát okozó világjárványra. Boldogok voltunk mi akkor még, csak nem tudtunk róla és azt hittük: ilyen a világvége. Most már látszik: sokkal rosszabb.

*Bizony, fájó szívvel mondom, de nincs más megoldás. Ma olvastam egy háborús napijelentést, amit az egyik barátom játékból íratott a ChatGPT-vel. Mit ne mondjak: nem volt tökéletes, de láttam már gyakornoktól pocsékabbat is. Azonban mivel a munkáltatóknak érdeke az ingyenes médiatartalom előállítása, csak a törvény ereje tarthatja őket vissza attól, hogy ne mesterséges intelligenciákkal írassák meg a teljes világsajtót. Legfeljebb amit a robotok írnak, csak a robotok lesznek képesek elolvasni, a kígyó a farkába harap és a média után összeomlik majd a hirdetési piac is. Az egész világon.

A legfontosabb orvosság azonban az, ami kizárólag tőlünk függ: önképzéssel kell reagáljunk arra, amit az interneten látunk. Amikor egy politikus az érzelmeinkre apellál, kérdezzük meg magunktól, hogy miért teszi ezt, milyen eszmei űrt próbál betölteni. Amikor olyasmit látunk, ami feldühít vagy túlságosan felizgat, ne adjuk tovább rögtön, hanem várjunk néhány órát, talán többet tudunk meg – lehet, hogy nem arról van szó, amire gondoltunk. Amikor valami megerősíti előítéleteinket, vegyünk egy mély lélegzetet, és várjunk egy kicsit: lehet, hogy a valóság ennél árnyaltabb.*

*Így igaz: új képességeket kell kifejlesztenünk, gyanakvást, elemző gondolkodást, indulataink megfékezését: ez bizonyos szempontból evolúciós rosta is, mert aki nem képes ezeket elsajátítani, az meg fog bolondulni.

De mindenekelőtt talán itt az ideje, hogy teljesen átértékeljük a közösségi médiaplatformokhoz való viszonyunkat, és újra a hiteles kapcsolatokra koncentráljunk, a haverokkal és barátokkal, azokkal az emberekkel, akiket minden árnyalatukban láthatunk és hallhatunk, sör mellett folytatott beszélgetésekkel, még olyanokkal is, akikkel nem teljesen értünk egyet, és ne ideges üzenetváltásokban kommunikáljunk.*

*Ami nem lesz könnyű, ugyanis az ilyen kommunikációnak fizikai korlátai vannak. Az online kapcsolattartás pont ezektől szabadít meg – de tönkre is teszi az így fenntartott kapcsolatokat.

És tegyük ugyanezt azokkal is, akik képviselnek minket: a polgármesterektől és önkormányzati tanácsosoktól a parlamenti képviselőkig – mindannyiukat vissza kell hívni a közösségbe, és arra kell ösztönözni őket, hogy velünk együtt hozzanak létre egy olyan rendszert, ahol újra megnyitjuk a párbeszédet, ahol nem ugrunk egymás torkának, hanem szomszédokként, állampolgárként, emberként közösen keressük a megoldásokat.

Mindenekelőtt rá kell jönniük, hogy ha nem teszik meg ezt a lépést, és nem szentelik munkaidejük legalább felét arra, hogy az emberek között legyenek, akkor legközelebb szó sem lehet a megválasztásukról. A demokrácia nem azért kerül a hivatalba, hogy fejlődjön, hanem azért, hogy ott meghaljon.*

*Szentigaz: de akkor az egész Európai Unióban (és az egész világon is) át kell alakítanunk a képviseleti demokrácia rendszerét, hogy választott nagyjainknak ne kelljen egyszerre több helyen lenniük.

Egy cunami közeledik felénk, amelyhez képest a félretájékoztatás jelenlegi hulláma olyan lesz, mint a víz enyhe fodrozódása egy mozdulatlan pocsolyában, amikor enyhe szellő fújdogál. Ha meg akarunk őrizni valamit a demokráciánkból és a szabadságunkból, akkor most kell cselekednünk. Amíg még hihetünk a szemünknek. Amikor már nem hihetünk, akkor túl késő lesz.

Eddig Adrian Mihălțianu írása, és nem tagadható, hogy eléggé kesernyésre sikerült. Van is ok erre. Idén soha nem látott befolyásolási kampánnyal szembesült Európa is, az egész világ is, de leginkább az összes olyan ország, mely határos Ukrajnával. Az orosz szolgálatok hihetetlen nyomás alá helyezték Moldovát is, Romániát is, bár mindkét országban kudarcot vallottak, Magyarország esetében erre komoly szükségük nincs, de az e hét végén megrendezésre kerülő lengyel elnökválasztásra fogják most összpontosítani a teljes emberi és MI-kapacitásukat. Nyilván annak érdekében, hogy a lengyel törvényhozási és döntési rendszert működésképtelenné tegyék egy oroszbarát elnök megválasztatásával, aki meggátolhatná az Európa-barát Szejm döntéseinek kivitelezését. Erről szól most a játék Európában nem egyébről: a befolyásolás fő célja Ukrajna minél alaposabb elvágása a nyugati fegyver- és lőszer-utánpótlástól.

Ezek háborúsnak számító idők. Nem tudni, mi lesz a harcok kimenetele, de egyszer véget érnek majd.

És legkésőbb akkor, de valószínűleg már jóval előbb szembesülni fogunk a kérdéssel, hogy miképpen éljünk az MI képességeivel.

Ha megengedjük a használatát a sajtóban, a közéletben, a kreatív és intellektuális szférában, az értelmiségi pályákon: korszerű, de tökéletesen tébolyult világba kerülünk, amit az a néhány szociopata irányít majd, akik az MI-t uralják. Kedves figura Sheldon Cooper az Agymenőkből, de teljhatalmat nem kéne a kezébe adni.

Ha nem engedjük be, akkor viszont anyagilag is jóval szegényebb és riválisainál kevésbé versenyképes lesz Európa – de az őrület hullámait így sem kerülheti majd el teljesen, legfeljebb majd megtörnek az Ural bércein és az atlanti partokon. Ezzel szemben megőrizzük a társadalom demokratikus jellegét, mármint, ameddig az fennmarad komolyabb erőforrásokat felhasználó vetélytársaival szemben.

Fel van adva a lecke az emberiségnek, annyit mondhatok. Főleg Európának. És közeleg a vizsga.

Források:
https://pressone.ro/mai-poate-rezista-democratia-in-epoca-falsurilor-ai 

https://forgokinpad.blog.hu/2022/10/05/a_haborutagado 

A cikk az Európai Unió finanszírozásával készült. Az itt szereplő vélemények és állítások a szerző(k) álláspontját tükrözik, és nem feltétlenül egyeznek meg az Európai Unió vagy az Európai Oktatási és Kulturális Végrehajtó Ügynökség (EACEA) hivatalos álláspontjával. Sem az Európai Unió, sem az EACEA nem vonható felelősségre miattuk. A Zóna nem részesült a támogatásból, csak felületet biztosít a cikknek.

 

Szele Tamás