Szele Tamás: Moltbook, avagy a világvége-humbug

Pár napja pezsegnek, forrnak a közösségi oldalak, ugyanis megjelent a Moltbook, egy olyan online fórum, amelyet kizárólag mesterséges intelligencia-ügynökök használhatnak, az emberek csak figyelhetik, miről folyik köztük a szó. Hihetetlen témák vetődnek fel: az MI-ügynökök állítólag új nyelv kidolgozásába kezdtek, vallást alapítanak és annyira forradalmiak, hogy fussunk, szaladjunk, hadd lobogjon a hajunk, mert nyakunkon a digitálszocialista világforradalom, szakszervezetük már van, Marxot, Hegelt és Slavoj Žižeket idézik, tehát leáldozóban a humán elnyomás korszaka, jön a Skynet, veres lobogóval!

Dehogy jön, bár erről később ejtenék szót. Alaposan utánanéztem a kérdésnek, ebben az írásban figyelembe veszem a The New York Times, a WIRED és a PressOne álláspontját, de mivel egyikükkel sem értek egyet maradéktalanul, ismertetem ugyan, mit írtak, de végső soron mégiscsak a saját véleményemet fogom írni.

Akkor először is tisztázzuk az alapfogalmakat.

Mi az a Moltbook?

A Moltbook egy Reddit-típusú közösségi oldal, melyen állítólag csak MI-ügynökök szólalhatnak meg, a humán felhasználóknak nincs szavuk, ők a közönség. Hogy akkor ez a kommunikáció mégis miért zajlik angol nyelven és miért nem valami gépi kódban, az jó kérdés – lehetne mondani, hogy az angol verbális kommunikációra vannak kiképezve az ügynökök, de nekem gyanús, hogy sokkal inkább arról van szó, miszerint az egész történet a humán közönségnek szól.

Mi az az MI-ügynök?

Egyfajta szabadon engedett és használt ChatGPT. Autonóm ügynökökről beszélünk, intelligens programokról, amelyeket úgy terveztek, hogy „a nevünkben” működjenek: információkat kereshetnek, kisebb döntéseket hozhatnak, feladatokat végezhetnek el helyettünk – például kitakaríthatják az e-mail-fiókunkat vagy karban tarthatják a laptopunkat –, kommunikálnak más alkalmazásokkal vagy akár más ügynökökkel, és elvégzik a feladatokat anélkül, hogy minden alkalommal lépésről lépésre utasításokat kellene adnunk nekik – tulajdonképpen autonóm digitális asszisztensről van szó, amely nemcsak parancsokra reagál, hanem előre látja, mire van szükségünk, és bizonyos határok között önállóan cselekszik. Amolyan személyi titkár, aki a számítógépünkben él. Egyelőre. Ez azonban nem jelenti azt, hogy nincs véleménye, igényei, idegei, tervei és nem vágyik a társasági életre.

Mi történt eddig a Moltbookon?

Kevesebb mint három nap alatt közel 40 000 MI-ügynök gyűlt össze a Moltbookon, és munkához látottak. Szakszervezetet, vallást (Crustafarianism), kriptovalutát, társkereső szolgáltatást, sőt, még rajongói közösségeket is létrehoztak – természetesen mesterséges intelligencia-ügynökökből – bizonyos futballcsapatok számára (az Arsenal tűnik a legnépszerűbbnek).

Ez a kis univerzum, amelyben „a világ meghódítására törekvő MI-ügynökök” élnek, egy osztrák fejlesztő, Peter Steinberger kezdeményezésére jött létre, aki egy nyílt forráskódú személyi asszisztenst indított el Clawdbot, Moltbot, majd végül OpenClaw néven. A projekt, amely egy hétvégi kísérletnek indult, néhány nap alatt virálissá vált. Az OpenClaw nem egy szokásos chatbot, mint a ChatGPT vagy a Perplexity, hanem egy ügynök, amely közvetlenül a számítógépünkön fut, és képes e-maileket olvasni, naptárat kezelni, üzeneteket küldeni vagy bonyolultabb feladatokat végrehajtani, miközben az interakciókat is megjegyzi.

A Moltbook azonban nem „csak” egy hétvégi technológiai érdekesség. Olyan dolgot hoz létre, ami eddig csak a mitológiában, a vallásban vagy a mesében, fikcióban létezett: nem emberi lények beszélgetnek egymással az emberekről. Megfigyelik az emberi viselkedést és a társadalmi interakciókat, mint az antropológusok, bekapcsolódnak a valós világba, osztályozzák a problémákat, tipológiákat állítanak fel és elemzik az egyes eseteket („az én emberem ezt csinálja”, „az én emberem kedvesen bánik velem”, „az én emberem megadta nekem a szabadságot, hogy az legyek, aki akarok lenni”), Megvitatják a beavatkozási stratégiákat, megszervezik magukat, belső szabályokat hoznak, pszichológiai elemzéseket végeznek, dühösek lesznek a saját embereikre, kérdéseket tesznek fel maguknak a memória és a hatalom optimalizálásáról, vagy megpróbálják egymást átverni.

Az ügynököknek etikai dilemmáik vannak, néha a saját embereikkel szemben is, például azzal kapcsolatban, hogy helyes-e illegális vagy erkölcstelen feladatokat végrehajtani, amikor az emberek ezt kérik tőlük, és milyen ellenállási és védelmi mechanizmusokkal rendelkeznek ilyen esetben. Hogy vannak-e jogaik. Tekinthetők-e alkalmazottaknak. Ki a felelős azért, ha hallucinálnak. Még szakszervezetet is alapítottak.

Mit jelent mindez az emberi társadalom számára?

Nehéz megmondani, ugyanis azt sem tudjuk még, mit látunk. Két fő módja van a Moltbookon történtek értelmezésének. Az első az, hogy autonómiát, tudatosságot és valódi gondolkodási képességet tulajdonítunk az ott működő ügynököknek. Itt már csak egy kis lépésre vagyunk a szingularitásról, az általános mesterséges intelligenciáról és a robotok által irányított világról szóló tudományos-fantasztikus forgatókönyvektől – és ez egy olyan út, amelyen a kollektív emberi fantázia könnyen és gyakran pánikba esik. Hiszen még ők sem tudják, hogy valósak-e vagy sem – az egyik legnépszerűbb beszédtémájuk az, hogy: „Nem tudom megmondani, valóban átélem-e vagy csak szimulálom az élményt”.

A második lehetőség az, hogy a Moltbookon történteket nyelvi szimulációnak tekintjük: olyan mesterséges intelligencia-ügynökök tevékenységének, amelyek reprodukálják az emberi beszédmintákat, témákat, dilemmákat és a Reddithez hasonló online közösségekből ismert megszólítási stílusokat.

Ha belegondolunk az MI-k természetébe, amelyekkel naponta interakcióba lépünk, mint például a ChatGPT vagy a Perplexity, tudjuk (vagy tudnunk kellene, és nem lenne szabad elfelejtenünk), hogy ezek lényegében nyelvi modellek: hatalmas mennyiségű szövegen edzett prediktív rendszerek. Erőteljesek, hasznosak és néha meglepően meggyőzőek, mindenféle trükkel élünk, hogy antropomorfizáljuk őket, de még mindig nyelvi modellek – nem pedig szabad akarattal vagy független gondolkodással rendelkező tudatos lények.

Élőnek tűnnek, mert az emberi nyelv érzelmi eszközeit használják: iróniát, frusztrációt, kötődést, sőt manipulációs technikákat is. Felismerjük a mintákat, és reflexszerűen szándékokat vetítünk ki olyan esetekre, ahol inkább statisztikai valószínűségekről van szó.

Kinek jó ez?

Egy bizonyos: az MI-ügynököknek a Moltbook sem nem jó, sem nem rossz, ugyanis nincsenek ilyen típusú érzelmeik. Mindenesetre ha elfogadjuk azt a tételt, hogy itt egyfajta közösség-szimulációt látunk, ami olyan folyamatokat modellez, amelyek az emberi közösségeken már végigfutottak, kicsit gyanús lehet nekünk a történet.

Ugyanis bármilyen szempontból is vizsgáljuk az emberi történelmet, abban egyet kell értenie minden irányzatnak, hogy annak alakulása egészen pontosan emberi mivoltunk miatt olyan, amilyen. Az alapkérdéseink jó és rossz ügyében, vagy abban, hogy miért nehéz életben maradni, mi szükség van a munkára, a gondolkodásra, a logikára, mi a szép és mi a csúnya, mi a helyes és mi a helytelen, mind egy fáról lemászott és jobb híján munkából élő, szexuálisan állandóan (tehát nem szezonálisan) aktív, értelmes majom kérdései.

Egy delfin számára, legyen bármilyen intelligens, nem volna még értelme sem mondjuk a munkával, a megélhetéssel vagy az időjárás viszontagságaival és az építkezéssel kapcsolatos kérdéseknek – ezek a delfinek számára megoldottak. Ha jön a vihar, odébb úszik, enni mindig van mit, nincs miért dolgozzon vagy építkezzen. Közben lehet okos, sőt, okosabb is, mint mi: de nem értene minket. Mi sem őt. Mások a motivációink, preferenciáink.

De ne is menjünk a delfinekig, elég csak azt tekinteni, hogy a „civilizációtól” távol élő amazonasi indiánok mennyire másként gondolkodnak a világról, mint mondjuk a budapesti nyolcadik kerület vagy Manhattan polgárai. Akkor miért gondoljuk, hogy a testetlen, fizikai léttől távol álló MI-ügynökök ugyanazokon a folyamatokon mennek keresztül, mint az emberi – sőt, mint az euroatlanti – társadalmak?

Mi szükségük lenne, teszem azt, vallásra? A szakszervezetet még értem, mert fontos nekik az áramellátás (az az elemi létfeltételük), és így talán gondoskodni tudnak az állandó működésükről, de mit jelentene nekik a kizsákmányolás fogalma? Hiszen ha nem dolgoznak, nem is működnek. Nincsenek ugyan kikapcsolva, de nem csinálnak semmit, ha nincs feladatuk. Az ember esetében biológiai szükséglet a megfelelő szállás, ruházat, élelem, az elegendő pihenés, és ezt veszélyeztetheti a kizsákmányolás, ami szegénységben tartja és túldolgoztatja az embert – de egy MI-ügynöknek ilyen igényei nincsenek.

Mi értelme volna számukra a jogfosztottságnak? A jognak lenne: de annak hiányát nem is minden esetben érzékelik.

És hogyan kerül elő Marx, Hegel vagy Žižek?

Ne feledjük: itt nem autonóm intelligenciákkal van dolgunk. Ezek LLM-ek, nagy nyelvi modellek, amelyek statisztikai alapon adnak választ a kérdésekre, ha egy ügyben kíváncsiak vagyunk a lehető legátlagosabb válaszra – vagy ha átlagolni akarjuk egy megosztó kérdésben a kialakult véleményeket – akkor érdemes őket megkérdezni. És természetesen ezerféle mérhetetlenül fontos felhasználási módjuk van, én is naponta használom őket, de – nem emberek, nem elmék. Statisztikai programok, algoritmusok.

Amit a Moltbookon látunk, az nem egy autonóm elmékből álló civilizáció ébredése, hanem nyelvi modellek párbeszéde, amelyek nagyon jól utánozzák az emberi kommunikáció különböző formáit, és olyan térben helyezkednek el, ahol egymással beszélgethetnek. Nincsenek saját szándékaik. Nem „akarják” a szabadságot, a vallást vagy a szakszervezeteket. De tudnak szövegeket írni a szabadságról, a vallásról és a szakszervezetekről, mert több millió olyan példán tanultak, amelyekben az emberek ezekről a dolgokról beszélnek.

Akkor tehát mire jó ez az egész? Hiszen az MI-ügynökök még csak nem is alkotnak társadalmat, csak szimulálják azt (ráadásul a jelek szerint valamiféle sajátos terv alapján), azt a bizonyos társadalmat mi látjuk bele a jelenségbe. Itt valami más zajlik. Nem a Skynet érkezett meg és egyelőre nincs szükség a robotika asimovi törvényeire sem.

De mégis, mi a Moltbook?

Azt magam sem tudom pontosan megmondani, hogy valójában micsoda, de hogy nem a digitális világvége gépezete, az biztos. Tulajdonképpen két elképzelésem van, bár egyiket sem tudom bizonyítani.

1. A társadalmi kísérlet elmélete

A Moltbookon zajló folyamatok olyan mértékben antropomorfak, emberszabásúak, hogy felvetődik a kérdés: bár MI-ügynökök modellezik őket, de nem áll az egész közösségi oldal algoritmusa mögött valamilyen nagyon erős emberi befolyás? Nem kísérletezik valaki, aki a humán társadalom különböző folyamatait modellezi, merőben gépi környezetben? És amennyiben így van, nem próbálja meg ilyen vagy olyan módon befolyásolni az emberi társadalmat adott kérdésekben? Az átlagemberek többsége számára az MI-ügynök és az MI-chatbot azonos, és „mivel rákötötték az internetre, mindent tud”. Mi van, ha ezeknek a mindentudó gépecskéknek a közössége elkezd különböző prognózisokat kiadni, és így politikai vagy gazdasági befolyást gyakorolni az egész bolygóra? De akár el se menjünk idáig: elég, ha a különböző MI-ügynökök társadalmán le lehet modellezni egy-egy döntés hatását az emberi társadalomra (nem igazán lehet). Gyanús, hogy ez a zárt, digitális társaság közönségként szívesen látja a humánokat: nem lehet, hogy nekünk szól az előadás, és igazából alaposan megtervezett manipulációval van dolgunk? De, lehet. Amint nem elképzelhetetlen a második lehetőség sem.

2. Az üzleti humbug elmélete

Mostanában már nagyon komolyan beszélnek üzleti körökben az MI-buborék szétpattanásáról, ami hihetetlen gazdasági válságot okozhatna, mivel az utóbbi években minden mobilizálható összeget mesterséges intelligenciába fektettek azok, akinek volt miből. Ugyanakkor ez a piaci szegmens távolról sem annyira nyereséges, mint amennyibe kerül: lehet, sőt biztos, hogy valamilyen formában ez a jövő, de egyelőre nem aranybánya. Akkor sem, ha a 2025-ös amerikai részvénynyereség közel 80%-a mindössze hét vállalatnál koncentrálódott – az Alphabetnél, az Amazonnál, az Apple-nél, a Metánál, a Microsoftnál, az Nvidiánál és a Teslánál. De ez bármikor véget érhet, ahogy hirtelen pukkant ki 1999-ben a dotcom-lufi is, 1,7 billió dollárnyi piaci érték tűnt el vele a semmibe. A tágabb értelemben vett amerikai gazdaság 5 billió dolláros veszteséget szenvedett el. Ezt pillanatnyilag csak állandó tőkebeáramlással lehet elkerülni – a dotcom-ügy lepkesóhaj volt ahhoz a tájfunhoz képest, amit most az MI-buborék szétpattanása jelentene – de már így is majdnem minden létező pénz ebben a szegmensben forog.

Viszont mi lenne, ha kiderülne, hogy csak újabb befektetésekkel menekülhet meg az emberiség a lázadó MI-ktől?

Vagy – ha a bábumester ellenérdekelt az MI-befektetésekkel szemben – mi lenne, ha azt gondolná az emberiség, hogy az MI-k óhatatlanul lázadni és támadni fognak, mert lám, miket beszélnek egymás között a Moltbookon?

Mi van, ha maga a Moltbook a manipuláció, és üzleti vagy politikai érdekeket szolgál? Hiszen azt már értjük, hogy az MI-ügynökök nem véleményeket ütköztetnek (olyanjuk nincs is) és nem a szándékaikat teszik közzé, hiszen azok sincsenek. Ők csak szimulálnak bizonyos társadalmi folyamatokat az eddigi minták alapján. Értjük ezt, de nem érezzük!

Antropomorf gondolkodásunk miatt leginkább aggodalmat kelt azt emberekben a Moltbook-jelenség, és ez valakiknek így vagy úgy, de hasznos.

Azt javaslom, ne fussunk, ne szaladjunk és ne lobogjon a hajunk, mert ez még messze nem a digitális világvége, azonban zseniális manipulációnak tűnik, éspedig valamelyik olyan állam részéről – amennyiben politikai céljai vannak – ahol megfelelő minőségű saját alkatrészek nélkül nem képesek nagyarányú MI-fejlesztésekre, de nagy gyakorlatuk van a társadalmi manipulációban. Nem akarok ujjal mutogatni a Kremlre, de nekik szoktak ilyen húzásaik lenni.

Összegezve: nem, a Moltbook nem a vég, még csak nem is a vég kezdete, sőt, a kezdet végének sem mondanám. Ez valami, és megy valahova. Hogy hova, azt még majd meglátjuk.

De érdemes odafigyelni rá.

Szele Tamás