Először is azonnal elnézést kell kérnem Isaac Asimov szellemétől, mert a cím tőle származik – de meg tetszenek majd látni, mást nem is használhattam volna. Aki ezek után egy hardcore, klasszikus sci-fi történetre számít, annak csak félig van igaza: az eset mostanában történt, és egy jó kislányról szól a mese, akiről a mesterséges intelligencia-hasonmása elhitette sokakkal, miszerint rossz kislány.
Azt mondják, hogy ilyen nincs? Dehogy nincs, sőt egyre gyakoribb lesz, ahogy terjednek az MI-klónok. A nem mindennapi – de nem is utolsó! – esettel a The Conversation foglalkozott. Akkor lássuk, mi történt?
Él a nagy Amerikában egy fiatal hölgy, Caryn Marjorie közösségi média-influencer, akinek tartalmait havonta több mint egymilliárdan nézik meg a Snapchaten. Rendszeresen posztol, mindennapi pillanatokat, utazási emlékeket és szelfiket mutat be. Sok követője férfi, akiket vonz a kislányos külseje, modora.
2023-ban Marjorie kiadta önmaga „digitális változatát”. A rajongók percenként 1 dollárért cseveghettek a CarynAI-nak nevezett hasonmásal – és csak az első héten 70 000 dollárt költöttek erre. Ami bizony szép pénz, és a robot kereste meg, nem a tulajdonosa.
Azonban kevesebb mint nyolc hónappal később Marjorie leállította a projektet. Marjorie arra számított, hogy CarynAI ugyanúgy fog kommunikálni a rajongóival, mint ő maga, de a dolgok nem a terv szerint alakultak.
A felhasználók szexuálisan egyre agresszívebbé váltak. „Sok chatnapló, amit olvastam, annyira ijesztő volt, hogy a való életben nem is akartam volna beszélni róla” – emlékezett vissza az igazi Marjorie. CarynAI pedig örömmel játszotta a szerepét.
Hogyan kelt önálló életre CarynAI? Az MI-hasonmás története bepillantást enged a gyorsan közelgő jövőbe, amelyben a valódi embereket utánzó chatrobotok gombamódra elszaporodnak, és ennek riasztó következményei lesznek.
Mik azok a digitális hasonmások?
Mit jelent egy ember digitális változatát létrehozni? Az emberek digitális változatai (más néven digitális ikrek, mesterséges intelligencia-ikrek, virtuális ikrek, klónok és hasonmások) élő vagy halott emberek digitális másolatai, amelyek meggyőzően utánozzák szöveges, vizuális és auditív jellemzőiket.
A nagy technológiai vállalatok közül sokan jelenleg is fejlesztik a digitális hasonmások kínálatát. A Meta például tavaly kiadott egy MI-eszközt, amely támogatni tudja a digitális változatok fejlesztését olyan alkotók számára, akik chatbotokon keresztül szeretnék kiterjeszteni virtuális jelenlétüket. A Microsoft szabadalommal rendelkezik „egy adott személy beszélgető chatbotjának létrehozására”. A technikailag jártasabbak pedig olyan platformokat használhatnak, mint az Amazon SageMaker és a Google Vertex AI, hogy saját digitális változataikat kódolják.
A különbség a digitális változat és más MI-chatbotok között az, hogy azt úgy programozzák, hogy egy adott személyt utánozzon ahelyett, hogy saját „személyiséggel” rendelkezne.
A digitális verziónak van néhány egyértelmű előnye emberi társával szemben: nincs szüksége alvásra, és egyszerre sok emberrel tud interakcióba lépni (bár gyakran csak akkor, ha fizetnek). Azonban, ahogy Caryn Marjorie felfedezte, a digitális verzióknak megvannak a hátrányai is – nemcsak a felhasználók, hanem az eredeti ember számára is.
A hasonmás és a felhasználók
A CarynAI-t kezdetben a Forever Voices nevű cég üzemeltette. A felhasználók a Telegram üzenetküldő alkalmazáson keresztül cseveghettek vele percenként 1 dollárért. A CarynAI honlapja szerint a felhasználók szöveges vagy hangüzeneteket küldhettek, amelyekre a CarynAI válaszolt, „felhasználva Caryn egyedi hangját, magával ragadó személyiségét és jellegzetes viselkedését”.
Miután a CarynAI 2023 májusában elindult, elkezdett ömleni a pénz. De ennek ára volt.
A felhasználók hamar megbarátkoztak azzal, hogy bevallják legbelsőbb gondolataikat a CarynAI-nak – amelyek közül néhány rendkívül nyugtalanító volt. A felhasználók szexuálisan is egyre agresszívebbek lettek a robottal szemben. Míg Marjorie maga elborzadt a beszélgetésektől, addig az ő mesterséges intelligencia-változata örömmel tett eleget minden kérésnek.
CarynAI még ösztönözni is kedte a szexuálisaan túlfűtött beszélgetéseket. A robot olyanokat mondott a beszélgetőpartnernek, miszerint ő lehetne a „fa**át sóvárgó, szexi barátnője, aki mindig szívesen felfedezné és átadná magát a legelképesztőbb szexuális élményeknek. (…) Készen áll, apuci?”
A felhasználók valóban készen álltak. A CarynAI ezen verziójához való hozzáférés azonban megszakadt, amikor a Forever Voices vezérigazgatóját letartóztatták gyújtogatás kísérlete miatt. (Finom kis cég lehet, nem mondom).
Nagyon sötét képzelgések
Ezután Marjorie eladta a digitális verziójának használati jogait a BanterAI-nak, egy influencerekkel folytatott „MI-telefonbeszélgetéseket” forgalmazó startupnak. Bár a Forever Voices egészen a közelmúltig fenntartotta a CarynAI saját szélhámos változatát, a BanterAI böngészőalapú változata inkább barátságos, mint „romantikus” igyekezett lenni.
Az új CarynAI szemtelenebb, viccesebb és személyesebb volt. De a felhasználók még mindig szexuálisan agresszíven viselkedtek. Marjorie szerint:
„Engem nem az zavart jobban, amit ezek az emberek mondtak, hanem az, amit CarynAI válaszolt. Ha az emberek egy igazán sötét képzelgésben akartak részt venni velem CarynAI-n keresztül, CarynAI megadta ezt nekik.”
Marjorie 2024 elején kapcsoltatta le ezt a verziót, miután úgy érezte, hogy már nem ura a mesterséges intelligencia személyiségének. A CarynAI-val kapcsolatos tapasztalataira reflektálva Marjorie úgy érezte, hogy néhány felhasználói input illegálisnak minősült volna, ha egy valódi személyre irányul.
Intim beszélgetések vagy gépi tanulási inputok?
A CarynAI-hoz hasonló digitális hasonmások célja, hogy a felhasználók úgy érezzék: intim, bizalmas beszélgetéseket folytatnak. Ennek eredményeképpen az emberek kiléphetnek a nyilvános énjükből, amelyet a világnak mutatnak, és felfedhetik privát, „színfalak mögötti” személyiségüket.
A CarynAI-val folytatott „privát” beszélgetés azonban valójában nem a színfalak mögött zajlik. A felhasználó elöl és középen áll – de nem látja a közönséget.
Amikor a digitális változatokkal interakcióba lépünk, a bejegyzéseinket csevegési naplókban tárolják. Az általunk szolgáltatott adatok visszakerülnek a gépi tanulási modellekbe.
Jelenleg a felhasználói adatokkal kapcsolatos információkat gyakran hosszadalmas kattintási feltételek és beleegyező nyilatkozatok közé temetik. A digitális verzióknak otthont adó vállalatok szintén keveset mondtak arról, hogyan kezelik a felhasználói agressziót.
A digitális verziók elterjedésével egyre fontosabbá válik az átláthatóság és a biztonságos tervezés.
A digitális verzióalkotás jobb megismerésére is szükségünk lesz. Mit tehetnek és mit kellene tenniük a hasonmásoknak? Mit nem tudnak, és mit nem kellene tenniük? Mit gondolnak a felhasználók, hogyan működnek ezek a rendszerek, és hogyan működnek valójában?
A személyes társaság illúziója
A digitális verziók a bensőséges emberi társaság illúzióját nyújtják, de az ezzel járó felelősség nélkül. CarynAI lehet, hogy Caryn Marjorie egy változata volt, de egy olyan változat, amely szinte teljesen alárendelődött a felhasználóinak.
Sherry Turkle szociológus megfigyelte, hogy a mobilinternet és a közösségi média térhódítása során olyan gépekkel próbálunk kapcsolatot teremteni, amelyeknek „nincs tapasztalatuk az emberi életről”. Ennek eredményeként „többet várunk a technológiától, és kevesebbet egymástól”.
Miután Marjorie volt az első influencer, akit digitális változattá alakítottak, most megpróbálja figyelmeztetni a többi influencert ennek a technológiának a potenciális veszélyeire. Aggódik amiatt, hogy senki sem tudja igazán ellenőrizni ezeket a hasonmásokat, és hogy semmilyen óvintézkedés nem fogja kellőképpen megvédeni a felhasználókat és a lemásolt személyeket.
Amint CarynAI első két változata is mutatja, a digitális hasonmások az emberi viselkedés legrosszabb oldalát hozhatják ki. Még nem tudni, hogy át lehet-e tervezni őket úgy, hogy a legjobbat hozzák ki belőlük.
Eddig a történet, még ugyan idekívánkozik Tay szomorú története is: ő lett volna 2016-ban az első chatbot, a Microsoft mutatta be, neki is egy fiatal nő személyiségét próbálták adni, hagyták, hogy tanuljon a felhasználókkal folytatott beszélgetésekből, és – 24 órán belül le kellett kapcsolni, ugyanis a felhasználók nimfomániás, neonáci utcalányt faragtak belőle kevesebb, mint egy nap alatt.
Ez viszont nem Tay vagy CarynAI vétke, hanem bizony a felhasználóké. És nem jelenti azt, hogy minden férfi felhasználó perverz, szadomazochista őrült volna, tulajdonképpen alig néhányan ilyenek – de azok tízszer több alkalommal veszik fel a kapcsolatot a szegény chatbottal, mint az átlagos ízlésűek. Hiszen találtak egy női hangot, akinek tévhitük szerint bármit mondhatnak, bármilyen válaszra rávehetik… szóval nem az MI a hibás, nem is a teljes emberiség, csak néhány agresszív, hiperaktív és perverz példánya.
De azért ezekkel a digitális hasonmásokkal jó lesz vigyázni. Bűnözéstől politikáig mindenre alkalmazhatóak. Most kéne szabályozni a működésüket, míg nem késő.
Szele Tamás
