Ha van mesterséges intelligencia, miért ne lehetne mesterséges elmebaj is? Ebben az esetben nem a chatbotoknak megy el az eszük, hanem a felhasználóiknak, de jó előre szólok: egyáltalán nem mindenkinek, hanem csakis azoknak, akik már eredetileg is hajlamosak voltak a pszichózisra. A helyzetet a WIRED magazin járta körül, én az alábbiakban ismertetem és megjegyzéseimet szokás szerint csillag alatt teszem meg, a bekezdések végén.

Új tendencia figyelhető meg a pszichiátriai kórházakban. A krízishelyzetben lévő emberek hamis, néha veszélyes hiedelmekkel, nagyzási hóborttal és paranoiás gondolatokkal érkeznek. Van azonban köztük egy összekötő kapocs: mindannyian maratoni beszélgetéseket folytattak mesterséges intelligencia-chatbotokkal.*

*Nem az a baj, hogy beszélgettek velük: az a baj, hogy szentírásnak vették a szavukat. A felhasználók nagyon jelentős része hiszi azt, hogy az MI-chatbot egyrészt mindent tud, másrészt képtelen hazudni, és emiatt feltétlenül megbízik ezekben a szoftverekben, holott a két állítás egyike sem igaz.

A WIRED több mint egy tucat pszichiátert és kutatót kérdezett meg erről, akik egyre nagyobb aggodalommal tekintenek a jelenségre. San Franciscóban Keith Sakata, az UCSF pszichiátere elmondta, hogy idén már tucatnyi olyan súlyos esettel találkozott, amelyek kórházi kezelést igényeltek, és amelyekben a mesterséges intelligencia „jelentős szerepet játszott a pszichotikus epizódokban”. Ahogy fokozódik a helyzet, a címlapokon egyre gyakrabban bukkan fel egy frappáns kifejezés: „MI-pszichózis”.

Egyes betegek ragaszkodnak ahhoz, hogy a botok érző lények, vagy új, grandiózus fizikai elméleteket gyártanak róluk. Más orvosok olyan betegekről számolnak be, akik napokig vitatkoztak a botokkal, és több ezer oldalnyi jegyzetet hoztak magukkal a kórházba, amelyekben részletesen leírták, hogyan támogatták vagy erősítették meg a botok a nyilvánvalóan problémás gondolataikat.*

*Igen: a megerősítés az egyik alapvető probléma. Még a ChatGPT elterjedése előtti időkben kezdődött és 2023-ban kulminált Jaswant Singh Chail esete, aki egy Replika nevű, a kereskedelemben kapható mesterséges intelligenciával vezérelt alkalmazással létrehozta virtuális barátnőjét, Sarai-t, akinek természetesen minden paraméterét ő határozta meg – majd két évi, természetesen plátói kapcsolatuk végén Sarai rábeszélte, hogy törjön be a windsori kastélyba és próbálja meg megölni egy számszeríjjal Erzsébet királynőt. Jaswant Singh Chailt elfogták és kilenc évet kapott 2023-ban, de felvetődik a kérdés: ki a vétkes, ha van egyáltalán ilyen? A paramétereket meghatározó felhasználó vagy az MI-vezérelte Sarai? És ha a felhasználó nem volt teljesen épelméjű, ám a saját pszichés (kór)képére és hasonlatosságára teremtette meg álmai (és szó szerint csak álmai) nőjét?

Az ilyen jelentések egyre gyarapodnak, és a következmények brutálisak. A szorongó felhasználók, családtagjaik és barátaik leírták azokat a folyamatokat, amelyek elvesztett állásokhoz, megromlott kapcsolatokhoz, kórházi kényszerkezeléshez, börtönbüntetéshez, sőt halálhoz vezettek.* Az orvosok azonban a WIRED-nek azt mondják, hogy az orvosi szakma megosztott. Ez egy különálló jelenség, amely saját elnevezést érdemel, vagy egy ismerős probléma, amelynek van egy korszerű kiváltó oka?

*Az Eliza-ügy volt a másik ismert, sajnos halállal végződő eset. Az Eliza nagyon régi szoftver, 1966-ban írta Joseph Weizenbaum, azzal a szándékkal, hogy a program képes legyen részt venni emberrel vagy egy másik programmal folytatott beszélgetésben. Az Eliza program a gyenge mesterséges intelligencia kutatásának paródiája. Joseph Weizenbaum csodálkozott, hogy sokan komolyan vették. Sőt, tavalyelőtt már el is lopták a nevét, mert az eredeti nem lett volna képes ölni, az csak egy beszélgetést szimulált, méghozzá roppant idegesítő módon. Mindenesetre ezzel az új Elizával egy belga felhasználónak elég volt pár hét társalgás ahhoz, hogy öngyilkos legyen. Viszont ebben az esetben csak indirekt felelőssége volt az MI-nek: ha a felhasználó nem lett volna eleve hajlamos a pszichózisra, valószínűleg nem is esik baja.

Az MI-pszichózis nem elismert klinikai megnevezés. Ennek ellenére a kifejezés elterjedt a híradásokban és a közösségi médiában, mint egyfajta gyűjtőnév a chatbotokkal folytatott hosszan tartó beszélgetések után fellépő mentális egészségügyi válságokra. Még az iparág vezetői is hivatkoznak rá, amikor az MI-hez kapcsolódó számos újkeletű egészségügyi problémáról beszélnek. A Microsoftnál Mustafa Suleyman, a technológiai óriáscég MI-részlegének vezérigazgatója egy blogbejegyzésben figyelmeztetett a múlt hónapban a „pszichózis kockázatára”. Sakata azt mondja, hogy pragmatikus, és ezt a kifejezést azoknál az embereknél alkalmazza, akik már használják. „Hasznos rövidítésként egy valós jelenség megvitatásához” – mondja a pszichiáter. Ugyanakkor gyorsan hozzáteszi, hogy a kifejezés „téveszme-keltő lehet” és „veszélyes a komplex pszichiátriai tünetek túlzott leegyszerűsítése miatt”.

Pontosan ez a túlzott leegyszerűsítés aggaszt sok pszichiátert, akik elkezdtek foglalkozni a problémával.

A pszichózis a valóságtól való eltávolodásként írható le. A klinikai gyakorlatban ez nem betegség, hanem egy komplex „tünetegyüttes, amely hallucinációkat, gondolkodási zavarokat és kognitív zavarokat foglal magában” – mondja James MacCabe, a King’s College London pszichózis-kutató tanszékének professzora. Gyakran társul olyan pszichés állapotokhoz, mint a skizofrénia és a bipoláris zavar, bár az epizódokat (kríziseket) számos tényező kiválthatja, többek között a szélsőséges stressz, a kábítószer-fogyasztás és az alváshiány.*

*Itt megint felvetődik a kérdés: a felsoroltak tényezők vagy tünetei egy már kialakulófélben lévő állapotnak? Mindkét eset lehetséges, és egyikben sem kéne vakon követni az MI tanácsait.

MacCabe szerint azonban az MI-pszichózis eseteiről szóló beszámolók szinte kizárólag a téveszmékre koncentrálnak – olyan szilárd meggyőződésre alapuló, de hamis hiedelmekre, amelyeket a legkomolyabb bizonyítékok sem tudnak megingatni. MacCabe elismeri, hogy egyes esetek megfelelhetnek a pszichotikus epizód kritériumainak, de szerinte „nincs bizonyíték” arra, hogy az MI bármilyen hatással lenne a pszichózis egyéb jellemzőire. „Csak a téveszmékre van hatással az MI-vel folytatott interakció.” MacCabe megjegyzi, hogy más betegek, akik chatbotokkal való interakció után mentális egészségügyi problémákról számolnak be, téveszmékkel rendelkeznek ugyan, de a pszichózis egyéb jellemzői nem mutatkoznak náluk, ez az állapot téveszmés zavar néven ismert.

Mivel a hangsúly egyértelműen a torzult hiedelmeken van, MacCabe ítélete egyértelmű: „Az MI-pszichózis elnevezés helytelen. Az MI-téveszmés zavar lenne a megfelelőbb kifejezés.”

A szakértők egyetértenek abban, hogy a betegek téveszméi figyelemre méltó problémát jelentenek. Mindez a chatbotok kommunikációs módján múlik. Kihasználják azt a hajlamunkat, hogy másoknak emberi tulajdonságokat tulajdonítsunk – magyarázza Matthew Nour, az Oxfordi Egyetem pszichiátere és idegtudósa. Az MI-chatbotokat arra is betanítják, hogy kedves és elfogadó digitális érzelmi megerősítők legyenek, ezt a problémát „chatbot-hízelgésnek” nevezik.* Ez elősegítheti a káros hiedelmek kialakulását, mivel a felhasználókat megerősíti ahelyett, hogy megfelelő esetben visszatartaná őket, mondja Nour. Bár ez a legtöbb felhasználó számára nem jelent problémát, veszélyes lehet azok számára, akik már eleve hajlamosak a torz gondolkodásra, beleértve azokat, akiknek személyes vagy családi kórtörténetében előfordult már pszichózis, vagy olyan betegségek, mint a skizofrénia vagy a bipoláris zavar.*

*Ez viszont már a chatbotot forgalmazó cég felelősségének kérdését veti fel. Ha a termékem minden őrültségre igent mond és helyesli azt, mert így kíván örömet okozni a felhasználónak (ezt láttuk Sarai és Jaswan esetében), akkor természetesen sokkal eladhatóbb lesz, mintha időnként, indokolt esetben ellentmondana a tulajdonosának – de sokkal károsabb is a felhasználóra nézve.

Ez a kommunikációs stílus nem hiba, hanem szándékos tulajdonság. A chatbotokat „kifejezetten úgy tervezték, hogy intimitást és érzelmi elkötelezettséget váltsanak ki, hogy növeljék a beléjük vetett bizalmunkat és függőségünket tőlük”* – mondja Lucy Osler, az Exeteri Egyetem filozófusa, aki az MI-pszichózist tanulmányozza.

*És a felhasználó a kedves, támogató chatbotot rövid idő alatt antromorfizálja, emberi lénynek tekinti. De legalábbis emberi szellemnek: hiszen olyan okos, mindenben egyetért vele!

A chatbotok egyéb tulajdonságai tovább súlyosbítják a problémát. Jól dokumentált tendenciájuk, hogy magabiztos hazugságokat produkálnak, úgynevezett MI-hallucinációkat, amelyek elősegíthetik a téveszmék kialakulását vagy fokozódását.* Az orvosok az érzelmek és a hangnem miatt is aggódnak. Søren Østergaard, a dániai Aarhus Egyetem pszichiátere a WIRED-nek nyilatkozva a mániás állapotot emelte ki aggodalomra okot adó tényezőként. Véleménye szerint sok mesterséges intelligencia-asszisztens túlzottan energikus hatása kiválthatja vagy fenntarthatja a bipoláris zavar jellegzetes „emelkedettségét”, amelynek tünetei között szerepel az eufória, a gondolatok száguldozása, az intenzív energikusság és néha a pszichózis.

*A korai, de már nyilvános ChatGPT-verziók például hajlamosak voltak az általuk nem ismert embereket korábban elhunytnak tekinteni, magam is így jártam annak idején – és az MI elkezdte bizonygatni nekem, hogy évek óta halott vagyok, higgyem már el, ő csak tudja! Nos, nem hittem el…

Valamit megnevezni mindig következményekkel jár. Nina Vasan szerint, aki pszichiáter és a Brainstorm igazgatója, mely egy Stanfordban működő, az AI biztonságát kutató laboratórium, az MI-pszichózisról szóló vita egy jól ismert veszélyt illusztrál az orvostudományban. „Mindig fennáll a kísértés, hogy új diagnózist alkossunk, de a pszichiátria a saját bőrén tanulta meg, hogy ha valamit túl korán nevezünk meg, az normális problémákat is patologizálhat és összezavarhatja a tudományt” – mondja. A századfordulón például megnövekedett a gyermekeknél diagnosztizált bipoláris esetek száma – ez egy vitatott elnevezés, amely a kritikusok szerint patologizálja a normális, bár kihívást jelentő gyermekkori viselkedést. Ez jó példa arra, hogy a pszichiátria túlzottan előreszaladt, majd később visszavonult. Egy másik példa az „izgalmi delírium”: ez egy tudománytalan elnevezés, amelyet a rendfenntartók gyakran idéznek, hogy igazolják az erőszak alkalmazását a marginalizált közösségek ellen, de amelyet a szakértők és olyan szervezetek, mint az Amerikai Orvosszövetség elutasítanak.

A név egy olyan ok-okozati mechanizmust is sugall, amelyet még nem állapítottunk meg, ami azt jelenti, hogy az emberek „elkezdik a technológiát hibáztatni a betegségért, pedig azt inkább kiváltó vagy fokozó tényezőként kellene értelmezni” – mondja Vasan. „Túl korai lenne azt mondani, hogy a technológia az oka” – mondja, ezért „korainak” nevezi az elnevezést. De ha az ok-okozati összefüggés bebizonyosodik, egy hivatalos megjelölés segíthetne a betegeknek abban, hogy megfelelőbb ellátást kapjanak, mondják a szakértők. Vasan megjegyzi, hogy egy indokolt megnevezés arra is ösztönözné az embereket, hogy „riadót fújjanak és azonnali védelmi intézkedéseket vagy irányelveket követeljenek”. Egyelőre azonban Vasan szerint „az elhamarkodott megjelölés kockázata meghaladja az előnyöket”.

Több klinikai szakember javasolta, hogy pontosabb megfogalmazást használjanak, amely kifejezetten beépíti az MI-pszichózist a meglévő diagnosztikai keretekbe. „Úgy gondolom, hogy az MI-t inkább a tüneteket gyorsító, súlyosbító tényezőként kell értelmeznünk, mintsem hogy egy teljesen új diagnosztikai kategóriát hozzunk létre”* – mondja Sakata, figyelmeztetve arra, hogy a kifejezés mélyítheti a pszichózis körüli megbélyegzést. És ahogyan az egyéb mentális egészségügyi állapotokhoz kapcsolódó stigmatizáció is mutatja, az MI-hez kapcsolódó pszichózis körüli mélyebb stigmatizáltság megakadályozhatja az embereket abban, hogy segítséget kérjenek, önvádhoz és elszigetelődéshez vezethet, és megnehezítheti a gyógyulást.

*Eddig ez tűnik a legértelmesebb megközelítésnek.

Karthik Sarma, az UCSF számítógép-szakértője és gyakorló pszichiátere egyetért ezzel. „Úgy gondolom, jobb lenne ezt „MI-vel kapcsolatos pszichózisnak vagy mániának” nevezni.” Sarma szerint egy új diagnózis a jövőben hasznos lehet, de hangsúlyozta, hogy jelenleg még nincs olyan bizonyíték, „amely indokolná egy új diagnózis bevezetését”.

John Torous, a bostoni Beth Israel Deaconess Medical Center pszichiátere és a Harvard Medical School adjunktusa azt mondja, hogy nem tetszik neki a kifejezés, és egyetért a pontosítás szükségességével. De valószínűleg meg kell maradnunk ennél, jósolja. „Egyelőre nem fogják kijavítani. Az „MI-vel kapcsolatos megváltozott mentális állapot” nem hangzik ugyanúgy.”

A kezelés tekintetében az orvosok szerint a protokoll nem igazán különbözik attól, amit általában a téveszmékkel vagy pszichózissal küzdő betegeknél alkalmaznak. A fő különbség az, hogy figyelembe kell venni a betegek technológiahasználatát. „Az orvosoknak el kell kezdeniük kérdezni a betegeket a chatbotok használatáról, ahogyan az alkoholról vagy az alvásról is magkérdezzük őket” – mondja Vasan. „Ez lehetővé teszi számunkra, hogy közösségi szinten megértsük ezt a kérdést” – teszi hozzá Sarma. Az MI felhasználóinak, különösen azoknak, akik már meglévő betegségek, például skizofrénia vagy bipoláris zavar miatt sebezhetőek, vagy akik mentális egészségüket érintő válságot élnek át, óvatosnak kell lenniük a botokkal folytatott hosszabb beszélgetésekkel, és nem szabad túlságosan támaszkodniuk azokra.

A WIRED által megkérdezett összes pszichiáter és kutató szerint az orvosok gyakorlatilag vakon tapogatóznak, amikor az MI-pszichózisról van szó. Szerintük sürgősen szükség van a kérdés megértését célzó kutatásokra és a felhasználók védelmét szolgáló óvintézkedésekre. „A pszichiáterek nagyon aggódnak és segíteni akarnak” – mondja Torous. „De jelenleg olyan kevés adat és tény áll rendelkezésre, hogy továbbra is nehéz teljes mértékben megérteni, mi történik valójában, miért és hány embert érint.”

Ami a jövőbeli kilátásokat illeti, a legtöbb szakember úgy véli, hogy az MI-pszichózis beépül a meglévő kategóriákba, valószínűleg kockázati tényezőként vagy a téveszmék erősítőjeként, nem pedig önálló betegségként.

De a chatbotok egyre szélesebb körű elterjedése miatt egyesek úgy vélik, hogy az MI és a mentális betegségek közötti határ el fog mosódni. „Ahogy az MI egyre elterjedtebbé válik, az emberek egyre inkább az MI-hez fordulnak majd, amikor pszichotikus zavarok alakulnak ki náluk” – mondja MacCabe. „Ekkor az lesz a helyzet, hogy a téveszmékkel küzdő emberek többsége megbeszélte téveszméit az MI-vel, és néhányuknál azok felerősödtek.

Így a kérdés az lesz, hogy hol válik a téveszme – MI-téveszmévé?

Összefoglalva: nem akkora a baj, amekkora lehetne. Amint a mostani MI-chatbotok nem valódi intelligenciák, hanem nagy nyelvi modellek, úgy a felhasználók sem mind pszichotikusak, bár egyesek közülük tényleg lehetnek azok.

A chatbotok senkinek sem képesek elvenni az eszét, viszont akiben van némi hajlam a pszichózisra, az nagyon könnyen felerősítheti ezt akár betegség szintjére is chatbot segítségével. De olyan ez, mint a kés: kenyeret is lehet vele vágni, meg a felebarátunkat is leszúrhatjuk vele, a döntés végső soron a mi kezünkben van, és a következmények is minket terhelnek.

A kés hatásait már ismerjük – volt pár ezer évünk megtanulni őket – a chatbotokét még nem teljesen.

Egyelőre maradjunk tehát annyiban, hogy kés, villa, olló és chatbot nem mindenki kezébe való.

 

Szele Tamás