Mindig mondtam, hogy nagy áldást jelentenek az emberiségre a technikai vívmányok, ha jóra használják őket, de csak akkor használják őket értelmesen, ha már előbb kimerítették az összes rossz, bűnös és aljas lehetőségeket. Ez a helyzet a mesterséges intelligenciával és az úgynevezett „nudify” programokkal is – az ügyet a WIRED magazin járta körül.
Gombamód szaporodnak – már éve óta – az úgynevezett „vetkőztető” alkalmazások és weboldalak az interneten, lehetővé téve a felhasználók számára, hogy nőkről és lányokról (sőt, időnként nem csak róluk) készült, beleegyezés nélkül és visszaélésszerű módon előállított pornográf képeket terjesszenek, beleértve a gyermekekkel való szexuális visszaélést ábrázoló vizuális anyagokat is. Annak ellenére, hogy egyes törvényhozók és technológiai cégek lépéseket tettek a káros szolgáltatások korlátozására, havonta még mindig emberek milliói férnek hozzá az ezzel foglalkozó weboldalakhoz, és az oldalak készítői évente több millió dollárt kereshetnek – derül ki egy új kutatásból.
85 vetkőztető weboldal elemzése – amelyek lehetővé teszik az emberek számára, hogy fényképeket töltsenek fel, és a mesterséges intelligencia segítségével néhány kattintással „meztelen” képeket generáljanak az azokon szereplőkről – megállapította, hogy az oldalak többsége a Google, az Amazon és a Cloudflare technikai szolgáltatásaira támaszkodik a működéshez és az online fennmaradáshoz. Az Indicator, a digitális csalásokat vizsgáló kiadvány által nyilvánosságra hozott eredmények szerint a weboldalaknak az elmúlt hat hónapban átlagosan 18,5 millió látogatójuk volt, és együttesen akár évi 36 millió dollárt is kereshetnek.
Alexios Mantzarlis, az Indicator társalapítója és online biztonságkutató szerint a félalvilági vetkőztetők szövevényes ökoszisztémája „jövedelmező üzletággá” vált, amelyet „a Szilícium-völgy laissez-faire megközelítése a generatív mesterséges intelligenciával kapcsolatban” hagyott fennmaradni. „Be kellett volna szüntetniük mindenféle szolgáltatás nyújtását az MI vetkőztetőknek, amikor világossá vált, hogy az egyetlen felhasználási terület, amivel foglalkoznak, a szexuális zaklatás” – mondja Mantzarlis a technológiai vállalatokról. Egyre inkább illegálissá válik a pornográf deepfake létrehozása vagy megosztása.
A kutatás szerint az Amazon és a Cloudflare a 85 érintett weboldal közül 62-nek nyújt tárhely- vagy tartalomszolgáltatást, míg a Google bejelentkezési rendszerét 54 weboldalon használták. A vetkőztető weboldalak számos más, mainstream cégek által nyújtott szolgáltatást, például fizetési rendszereket is használnak.
Ryan Walsh, az Amazon Web Services szóvivője szerint az AWS-nek egyértelmű szolgáltatási feltételei vannak, amelyek megkövetelik az ügyfelektől az „alkalmazandó” törvények betartását. „Amikor a feltételeink lehetséges megsértéséről kapunk bejelentést, gyorsan cselekszünk, hogy felülvizsgáljuk és lépéseket tegyünk a tiltott tartalmak letiltására” – mondja Walsh, hozzátéve, hogy az emberek jelenthetik a problémákat a biztonsági csapatoknak. „Néhány ilyen oldal megsérti a feltételeinket, és csapataink lépéseket tesznek a jogsértések kezelésére, valamint hosszabb távú megoldásokon is dolgoznak” – nyilatkozta Karl Ryan, a Google szóvivője, rámutatva, hogy a Google bejelentkezési rendszere megköveteli a fejlesztőktől, hogy elfogadják az illegális és másokat zaklató tartalmakat tiltó irányelveit.
A Cloudflare a cikk írásakor nem válaszolt a WIRED megkeresésére. A WIRED ebben a történetben nem nevezi meg a vetkőztető weboldalakat, nehogy további forgalmat biztosítson számukra.
A vetkőztető weboldalak és botok 2019 óta virágoznak, miután eredetileg az első pornográf „deepfakek” létrehozásához használt eszközökből és folyamatokból nőttek ki. Mint arról a Bellingcat is beszámolt, összekapcsolt cégálók jelentek meg az interneten, amelyek a technológiát kínálják és pénzt keresnek a rendszereikkel.
Általánosságban elmondható, hogy a szolgáltatások mesterséges intelligenciát használnak arra, hogy a fotókat nem konszenzusos pornográf képi anyagokká alakítsák át; és gyakran a fotók létrehozásához felhasználható „kreditek” vagy előfizetések eladásával keresnek pénzt. Ezeket a szolgáltatásokat az elmúlt néhány évben megjelent generatív mesterséges intelligenciával működő képalkotó eszközök hulláma gyorsította fel. Kibocsátásuk rendkívül káros. A közösségi médiából ellopják a fotókat, és bántalmazó képek készítésére használják fel őket; eközben a cyberbullying és a bántalmazás új formájaként világszerte tizenéves fiúk készítettek képeket osztálytársnőikről. Az ilyen intim képekkel való visszaélés megrázó az áldozatok számára, és a képeket nehéz lehet kitörölni a világhálóról.
Az Indicator munkatársai és Santiago Lakatos oknyomozó kutató különböző nyílt forráskódú eszközök és adatok, köztük a Built With weboldal-elemző eszköz segítségével megvizsgálták a 85 vetkőztető weboldalt működtető infrastruktúrát és rendszereket. A tartalomszolgáltató hálózatokat, a tárhelyszolgáltatásokat, a domainnév-szolgáltatókat és a webmester-szolgáltatásokat a legnagyobb technológiai cégek, valamint néhány kisebb vállalkozás biztosítja.
Az előfizetési díjak, a becsült ügyfél-átváltási arányok és az oldalak által a fizetési szolgáltatóknak küldött webes forgalom kombinálásával végzett számítások alapján a kutatók becslése szerint 18 weboldal 2,6 és 18,4 millió dollár közötti összeget keresett az elmúlt hat hónapban, ami évente körülbelül 36 millió dollárnak felelhet meg. (Megjegyzik, hogy ez valószínűleg óvatos becslés, mivel nem tartalmazza az összes olyan webhelyet és tranzakciót, amely a webhelyeken kívül zajlik, például a Telegramban). A közelmúltban a Der Spiegel német médium által közölt, kiszivárgott adatok szerint az egyik kiemelkedő weboldal több millió dolláros költségvetéssel rendelkezhet. Egy másik weboldal is azt állította, hogy milliókat keresett.
A kutatás szerint a 10 leglátogatottabb oldal közül a legtöbb látogató az Egyesült Államokból érkezett – a többi négy ország, ahol a legtöbb látogató volt, India, Brazília, Mexikó és Németország. Miközben a keresőmotorok irányítják az embereket a vetkőztető weboldalakra, egyre több látogató érkezik más online forrásokból is. A vetkőztetők annyira népszerűvé váltak, hogy orosz hackerek hamis, rosszindulatú szoftverekkel megspékelt verziókat hoztak létre. Az elmúlt évben a 404 Media beszámolt egy olyan oldalról, amely szponzorált videókat készített felnőtt szórakoztatóművészekkel, és a weboldalak egyre gyakrabban használtak fizetett partner- és ajánlóprogramokat is.
„A vetkőztetők viselkedésének elemzése erősen jelzi, hogy a felnőttipar egy piaci résében kívánnak építkezni és beágyazódni” – mondja Lakatos. „Valószínűleg továbbra is igyekeznek majd beolvasztani működésüket a felnőtt tartalmak területébe, ami ellen a mainstream technológiai cégeknek és a felnőttiparnak is fel kell lépnie.”
A techcégeknek számos problémát okoz, hogy a vetkőztető platformok számára engedélyezik a rendszereik használatát. A tech-újságírók évek óta beszámolnak arról, hogy a deepfake gazdaság hogyan használta ki a mainstream fizetési szolgáltatásokat, a közösségi média-hirdetéseket, a keresőmotorok megjelenését és a nagyvállalatok technológiáját a működéshez. Mégis kevés átfogó intézkedés történt.
„2019 óta a vetkőztető alkalmazások egy maroknyi alacsony színvonalú mellékprojektből több millió felhasználóval rendelkező, professzionalizált illegális vállalkozások háztáji iparágává váltak” – mondja Henry Ajder, az MI és a deepfake szakértője, aki 2020-ban fedezte fel először a vetkőztető ökoszisztéma növekedését.
„Csak akkor fogunk érdemi előrelépést elérni abban, hogy megnehezítsük az ilyen alkalmazásokhoz való hozzáférést és a belőlük származó profitot, ha az ilyen vállalkozások, amelyek megkönnyítik a nudifikációs alkalmazások perverz ügyfélútját, ellen célzottan lépnek fel.”
Vannak arra utaló jelek, hogy a vetkőztető weboldalak frissítik taktikájukat és megközelítéseiket, hogy megpróbálják elkerülni az esetleges lebukásokat vagy kikerülni a tiltásokat. Tavaly a WIRED arról számolt be, hogy a vetkőztető weboldalak a Google, az Apple és a Discord egyszeri bejelentkezési rendszereit használják, hogy a felhasználók hozhassák létre fiókjaikat. A beszámolót követően sok fejlesztői fiókot letiltottak. A Indicator szerint azonban a 85 weboldalból 54-en a Google egyszerű bejelentkezési rendszerét használják, és a weboldal készítői lépéseket tettek annak érdekében, hogy elkerüljék a Google általi észlelést. A jelentés szerint egy „közvetítő webhelyet” használnának, hogy „más URL-nek adják ki magukat a regisztrációnál”.
Míg a technológiai vállalatok és a szabályozó hatóságok a több mint egy évtizeddel ezelőtti megjelenésük óta csak lassan lépnek fel a visszaélésszerű deepfake-ekkel szemben, a közelmúltban történt némi mozgás. San Francisco városi ügyésze 16 ilyen ügyekben érdekelt képgeneráló szolgáltatást perelt be, a Microsoft azonosította a hírességek deepfake-jei mögött álló fejlesztőket, a Meta pedig pert indított egy olyan cég ellen, amely állítólag egy vetkőztető alkalmazás mögött állt, és a techóriás szerint többször is hirdetéseket tett közzé a platformján. Eközben az ellentmondásos Take It Down Act, amelyet Donald Trump amerikai elnök májusban íktatott törvénybe, követelményeket támaszt a technológiai vállalatokkal szemben a nem konszenzuson alapuló képterjesztés gyors megszöntetésére, az Egyesült Királyság kormánya pedig illegálissá teszi a nyíltan közzétett deepfake-ek létrehozását.
Ezek a lépések ugyan visszaszoríthatnak néhány vetkőztető szolgáltatást, de átfogóbb fellépésre van szükség a burjánzó iparág lelassításához. Mantzarlis szerint ha a technológiai vállalatok proaktívabbak és szigorúbban érvényesítik a szabályzataikat, a vetkőztetők lehetőségei csökkennek. „Igen, ez a dolog át fog vándorolni az internet kevésbé szabályozott szegleteibe – de hagyjuk” – mondja Mantzarlis. „Ha a weboldalakat nehezebb felfedezni, elérni és használni, akkor a közönségük és a bevételeik is csökkenni fognak. Sajnos a generatív mesterséges intelligencia korszakának ezt a mérgező ajándékát nem lehet visszaadni. De minden bizonnyal drasztikusan lehet csökkenteni a hatókörét.”
Ennek a gyakorlatnak mindenképpen véget kell vetni, akkor is, ha tudjuk, hogy a vetkőztető program nem valódi meztelenséget mutat: a neki megadott fényképek alapján generál egy meztelen testet az áldozat feje alá, de ha annak például van egy anyajegye, amely felöltözve nem látszik, az a műpornó-képeken sem lesz rajta. Csak hát ez nem sokat számít, míg a felhasználók azt hiszik, hogy valódi pornográfiát látnak.
A megoldás mindenképpen az összes deepfake visszaszorítása, sőt, teljes betiltása lenne, szigorú büntetés terhe mellett.
Csakhogy amíg ezt a technológiát felhasználják a politikai kampányokban is, erre hiába várunk.
Szele Tamás