Szele Tamás: MI, oroszosan

Olcsó poén, de sajnos szó szerint igaz, hogy az orosz törvényhozóknak alaposabb ismeretséget kellene kötniük a természetes intelligenciával, és csak azután kéne szabályozniuk a mesterségeset. A Novaja Gazetának köszönhetően – bár közölte a fél orosz sajtó – sikerült megismernem a készülő új orosz MI-törvény tervezetének szövegét és most hol sírok, hol nevetek, nem tudom, hová tegyem ezt a sok szamárságot. Lássuk, miről beszélek. Megjegyzéseimet szokás szerint a bekezdések végén, csillag alatt teszem meg.

Oroszországban nyilvános vitára bocsátották a mesterséges intelligencia szabályozásáról szóló törvénytervezetet. A dokumentum új szabályokat vezet be a fejlesztőkre, a vállalkozásokra és a felhasználókra vonatkozóan, valamint megerősíti az állam szerepét a mesterséges intelligencia ellenőrzésében.

„A tervek szerint a dokumentum 2027. szeptember 1-jétől léphet hatályba, egyértelmű szabályokat állapítva meg a fejlesztők, az üzleti élet és az állam számára. Ez lehetővé teszi majd a polgárok védelmét a rejtett manipulációktól és a diszkriminatív algoritmusoktól”

– közölte a digitalizációs minisztérium. A törvény alapelve az, hogy a mesterséges intelligenciákat több kategóriára osztják. Ilyenek például az Oroszországban kifejlesztett „szuverén” és „nemzeti” modellek, valamint a közszférában és a kritikus infrastruktúrában használható „megbízható” rendszerek.*

*Úgyszólván világos, de lefordítom magyarról magyarra: a törvényjavaslat készítői élnek a gyanúperrel, hogy ha egy MI „szuverén” és „nemzeti”, az még nem elégséges a „megbízható” működéshez, sőt, ezek a hazafias izék inkább akadályozni fogják a hatékony működést, így ha tetszik, ha nem, szükség lesz kevésbé patrióta, de legalább működőképes MI-kre is.

Az állam a technológiai függetlenségre törekszik: abból indulnak ki, hogy az ilyen modellek fejlesztése, képzése és használata kizárólag az Oroszországi Föderáción belül történik, maguk a technológiák pedig orosz erőforrásokra és szakemberekre épülnek.

Szellemi értékek

A törvényjavaslat rögzíti a technológiai függetlenség gondolatát. Feltételezi, hogy ennek érdekében:

• a fejlesztés és a képzés minden szakaszát Oroszországon belül kell végrehajtani;

• minden fejlesztőnek orosznak kell lennie.*

*Kérem, ezt majd pontosítani kell: elegendő az orosz állampolgárság, vagy az illető etnikuma, kultúrája és anyanyelve is orosz kell legyen? Esetleg három nemzedékre visszamenőleg is? Mert nem mindegy.

Az Oroszországi Föderáció területén a szuverén mesterséges intelligencia számára „kedvező feltételeket” kell biztosítani, és az ilyen modellekre vonatkozó konkrét követelményeket még a kormánynak kell majd meghatározni.

Már most a szabályozás alapelvei között szerepel a „hagyományos szellemi és erkölcsi értékek” oktatása az MI-nek. Mint a törvényjavaslat írja:

„A mesterséges intelligencia-technológiák fejlesztésének, bevezetésének és használatának biztosítása olyan értékek alapján történik, mint az élet, a méltóság, az emberi jogok és szabadság, a hazaszeretet, az állampolgárság tisztelete, a haza szolgálata és a haza sorsáért való felelősség, a magas erkölcsi eszmények, az erős család, az alkotó munka, a szellemi értékek elsőbbsége az anyagiakkal szemben, a humanizmus, az irgalom, az igazságosság, a kollektivizmus, a kölcsönös segítségnyújtás és kölcsönös tisztelet, a történelmi emlékezet és a generációk folytonossága, Oroszország népeinek egysége.”*

*Hajjaj. Oroszország furcsa hely, az MI-k pedig következetesek. Ha az orosz MI tiszteli az életet, az emberi jogokat és a szabadságot, akkor nem alkalmas a haza szolgálatára. Ezt tudjuk, kipróbálták embereken is, nem ment.

A biztonság elvét is figyelembe kell venni:

„Fontos az alkotmányos rendet, az állam védelmét és biztonságát, az állam technológiai függetlenségét, az egyének életét és egészségét, a magánszemélyek és jogi személyek üzleti hírnevét és tulajdonát, az egyéni vállalkozókat, a környezetet fenyegető veszélyek megelőzése, valamint az információs biztonság és az informatizációs objektumok működésének biztosítása a mesterséges intelligencia technológiák alkalmazásával.”*

*Ha ezt mind betartja az orosz MI, mi szükség az FSZB-re? Viszont mivel úgyis a Szolgálat engedélyezi, a konkurenciára esély sincs.

A felhasználók jogainak védelme

Ha egy vállalat vagy szolgáltatás mesterséges intelligenciát használ az áruk értékesítésére vagy szolgáltatások nyújtására emberi közreműködés nélkül, köteles erről a vásárlót tisztességgel tájékoztatni.

Ugyanez vonatkozik a súlyosabb helyzetekre is: ha a mesterséges intelligencia olyan döntéseket hoz, amelyek hatással vannak az emberre – például arról, hogy jóváhagy-e vagy elutasít-e egy szolgáltatást –, akkor a felhasználót előre figyelmeztetni kell arra, hogy ezt a rendszer, és nem egy ember teszi.

Bizonyos esetekben azonban, amelyeket a kormány fog meghatározni, az állampolgárnak joga lesz visszautasítani ezt a megközelítést, és kérheti, hogy a szolgáltatást a szokásos módon, mesterséges intelligencia nélkül kapja meg.

Ha az MI segítségével hozott döntés (például egy kormányhivatalban vagy állami vállalatnál) az állampolgár számára helytelennek tűnik, azt megtámadhatja – első alkalommal bíróságon kívül, egyszerű panasz benyújtásával.

A törvénytervezet szerint a fejlesztők kötelesek biztonságos modelleket létrehozni: kiküszöbölni a diszkrimináció kockázatát, előre felmérni a lehetséges veszélyeket, dokumentálni a rendszer működését, és figyelmeztetni a felhasználókat az elfogadhatatlan alkalmazási módokra. Az ilyen rendszereket bevezető és használó üzemeltetőknek biztosítaniuk kell azok biztonságos működését, rendszeresen tesztelniük kell azokat, figyelemmel kell kísérniük az üzemzavarokat, és szükség esetén azonnal le kell állítaniuk a munkát, ha fennáll a veszélye a károkozásnak.

A szolgáltatóknak meg kell állapítaniuk a használat szabályait, meg kell akadályozniuk a technológia jogellenes használatát, és gondoskodniuk kell arról, hogy tájékoztassák a felhasználókat arról, hogy mesterséges intelligenciával lépnek kapcsolatba. Emellett korlátozásokat kell bevezetniük annak érdekében, hogy az ilyen szolgáltatások segítségével ne lehessen illegális tartalmat létrehozni.*

*Érdekes módon ezzel az egész szakasszal nincs a világon semmi baj, csodálkoztam is, aztán rájöttem, hogy szinte szó szerinti átvétel az Európai Unió digitális szolgáltatásokra vonatkozó törvényéből (DSA). Ja, krem, így könnyű.

Tartalom címkézése

Külön hangsúlyt kap az átláthatóság. Minden mesterséges intelligencia segítségével létrehozott tartalmat – szövegeket, képeket, hanganyagokat – külön címkével kell ellátni.

A nagy platformok (amelyeknek napi 100 000-nél több felhasználója van) kötelesek ellenőrizni az ilyen jelölések meglétét, és azok hiányában vagy hozzáadni a címkét, vagy eltávolítani az anyagot.

Szerzői jog

A mesterséges intelligencia segítségével létrehozott eredmények törvényi védelmet élvezhetnek, ha eredetiek.

Az ilyen anyagok felhasználásának szabályait azonban előzetesen felhasználói megállapodásokban kell meghatározni. A szerzői jogok megsértéséért a felelősség általában a felhasználót terheli.*

*Be kell ismernem, ez is rendben van, igaz, ez is EU-s átvétel.

Nemzetközi együttműködés

Oroszország tervezi a nemzetközi együttműködés fejlesztését a mesterséges intelligencia területén, részt kíván venni a szabványok kialakításában és saját technológiáit külföldön is népszerűsíteni kívánja.

Ugyanakkor fenntartja a határokon átnyúló technológiák és adatok feletti ellenőrzést: felhasználásuk korlátozható vagy betiltható.*

*Könnyen meglehet, hogy ez az utolsó mondat a törvény legfontosabb része. Attól nem kell tartani, hogy nagy tülekedés lenne a világpiacon az orosz MI-kért, de ha igaz a RIA Novosztyi értelmezése (amit egyenesen a Krmelből küldtek nekik, külön metodicskában) akkor ez a kitétel azt jelenti, hogy minden mesterséges intelligencia-rendszer „határokon átnyúlónak” minősül, amely a felhasználói adatokat külföldre továbbítja, és így nem csak betiltható, de betiltandó is. A korlátozás meg természetes. Nehogy már valaki megtudja, hogyan készül Oroszhonban mondjuk a válenki, a hagyományos paraszti nemezcsizma! Tehát nem használható se a ChatGPT, se a Claude, se a Gemini, se más, aminek a szervere külföldön van. Egyébként ez érdekes módon Magyarországon is így van a jelenlegi törvényke szerint, sőt, ígyebbül: elviekben nálunk is tilos minden olyan szoftver használata, amely a „felhasználó személyi adatait külföldre továbbítja”, magyarul, a saját, külföldi szerverén tárolja. Ezt elő szokták venni, amikor politikai okokból szükség van rá, de a gyakorlatban azt jelenti, hogy nem lenne szabad még böngészőket vagy Microsoft irodai alkalmazásokat, sőt, operációs rendszereket sem használnunk, mert azok sem helyben tárolják például a felhasználók jelszavait. Ez egy „politikai kiskapu”, amit akkor használ a kormányzat, amikor rosszban sántikál, ugyanis komolyan vehetetlen.

Az állam szerepe

Az elnök határozza meg a mesterséges intelligencia fejlesztési stratégiáját, a kormány támogatási intézkedéseket fogalmaz meg és szabályozza az iparágat, a szakosodott szervek pedig bevezetik a technológiákat az irányításba és ellenőrzik alkalmazásukat.*

*Az elnök határozza meg, mert az elnök tudja. Az elnök okosabb a pravoszláv Úristennél is, mert az csak mindent tud, Putyin mindent jobban tud.

Az infrastruktúra fejlesztése

A dokumentum támogatást nyújt az adatközpontok és szuperszámítógépek létrehozásához. Ösztönzőket, egyszerűsített eljárásokat és állami finanszírozást vezethet be számukra.

Októberben Vlagyimir Putyin azt mondta, hogy Oroszország csak „saját kultúrája, világnézete és hagyományos értékei alapján” lesz képes saját mesterséges intelligenciát létrehozni, és „nem másolhatja mások megoldásait, mert ez technológiai és világnézeti függőséghez vezetne”.

A törvénytervezet a neurális hálózatok több kategóriába sorolását és eltérő szabályozását javasolja. Az úgynevezett „szuverén” és „nemzeti” – vagyis az Oroszországban kifejlesztett – modellek állami támogatásban részesülnek majd. Ugyanakkor külön nyilvántartást hoznak létre a „megbízható” neurális hálózatokról: ezeket csak az FSZB ellenőrzése után lehet majd használni kormányzati rendszerekben és kritikus infrastruktúrában.*

*Most elképzeltem, ahogy a „megbízható” MI-t a Lubjanka pincéiben vallatják, és ha nincs vele sok baj, előléptethetik „nemzeti” MI-vé is, aminek az az előnye, hogy nem kell gondolkodnia. Elég, ha nemzeti.

Alekszandr Tyulkanov, a francia AFNOR szabványosítási szövetség mesterséges intelligencia-szabványosítási bizottságának tagja a Kommerszantnak kifejtette, hogy ez a megközelítés általában véve közel áll a nemzetközi gyakorlathoz: a kritikus területek esetében a különböző más országok is szigorúbb követelményeket vezetnek be a mesterséges intelligenciával szemben.

Az orosz modellt azonban a szigorúbb kormányzati szerepvállalás jellemzi. Az Európai Unióban a piacra jutás gyakrabban alapul önbevalláson vagy független szervezetek által végzett ellenőrzéseken, míg Oroszországban az állami tanúsítvány játssza a kulcsszerepet Ezen túlmenően a törvénytervezet az adatok és az infrastruktúra országon belüli kötelező lokalizálását irányozza elő az ilyen rendszerek közszférában történő használatához.

Tyulkanov azt is megjegyzi, hogy Oroszországgal ellentétben az Európai Unió területén a követelményeket műszaki szabványok alapján írják elő. Mint mondta:

„Értelmezésem szerint ez rossz, mert a technológia színvonalát legjobban a szakterület szakemberei ismerhetik. Ugyanakkor a legfontosabb azonban nem csak az MI-rendszerek külső behatásoktól való védelme, hanem a fogyasztók biztonsága is. Ez az európai megközelítés előnye.”*

*Ha valaki nem érti Tyulkanov elvtárs talányos szavait, azt nem csodálom, én is háromszor olvastam el az eredetit, míg rájöttem, hogy azt akarta üzenni, miszerint „srácok, az uniós módszer lenne az igazi, de ezt nem mondhatom ki így, egyenesen, mert szétrúgják a hátsómat.”

Jurij Boriszov, a Digital & Analogue Partners ügyvédi iroda tulajdonosa szerint a törvénytervezet jelenlegi változata komoly felülvizsgálatra szorul.

Megjegyzi, hogy ma a világon a mesterséges intelligencia szabályozásának három fő modellje létezik: az európai, az amerikai és a kínai, az orosz dokumentum pedig ezek kombinációja.

Így a kockázati szintek szerinti osztályozási rendszert és a tartalomcímkézésre vonatkozó követelményeket az európai megközelítésből kölcsönözték. Az amerikai megközelítés alapja az a törekvés, hogy a hazai piacot és technológiákat megvédjék a külföldi versenytől, ami a külföldi modellekre vonatkozó korlátozásokhoz vagy szigorú követelményekhez vezethet. A kínai modell a túlnyomórészt hazai megoldások fejlesztésének hangsúlyozásában nyilvánul meg. Ennek eredményeképpen a törvénytervezet a különböző, olykor egymásnak ellentmondó megközelítések kombinációjának tűnik, és valószínűleg a nagyobb összhang érdekében véglegesítés előtt át fogják fogalmazni.

A szakértők körében a legtöbb kérdést az az elképzelés veti fel, hogy az orosz mesterséges intelligencia-rendszereknek meg kell felelniük az olyan értékeknek, mint a hazafiság és a kegyelem. Mint mondta:

„Állítólag lesz FSZB által kiadott tanúsítvány is. És hogy a Cég miként fogja ellenőrizni, hogy a Neuronka hazafias vagy irgalmas-e, az egy nagyon bonyolult kérdés. Az ilyen absztrakt kategóriák ugyanis messze túlmutatnak a mesterséges intelligencia kontrollján.”

Elképzellek egy hazafiassági tesztet az FSZB-nél. Mit kell tudjon a fiktív „Neuronka” nevű MI? Kell tudjon vodkázni, énekelni, tangóharmonikázni, kazacsokot táncolni, sikkasztani, lopni, rabolni, állandóan boldogtalan kell legyen, főleg akkor, ha nincs miért, legyenek vallásos élményei és látomásai (jó, ezt megoldja hallucinációval), utálja a Nyugatot és az összes többi égtájat is, tisztelje egyaránt Sztálint és Radonyezsi Szent Szergejt, legyen tagja az Egységes Oroszországnak és legyen villája Olaszországban, dácsája Ó-Vaszjukiban, csájája a szamovárban.

De a legfontosabb feltételt kihagytam.

Az igazán nemzeti orosz mesterséges intelligencia nem készülhet egyébből, csak nyírfácskából!

Ha ezt is megoldják, elmondható lesz, hogy orosz földön még az MI is fafejű.

Szele Tamás