„Nincs rá garancia, hogy a kormányok betartsák a játékszabályokat”

Az augusztus 5-7. között Esztergomban zajló MCC Feszt vendége lesz az új-zélandi Abishur Prakash geopolitikai jövőkutató, akit többek között a mesterséges intelligencia társadalomban betöltött szerepéről, a várható geopolitikai változásokról és a Magyarországot is érintő Pegasus lehallgatási botrányról is kérdeztünk.

Kezdjük az elején. Mivel foglalkozik egy geopolitikai jövőkutató?

A geopolitika azt vizsgálja, hogyan vetélkednek egymással a különböző államok a hatalomért, a világ irányításáért. Az elmúlt hetven évben ezt a vetélkedést olyan kézzelfogható tényezők befolyásolták, mint például a kőolajhoz és a földgázhoz való hozzáférés, az anyagi helyzet, illetve a katonai erő. Ma már azonban egy új világban élünk, amelyhez ennek megfelelően kell viszonyulnunk. Ezt én új geopolitikának (next geopolitics) nevezem, ugyanis az előttünk álló időszakot már nem az említett tényezők határozzák majd meg, hanem olyan techonlógiák, mint például a mesterséges intelligencia, a génszerkesztés (CRISPR), a blockchain, a virtuális valóság és más hasonlók. Napjainkban ezek határozzák meg a geopolitika alakulását, az egyes kormányok pedig még csak most ismerkednek ezekkel, most kezdik használni ezeket, hogy a globális lábnyomukat újra felépítsék és más országokat befolyásoljanak ezáltal. Ennek következtében át fognak alakulni az egyes országok közti partneri megállapodások, megváltozik majd a gazdaság szerkezete is.

A világ most lépett be ebbe az új korszakba, amely az előre látható jövőt meghatározza majd, így egyelőre nem látjuk, meddig tarthat ez a korszak, amelynek már most láthatjuk az első jeleit: gondoljunk bele, napjainkban például az olyan cégek helyzete, mint a TikTok vagy a Huawei nem egyszerű technológiai vagy gazdasági újdonság, hanem bizony geopolitikai kérdés is.

Geopolitikai jövőkutatóként részben azzal foglalkozom, hogy a technológia hogyan alakítja át a geopolitikát, ugyanakkor cégeknek, kormányoknak és különféle intézményeknek segítek, hogy eligazodjanak ebben az új világban és stratégiát tudjanak építeni a közeli jövőhöz. Ez persze igényel némi tanulást, hiszen nem mindenki látja át, hogy mi áll előttünk: egy új világtérkép rajzolódik ki a szemünk láttára, én pedig igyekszem ezt a térképet megmutatni mindenkinek.

Sok olyan új technológiát említett, amivel már a harmincas-negyvenes korosztály sincs igazán tisztában. Az országokat irányító politikusok pedig jellemzően az ennél is idősebb korosztályból kerülnek ki. Hogyan lehet számukra felismerhetővé tenni az új technológiában rejlő lehetőségeket?

Ez egy nagyon fontos kérdés, ami egyből rávilágít egy paradoxonra is. A mostani fiatalabb generációk is meg fognak öregedni és pontosan ugyanezzel a dilemmával kell majd szembenézniük, hogy hogyan tudják tartani a lépést az új fejlesztésekkel. Ha egy ország vagy egy cég vezetőjének megvan a kellő víziója, akkor időben nekiáll tanulni és átképezni saját magát, hogy az új geopolitika mesterévé válhasson. Ennek egy része az, hogy ezek a vezetők tudják, hogy léteznek hozzám hasonló emberek, akiknek érdemes elolvasni a könyveit és együtt dolgozni velük. Ezen felül viszont kulcsfontosságú, hogy az új technológiákat megfelelő prioritásként kezeljék. Ha ezt megteszik, sokkal nagyobb figyelmet fognak fordítani rá.

Az igazat megvallva azonban nincs egyszerű, könnyű válasz erre a kérdésre, mert egy idősebb embert már sokkal nehezebb rávenni, hogy visszaüljön az iskolapadba. A tapasztalataim szerint a lényeg, hogy nyitottak legyünk az újdonságokra. Ha valaki erre nem hajlandó, ha valaki még mindig ott van megrekedve, hogy a nyugati országok vezetik a világot, és nem is hajlandó ezen a nézetén változtatni, azt a világon semmilyen könyv nem fogja meggyőzni az ellenkezőjéről. Azok a vezetők lehetnek az új geopolitika mesterei, akik elfogadják, hogy a világ épp alapjaiban változik meg körülöttünk. Az a világ, amiben a mi korosztályunk felnőtt, gyors ütemben tűnik el, a helyét pedig valami ismeretlen veszi át. Ezt az ismeretlent azonban csak úgy ismerhetjük meg, ha tanulmányozzuk, ha közel vagyunk hozzá és behatóan foglalkozunk vele.

Milyen hibákat követhetnek el a vezetők az új geopolitikai helyzetet illetően?

Ahhoz, hogy erre a kérdésre válaszolni tudják, vissza kell mennem az időben 2013-ig, amikor megalkottam az új geopolitika kifejezést. Valószínűleg én voltam akkor az egyetlen a világon, aki a technológia geopolitikájáról beszélt. Ebben az időben, ha valakinek azt mondtam, hogy a mesterséges intelligencia fogja átalakítani a geopolitikát, általában szemforgatás volt a válasz. Tény, hogy abban az időben nagyon sok minden történt a geopolitikai színtéren, a Krím orosz annektálásától Szíriáig, ezért nem igazán foglalkoztak azzal, hogy a technológiának milyen fontossá kezd válni a szerepe.

Amikor 2016-ban megírtam az első könyvemet, az első fejezet az embrionális geopolitikáról szólt, amelyben a génszerkesztéssel és a „designer” babákkal foglalkoztam. Ekkor is sokan forgatták a szemüket, először talán 2017-18 környékén kezdték az emberek felismerni, hogy valami tényleg történik ezen a téren. Ekkor kezdték meglátni, hogy például Kínában valami olyasmi zajlik, ami át fogja alakítani a geopolitikai erőviszonyokat. Ezzel pedig csak annyit szeretnék mondani, hogy sok politikai és üzleti vezető egyszerűen nem látta, hogy milyen fontos változások jönnek, míg mostanra pedig már tagadhatatlan a változás.

Ma már ritkán találkozom olyanokkal, akik tagadnák a technológia geopolitikai szerepét, inkább olyan vezetőket látok, akik még mindig a régi világ szemüvegén át nézik a geopolitikát és azt feltételezik, hogy még mindig a nyugaté a vezető szerep ezen a téren. Ezzel kapcsolatban eszembe jut az Európai Unió, amely bejelentette, hogy globális etikai ajánlásokat fog megfogalmazni a mesterséges intelligencia használatát illetően. Ezen sokat vakartam a fejemet, mert csak az jutott eszembe, hogy miért akarná bárki is követni ezeket az ajánlásokat? Milyen motivációja lenne például Japánnak, az Egyesült Arab Emírségeknek vagy mondjuk Brazíliának, hogy az EU etikai normáit kövesse? A XX. században ez még nem így volt, amit az EU és az USA csinált, azt követte a világ nagy része is. Ez a logika pedig még mindig sok fejben megvan.

A legsúlyosabb hiba, amit egy ország vezetői elkövethetnek, ha nem ismerik fel, hogy a technológia új típusú függetlenséget nyújt az egyes országoknak, amelyek így olyan dolgokra lehetnek képesek, amire korábban soha. A „hagyományos” geopolitikai berendezkedés úgy nézett ki, hogy egy maroknyi ország diktálta a világnak a feltételeket. Ma ez már nem így van, és ez az, amit igyekszem megértetni a politikai és üzleti vezetőkkel.

A weboldalán látható bemutatkozó videójában úgy fogalmaz, hogy a technológia minden kormányt és intézményt felforgat majd. Milyen változásokra kell készülniük?

Rengeteg terület fog gyökeresen átalakulni. Kezdjük a katonai védekezés témájával. Tavaly februárban jelent meg a legújabb könyvem, a Gyilkos robotok kora (The Age of Killer Robots). Amikor 2019-ben a Budapesti Eurázsia Fórumon adtam elő, azzal kezdtem a beszédemet, hogy mindenki képzelje el, hogy önvezető drónok egy raja önállósítja magát és külső beavatkozás nélkül, maguktól kezdenek különféle célpontokra lőni. Néma csend volt a nézőtéren, erre a kezdésre valószínűleg senki sem számított.

Ezután azonban néhány hónappal, 2020 márciusában arról számolt be a sajtó, hogy Líbiában autonóm drónok utasítás nélkül fordultak emberi célpontok ellen. Gondoljuk ezt végig egy kicsit: 2019-ben említettem ezt először és alig fél évvel később – állítólag – megtörtént. Képzeljük el ezután, hogy mit lép erre az ENSZ, amely egy olyan korban jött létre, amikor a diplomácia száz százalékban emberek között zajlott. Az egyik ország diplomatája beszélt a másik ország diplomatájával, ezek a beszélgetések döntötték el, hogyan alakul a két ország kapcsolata. Most azonban, a csúcstechnológiának köszönhetően a mesterséges intelligenciák olyan döntéseket hoznak, amire senki sem számított, az ENSZ pedig már nincs vezető pozícióban, csupán reagálni tud a hasonló esetekre. Ez pedig csupán egyetlen példa volt, képzeljük el ugyanezt, csak épp a Koreai-félszigeten. Tegyük fel, hogy egy dél-koreai autonóm drón átlőne a határon, milyen következményei lennének ennek? Észak-Koreát valószínűleg nem érdekelné a magyarázat, hogy nem is ember lőtt, hanem egy algoritmus, egyértelmű háborús cselekményként értékelnék az esetet.

Mondok egy másik példát is: írtam egy véleménycikket a Scientific American számára az algoritmus-alapú külpolitikáról. Kína már most is használ egy ilyen mesterséges intelligenciát, amely óriási mennyiségű adatot elemez, a közösségi médiától kezdve a hírszerzési információkig. Ezek alapján pedig külpolitikai ajánlásokat tesz a világszerte tevékenykedő kínai diplomaták számára. Csak gondoljunk bele, hogy mit jelent ez egy olyan szervezet számára, mint az ENSZ. Korábban relevánsak voltak, mert az összes ország rájuk volt utalva. Most azonban már a technológia segítségével hoznak döntéseket, és nem függenek az ENSZ-től, amelynek így befolyása sem lesz felettük. Ez pedig csak egyetlen példa, hogy a hasonló intézményeknek mire kell felkészülnie.

Ami pedig a többi országot illeti, a kínai példánál maradva: vajon mit szól az amerikai kormány, ha látja, hogy Kínában mesterséges intelligencia hozza a geopolitikai döntéseket? Hogyan tudja Washington innentől prognosztizálni, hogy mit fognak lépni a kínaiak?

Ez azt jelenti, hogy akkor a jövőben számíthatunk egyfajta „fegyverkezési versenyre”, ami a mesterséges intelligencia használatát illeti?

Így van, sőt, az USA már most is használ ilyen rendszereket. A CIA például kifejlesztett egy olyan mesterséges intelligenciát, amely 3-5 nappal előre tudja jelezni, hogy ha valahol felkelés fog kitörni. Persze, ez egy másmilyen rendszer, hiszen a kínai mesterséges intelligencia külpolitikai ötleteket ad. Azonban gondoljunk bele, hogy milyen hatása lehet, ha az USA megpróbálja előre kitalálni, hogy milyen események történnek majd világszinten. Képzeljük el, hogyan változik meg a külpolitika, ha az határozza meg a döntéseket, hogy egy másik ország mit csinálhat a jövőben? Ha pedig egy országnak megvannak erre a képességei, a többi ország is hasonló fejlesztésekbe fog fogni.

Egyébként nem rajongok túlzottan az olyan kifejezésekért, mint a fegyverkezési verseny vagy a hidegháború, mert ezek általában olyan elemző cégek és központok (think tank) szóhasználatát idézik, amelyek nem igazán értik a technológia geopolitikai vonatkozásait. Eleve, a hidegháború kifejezés, amikor technológiai hidegháborúról beszélnek, nagyon nem helytálló. Ugyanis, amikor hidegháborút emlegetünk, akkor úgy vesszük, mintha most is ugyanazok a változók befolyásolnák az eseményeket. Márpedig ma már Kína egyáltalán nincs annyira lemaradva a szuperhatalmaktól, sőt. Egy teljesen új konfliktusnak vagyunk a szemtanúi. Ha pedig olyan cégeket kérdezünk, mint a Huawei vagy a TikTok – vagy azok felhasználóit – számukra egyáltalán nem hidegháborúról van szó. Amikor Indiában betiltották a TikTokot, rengeteg ember érezte a bőrén, akik üzletet építettek rá, vagy oktatási anyagokat osztanak meg a követőikkel.

A mesterséges intelligenciákkal kapcsolatban az egyik fontos kérdés, hogy mennyire részrehajló egy ilyen rendszer, mennyi előítélet (AI bias) kerül bele az azt fejlesztő embereken keresztül?

Ez egy nagyon fontos kérdés, mivel az egyik legijesztőbb hiba, amit egy mesterséges intelligencia elkövethet, az az, hogy megtámad egy másik országot, ezzel háborút kirobbantva. Ezzel a témával behatóan foglalkoztam a Gyilkos robotok kora című könyvemben. Olyan kérdésekre kell választ találnunk, hogy mi történik, ha egy mesterséges intelligencia hibázik, ha egy autonóm fegyverrendszer hibázik. Mi alapján dönthetik el a kormányok, hogy valóban technikai hibáról van szó, vagy a rendszert vezérlő algoritmusba került bele valamilyen geopolitikai részrehajlás? Az igazság pedig az, hogy egyelőre nincs erre válaszunk. Ha az Indiai-óceán mélyén egy kínai önvezető tengeralattjáró megtámad egy indiai önvezető tengeralattjárót, India ezt hadüzenetként fogja értékelni, hiába akarja Kína bizonygatni, hogy csak a mesterséges intelligenciájuk tévedett. Azaz, egyelőre nincs „bolondbiztos” megoldás a világ megvédésére.

Ezzel kapcsolatban két javaslatot tettem, persze kérdés, hogy ez mennyire megvalósítható. Az első, hogy szükség lenne egyfajta globális „központi agyra”, amely összekötné ezeket az autonóm fegyverrendszereket, hogy azok jobban megértsék egymás szándékait. Például, tegyük fel, hogy az egyiptomi-líbiai határon találkoznak a két ország autonóm tankjai. Ilyenkor a központi agyon keresztül „megbeszélhetnék”, hogy mit keresnek ott. Például, az egyiptomiak mondhatják, hogy egy veszélyes terroristát kergetnek, míg a líbiaiak hadgyakorlaton vesznek részt. Ilyenkor pedig a rendszer kijelölhetne egyfajta biztonsági zónát, hogy elkerülje az azonnali konfliktust.

A másik javaslatom, hogy ezekbe a rendszerekbe valamilyen szintű átjárhatóságot, kompatibilitást is kellene tervezni. Gondoljunk csak bele: ma már alig van valakinél otthon DVD-lejátszó. Nekem is van egy csomó DVD-lemezem, de lejátszóm már nincs hozzá. Ugyanígy, vannak még régi VHS videokazettáim, de nem tudom mivel lejátszani azokat. Ugyanígy, elképzelhető, hogy egy most tervezett, mesterséges intelligenciát használó fegyverrendszer nem lesz majd kompatibilis egy olyannal, amit 10-15 év múlva fejlesztenek ki. Az amerikai védelmi minisztérium például egy olyan projekten dolgozik, hogy önjáró drónokat telepítene az óceánok mélyére, hogy szükség esetén bármikor be tudja vetni azokat. Elképzelhető, hogy ezek a drónok éveken, évtizedeken át lapulnak a tenger mélyén, aztán egyszer csak, valamikor 2030 után aktiválódnak. Hogyan fognak ezek a drónok kommunikálni a holnap rendszereivel? Ezért van szükség az átjárhatóságra, hogy elkerüljük a rossz döntésekből fakadó tragikus baleseteket.

Vannak, akik úgy, ahogy van, betiltanák az autonóm fegyverrendszereket, gyilkos robotokat, ez jelenthet megoldást a hasonló problémákra?

Számomra ez az ötlet egy tündérmese, kíváncsi vagyok, hogy vajon azok, akik ezt mondják, ugyanabban a világban élnek-e, mint mi? Abban a pillanatban, hogy az USA kifejleszti az autonóm fegyvereit, Oroszország egyből reagálni fog erre, amire reagál majd Kína, amire reagál India, amire Pakisztán, amire Izrael, amire Irán… Egyik ország sem akar majd gyenge pozícióban lenni, emiatt nem is tartom reálisnak a gyilkos robotok betiltását.

Beszéljünk egy kicsit a személyes adataink védelméről! Bizonyára ön is hallott a Pegasus-botrányról, amely rávilágított, hogy több ország – köztük Magyarország – kormánya egy izraeli hírszerzési szoftvert, a Pegasust vetette be, többek között olyan újságírók és üzletemberek megfigyelésére, akik nem a kormányzati propagandát fújják. Bár a magyar kormány szerint semmiféle illegális megfigyelésre nem került sor, a kérdés ettől még fennáll: mit tehetünk az egyre jobban digitalizálódó életünk megfigyelése ellen?

Mostanáig egy olyan világban éltünk, amikor a rólunk begyűjtött adatokkal kapcsolatban azon aggódhattunk, hogy a közösségi médiacégek kinek adják el az adatainkat. Persze már ez is problémás dolog, amivel foglalkoznunk kell, azonban ennek ellenére tudtuk élni az életünket. Viszont éppen most lépünk át egy olyan világba, amikor már a rólunk begyűjtött adatok határozzák majd meg, hogy hogyan élhetünk. Ennek a legszélsőségesebb példája a Kínában bevezetett társadalmi kreditrendszer. Erre persze sokan csak legyintenek, hogy jó, de az Kínában van, bezzeg a demokráciákban nincs ilyesmi. Nos, nézzük meg Nagy-Britanniát: Bristol városában is bevezettek egyfajta társadalmi kreditrendszert, ami alapján megpróbálják kitalálni, hogy melyik állampolgárok lesznek bűnelkövetők, vagy épp kiből lesz alkoholista, aki ezzel meg fogja terhelni az egészségügyi rendszert.

Új-Zélandon is működik hasonló rendszer, a bevándorlók ellenőrzésére: egy algoritmus segítségével próbálják prognosztizálni, hogy kiből lesz a társadalom hasznos tagja, és kiből nem, majd ez alapján döntik el, hogy kinek hosszabbítják meg a vízumát vagy a letelepedési engedélyét. Ezek a példák mind afelé mutatnak, hogy a rólunk begyűjthető adatok nagyon komoly, nagyon személyes módon befolyásolják majd, hogyan élhetjük az életünket.

Ott van emellett az arcfelismerő technológia kérdése is, amellyel kapcsolatban rengeteg a félelem és sok olyan hangot lehet hallani, hogy a technológia alkalmazását bizonyos esetekben be kellene tiltani. Eközben azonban elfelejtjük, hogy a világ legerősebb arcfelismerő rendszere ott van a zsebünkben: a telefonunk. Simán elképzelhető, hogy például a LinkedIn bevezet egy újítást, hogy elég csak körbenézni a kameránkkal az utcán, hogy találjunk egy könyvelőt, vagy ügyvédet, vagy például újságírót. Ezzel mit tudunk tenni? Milyen adatvédelmi jogaink lennének ilyen esetben vagy mit tudunk tenni, ha nem akarjuk, hogy ránk találjanak?

Ijesztő lehetőség. Mi a válasz a kérdésekre, mit tehetnek a hétköznapi emberek?

„Az okostelefonunk birtokol minket, és nem mi az okostelefonunkat”

Az a helyzet, hogy egy modern társadalomban élünk. Egyre komplexebb technológiák lépnek be az életünkbe, ráadásul, itt vagyunk a transzhumanizmus kapujában is: a bionikus testrészek és a kibernetikus implantátumok kora jön. Azonban a technológia ilyen szintű integrációjának ára van: az ilyesmit fejlesztő cégekkel egyre szorosabb, szinte már intim viszonyunk lesz. Ez persze nem jelenti azt, hogy megengedhetnénk a technológiai cégeknek, hogy szabadon garázdálkodjanak. Tehát nem is az a kérdés, hogy megfelelő törvényi kereteket kell ehhez kidolgozni, sokkal inkább az, hogyan lehet betartani ezeket a törvényeket.

Jelenleg, a legtöbb, amit tehetünk, hogy régebbi telefont használunk, nem okostelefont. Azonban, ha úgy akarunk élni, ahogy mindenki más, akkor sajnos más megoldásunk nem igazán van. Nem azt mondom, hogy ez így rendben van, vagy ezen nem kéne változtatni, pusztán megállapítom, hogy a jelenlegi status quo szerint a kormányok adatokat gyűjtenek, embereket figyelnek meg és monitorozzák az internetes adatforgalmunkat.

Ez ha lehet, még ijesztőbben hangzik, hiszen, ha ez a status quo, akkor hogyan lehet garantálni, hogy egy jövőbeni választás szabad és igazságos legyen?

Ha nem változik a jogi környezet, ha nem vezetünk be új szabályokat a megfigyeléssel kapcsolatban, akkor sehogy. Ráadásul, nincs rá garancia, hogy a kormányok betartsák a játékszabályokat. Ugyanakkor, a technológia megoldást is hozhat erre, például egy blockchain-alapú választási rendszerben sokkal nehezebb lenne választási csalást elkövetni. De ott van például a mesterséges intelligenciák politikai felhasználásának a lehetősége is. Ráadásul, erre már van precedens is: egy tokiói helyhatósági választáson egy mesterséges intelligencia a harmadik helyet érte el – körülbelül 4000 szavazatot kapott. Bármilyen őrülten is hangzik, egyre világosabbá válik, hogy az embereknek világszerte elege van a politikusokból, ezért, ahogy a legfiatalabb generáció eléri a szavazókort, előfordulhat, hogy azt mondják, oké, szavazzunk inkább egy algoritmusra, amelynek nincsenek érzelmei. Ez pedig tovább fogja bonyolítani a helyzetet.

Forrás: nlc.hu