Szele Tamás: Ha elszabadul a hajóágyú

Váratlan területen közeledik egymáshoz az Egyesült Államok és Kína diplomáciája – mint a WIRED írja*, a mesterséges intelligencia katonai alkalmazásáról szeretnének egyezményt kötni, vagy legalábbis valamilyen koherens szabályozásban megállapodni.

Amikor Joe Biden amerikai elnök ezen a héten a San Franciscó-i öbölben találkozik kínai kollégájával, Hszi Csin-Pinggel, a politikusoknak sok megbeszélnivalója lesz, köztük az Izrael és a Hamász közötti háború és Oroszország folyamatban lévő ukrajnai inváziója.

Az APEC-csúcstalálkozó színfalai mögött azonban az amerikai illetékesek remélik, hogy párbeszédet kezdeményeznek Kínával a mesterséges intelligencia katonai felhasználását szabályozó védőkorlátok felállításáról, hogy végső soron csökkentsék a technológia gyors átvételéből – és meggondolatlan használatából – eredő potenciális kockázatokat.

„Közös érdekünk, hogy csökkentsük a megbízhatatlan mesterséges intelligencia-alkalmazások alkalmazásából eredő potenciális kockázatokat” a nem szándékos eszkaláció veszélye miatt – mondta egy magas rangú külügyminisztériumi illetékes, aki ismeri a kérdés felvetésére tett közelmúltbeli erőfeszítéseket, és aki névtelensége megőrzése mellett nyilatkozott. „Nagyon reméljük, hogy további tárgyalásokat folytathatunk Kínával erről a kérdésről”.

Biden és Xi e heti találkozója lendületet adhat a további katonai párbeszédnek. „Nagyon várjuk, hogy remélhetőleg egy pozitív hangulatú vezetői találkozóra kerül sor” – mondta a külügyminisztériumi tisztviselő. „Ebből a beszélgetésből igazán megérthetjük, hogy a lehetséges kétoldalú fegyverzetellenőrzési és non-proliferációs megbeszéléseink merre haladhatnak”.

Az Egyesült Államok már most is vezető szerepet játszik a katonai mesterséges intelligenciával kapcsolatos védőkorlátok nemzetközi megállapodásának kialakítására irányuló erőfeszítésekben. November 1-jén Kamala Harris alelnök bejelentette, hogy 30 nemzet egyetértett abban, hogy támogassák a katonai mesterséges intelligenciáról szóló nyilatkozatot, amely felszólít arra, hogy a technológiát a nemzetközi humanitárius joggal összhangban kell fejleszteni, a megbízhatóság és az átláthatóság javítását és az elfogultság csökkentését célzó elvek alkalmazásával, hogy a rendszerek kikapcsolhatók legyenek, ha „nem kívánt viselkedést” tanúsítanak.

Az Egyesült Államok lobbizott más nemzeteknél, hogy csatlakozzanak a nyilatkozathoz, és az ENSZ-ben is elindítja a katonai mesterséges intelligenciáról szóló nyilatkozat végrehajtását, amelyet már 45 másik nemzet is aláírt.

A nyilatkozat „előmozdítja a mesterséges intelligencia és a gépi autonómia felelős katonai felhasználására vonatkozó nemzetközi normákat, alapot teremt a közös megértés kialakításához, és közösséget hoz létre valamennyi állam számára a legjobb gyakorlatok megosztására” – mondta Sasha Baker, a védelmi minisztérium politikai ügyekért felelős helyettes államtitkára.

Az Egyesült Államok, Kína és az Európai Unió is indított már kezdeményezéseket a mesterséges intelligencia szabályozásának kialakítására. E hónap elején számos nemzet képviselői gyűltek össze az Egyesült Királyságban, hogy aláírjanak egy nyilatkozatot, amely a mesterséges intelligencia jelentette kockázatokra figyelmeztet. Ugyanakkor jelenleg minden nemzet, amely rendelkezik a szükséges erőforrásokkal, azon van, hogy a lehető leggyorsabban fejlessze a mesterséges intelligenciát.

A mesterséges intelligenciában rejlő katonai potenciál azonban a Kína és az Egyesült Államok közötti, egyre feszültebbé váló kapcsolat egyik fő vitás pontjává vált. Sok politikai döntéshozó úgy tekint a technológiára, mint az USA számára kulcsfontosságú eszközre, amellyel előnyre tehet szert riválisával szemben. Ez a potenciál az egyik fő oka annak, hogy az USA igyekszik korlátozni Kína hozzáférését a fejlett félvezetőkhöz, így meggátolva, hogy Kína katonai célokra használja fel a technológiát.

A mesterséges intelligencia katonai alkalmazását támogató politikusok azt is elismerik, hogy a technológia egy sor új kockázatot hordozhat magában, beleértve annak lehetőségét, hogy a mesterséges intelligencia használata növeli a bizalmatlanságot a potenciális ellenfelek között, vagy hogy a hibásan működő rendszerek az ellenségeskedések eszkalációját idézhetik elő.

„Kell legyen némi tere annak, hogy megvitassuk a mesterséges intelligencia használatát a gyilkos autonóm fegyverrendszerekkel kapcsolatban” – mondja Paul Triolo, az Albright Stonebridge Group stratégiai tanácsadó cég amerikai–kínai politikai kérdések szakértője.

Az emberek ellen irányuló, halált okozó autonóm fegyverek betiltására irányuló törekvések eddig megrekedtek az ENSZ-ben folytatott viták során, de egy ebben a hónapban bejelentett új határozat nagyobb lendületet adhat a korlátozásoknak.

Triolo szerint az USA-nak és Kínának először is meg kell állapodnia az ilyen fegyverek meghatározásában. Úgy véli azonban, hogy a megbeszéléseket elkerülhetetlenül megnehezítik az amerikai szankciók, amelyek közvetlenül Kína fejlett mesterséges intelligencia fejlesztésére irányuló képességét célozzák. Bármilyen tárgyalásnak „véleményem szerint szükségszerűen tartalmaznia kell a fejlett számítástechnikai hardverek amerikai ellenőrzéséről szóló megbeszéléseket” – mondta.

Andrew Reddie, a Berkeley Egyetem közpolitikai kutatóprofesszora, aki a feltörekvő katonai technológiákat tanulmányozza, úgy véli, hogy a mesterséges intelligenciával rendelkező fegyverek kockázatainak megfékezéséből származó közös előnyök leküzdhetik az USA és Kína közötti bizalmatlanságot. „A kockázatcsökkentésre irányuló együttműködésnek hosszú története van, amely mindkét ország érdekeit szolgálja egy megállapodásban” – mondja.

A South China Morning Post beszámolója szerint az USA és Kína arra használhatja fel az APEC-et, hogy bejelentsen valamilyen megállapodást a mesterséges intelligencia egyes katonai rendszerekben való alkalmazásának korlátozásáról. Reddie szerint egy ilyen megállapodás valószínűleg szimbolikus és nem kötelező erejű lenne, tekintettel a két fél közötti távolságra.

Még ha be is tiltják a gyilkos autonóm fegyvereket, a mesterséges intelligencia meggondolatlan használata a katonai rendszerek meghibásodását okozhatja. Az autonómiával rendelkező, olcsó drónok gyors alkalmazása az Ukrajnában harcoló erőknél rávilágított a technológia bomlasztó potenciáljára, és ez számos hadsereget, köztük az Egyesült Államokat is arra késztette, hogy újragondolja technológiai fókuszát.

Az amerikai és a kínai hadsereg csak nemrég kezdett újra tárgyalni egymással. Peking befagyasztotta a katonai tárgyalásokat, miután Nancy Pelosi ellátogatott Tajvanra, a demokratikus szigetországba, amelyet Kína elidegeníthetetlen részének tekint, és amely történetesen a világ legfejlettebb félvezetőgyártójának, a TSMC-nek is otthont ad.

Februárban, miután az USA lelőtt egy Észak-Amerikát átszelő kínai kémlelő léggömböt, a Pentagon közölte, hogy a védelmi miniszter, Lloyd Austin nem tudta elérni kínai kollégáját egy speciális forródróton keresztül.

A közelmúltban a Dél-kínai-tengeren történt incidensek rávilágítanak az amerikai és a kínai hadsereg közötti kommunikáció szükségességére. Októberben az amerikai védelmi minisztérium olyan videofelvételeket és képeket tett közzé, amelyeken állítása szerint kínai vadászgépek a térségben amerikai repülőgépek közelében hajtanak végre nem biztonságos manővereket. Ebben a hónapban a kínai védelmi minisztérium közzétette saját felvételeit arról, amit „egy amerikai hadihajó jogsértésének és provokációjának” nevezett a Dél-kínai-tengeren.

Rogier Creemers, a Leideni Egyetem adjunktusa, aki a kínai technológiapolitikát tanulmányozza, azt mondja, hogy a mesterséges intelligencia-rendszerek bonyolultabbá – vagy veszélyesebbé – tehetik az ilyen incidenseket. „Amit nem szeretnénk, az egy olyan automatizált döntési rendszer lenne, amely nem képes higgadtan és összeszedetten kezelni ezeket a dolgokat”.

Kína azonban jelezte, hogy hajlandó újraindítani a párbeszédet. Az októberi Xiangshan Fórumon Kínában Zhang Youxia, a kínai Központi Katonai Bizottság alelnöke azt mondta: „Elmélyítjük a stratégiai együttműködést és koordinációt Oroszországgal, és készek vagyunk a kölcsönös tisztelet, a békés egymás mellett élés és a mindenki számára előnyös együttműködés alapján fejleszteni a katonai kapcsolatokat az Egyesült Államokkal”.