Table of Contents
A világ jelenlegi helyzetében talán a legveszélyesebb az, ha sikerül kombinálni a deepfake technológiát a mesterséges intelligencia lehetőségeivel. Mondanunk sem kell: már sor is került erre, bár nagy, komoly ügyekben még nem alkalmazták, a felhasználók valószínűleg még próbálgatják az oroszlánkörmeiket, azt, hogy mire képesek.
Mivel pedig ezek a felhasználók a Kínai Népköztársaságot támogató propagandára alkalmazták a csúcstechnológiát, elmondhatjuk: valószínűleg bármire. Az esetet a New York Times elemezte*.
Az történt ugyanis, hogy nagyon érdekes hír-videókat fedezett fel a Graphika nevű dezinformációt tanulmányozó kutatócég. Mint hírszerzési alelnökük, Jack Stubbs elmondta: „Ez volt az első alkalom, hogy ilyet a gyakorlatban láthattunk”. A Graphika talált rá a Kína-párti kampányra, amelynek célja a jelek szerint a Kínai Kommunista Párt érdekeinek előmozdítása és az Egyesült Államok háttérbe szorítása volt az angol anyanyelvű nézők számára.
Hogyan néztek ki a videók?
Az egyik felvételen egy tökéletesen fésült, sötét hajú és borostás szakállú híradós műsorvezető vázolta fel, hogy szerinte az Egyesült Államok szégyenletes módon nem lép fel a fegyveres erőszak ellen.
Egy másik videóban egy női hírbemondó Kína geopolitikai kapcsolatokban betöltött szerepét méltatta egy nemzetközi csúcstalálkozón.
De valami nem stimmelt. A hangjuk rekedt volt, és nem volt szinkronban a szájuk mozgásával. Az arcuk pixeles, videojáték-szerű volt, a hajuk pedig természetellenesen tapadt a fejükhöz. A feliratok tele voltak nyelvtani hibákkal.
A két műsorvezető, akik állítólag a Wolf News nevű hírcsatorna műsorvezetői, nem voltak valódi emberek. Számítógép által generált avatárok voltak, amelyeket egy mesterséges intelligencia szoftver hozott létre. A róluk készült videókat tavaly év végén Kína-barát bot-fiókok terjesztették a Facebookon és a Twitteren, és ez volt az első ismert eset, amikor a deepfake videotechnológiát fiktív emberek létrehozására használták egy államközi dezinformációs kampány részeként.
A közel egy évtizede folyamatosan fejlődő deepfake technológia képes beszélő digitális bábok létrehozására. Az M.I. szoftvert néha arra használják, hogy eltorzítsák a közszereplőket, mint például egy tavaly a közösségi médiában keringő videót, amelyen Volodimir Zelenszkij, Ukrajna elnöke kapitulációt jelentett volna be. A szoftver azonban képes arra is, hogy teljesen új karaktereket hozzon létre, túllépve a hagyományos szerkesztő szoftvereken és a Hollywood által használt drága speciális effektusokon, rendkívüli mértékben elmosva a tény és a fikció közötti határt.
A mostani időszak különben is alkalmasabb minden korábbinál a dezinformáció terjesztésére. Ennek különböző okai vannak, például a közösségi médiaiparban zajló létszámleépítések azt a tendenciát tükrözik, amely azzal fenyeget, hogy a platformok által a dezinformáció betiltása vagy visszaszorítása érdekében bevezetett számos biztosítékot semmissé tesz, például, mert elbocsátják a tényellenőrzöket, moderátorokat is.
Az Egyesült Államokban különösen kényes a helyzet, ugyanis most zajlik egy bírósági eljárás, melynek kimenetele dönti el, hogy az Első Alkotmánymódosítás megakadályozhatja-e a kormányzat erőfeszítéseit a dezinformáció elfojtására. Az Első Alkotmánymódosítás ugyanis kimondja: a Kongresszus nem hozhat olyan törvényt, amely korlátozná a vallásszabadságot, a szólás- és sajtószabadságot, a békés gyülekezéshez való jogot és a jogot arra, hogy a polgárok kérelmeikkel az államhoz fordulhassanak. Esetünkben a szólás- és sajtószabadságra hivatkoznak a dezinformáció védelmezői. Például Steve Bannon, akinek „War Room” című podcastjéről nagyszabású tanulmány mondta ki **, miszerint „több valótlanságot és megalapozatlan állítást tartalmazott, mint más politikai talk show-k.”
Most először mutattak ki mesterséges intelligencia által generált személyiségeket egy államilag támogatott dezinformációs kampányban, ami új fejezetet nyit az online manipulációban.
Mivel a technológia terjedését kevés törvény szabályozza, a dezinformáció szakértői már régóta figyelmeztetnek arra, hogy a deepfake videók még inkább csökkenthetik az emberek azon képességét, hogy megkülönböztessék a valóságot a hamisítványoktól az interneten, és ezzel bárki visszaélhet zavargások kirobbantása vagy politikai botrány keltése céljából. Ezek a jóslatok most válnak valóra.
Bár a deepfake használata a nemrégiben felfedezett Kína-barát dezinformációs kampányban nem volt célszerű vagy túlzottan eredményes, mégis új fejezetet nyit az információs hadviselésben. Az elmúlt hetekben egy másik, hasonló mesterséges intelligencia-technológiát alkalmazó videót fedeztek fel az interneten, amelyen kitalált, magukat amerikaiaknak valló emberek mutatkoznak, és Burkina Faso kormányának támogatását hirdetik, amelyet az Oroszországgal való kapcsolatai miatt vizsgálnak.
Az interneten könnyen megvásárolható M.I. szoftverek „percek alatt képesek videókat készíteni, és az előfizetések mindössze néhány dollárnál kezdődnek havonta” – mondta Stubbs. „Ez megkönnyíti a nagyipari tartalomgyártást”.
A Graphika a két hamisított Wolf News-műsorvezetőt a Synthesia által készített technológiához kötötte. Ez egy mesterséges intelligenciával foglalkozó cég, amely a londoni Oxford Circus egyik ruházati boltja felett működik. Az ötéves startup cég deepfake avatárok létrehozására alkalmas szoftvereket fejleszt. Az ügyfélnek csupán be kell gépelnie egy forgatókönyvet, amelyet aztán a Synthesia eszközeivel készült digitális színészek egyike felolvas. Az M.I.-avatárok a Synthesia szerint "digitális ikrek", amelyek a felbérelt színészek megjelenésén alapulnak, és képesek úgy beállítani őket, hogy akár 120 nyelven és sokféle akcentussal beszéljenek. Több mint 85 karakter közül lehet választani, különböző nemű, korú, etnikumú, hangszínű és divatú karakterek közül.
Az egyik, George nevű mesterséges intelligencia-karakter egy ősz hajú, veterán üzleti vezetőre hasonlít, aki kék blézert és galléros inget visel. Egy másik, Helia, hidzsábot hord. Carlo, egy másik avatár, keménykalapot, Samuel fehér laborköpenyt, amilyet az orvosok viselnek. (Az ügyfelek a Synthesia segítségével saját avatárokat is létrehozhatnak saját magukról vagy másokról, akik erre engedélyt adtak nekik.) A cég szoftverét az ügyfelek leginkább humánerőforrás- és képzési videókhoz használják, ahol elegendő a nem túl kifinomult minőség. A mindössze havi 30 dollárba kerülő szoftver percek alatt készít olyan videókat, amelyek egyébként több napig tartanának, és amelyekhez videós stábot és emberi szereplőket kellene felbérelni. Az egész folyamat „olyan egyszerű, mint egy e-mail megírása” – írja honlapján a Synthesia.
Victor Riparbelli, a Synthesia társalapítója és vezérigazgatója szerint azok, akik a Graphika által felfedezett avatárok létrehozására használták a technológiát, megsértették a szolgáltatási és felhasználási feltételeket. Ezek a feltételek kimondják, hogy a vállalat technológiája nem használható „politikai, szexuális, személyes, bűnügyi és diszkriminatív tartalmakra”. Riparbelli úr nem volt hajlandó információt megosztani a Wolf News videói mögött álló személyekről, de elmondta, hogy fiókjaikat felfüggesztették.
Riparbelli hozzátette, hogy a Synthesia egy négyfős csapatot alkalmaz annak megakadályozására, hogy a deepfake technológiáját tiltott tartalmak létrehozására használják, de azt mondta, hogy a félretájékoztatást és más olyan anyagokat, amelyek nem tartalmaznak nyílt gyűlöletbeszédet, szidalmakat, explicit szavakat és képeket, problematikus felderíteni.
„Nagyon nehéz megállapítani, hogy ez dezinformáció” – mondta, miután megmutatták neki a Wolf News egyik videóját. Elmondta, hogy „teljes felelősséget vállal mindenért, ami a platformon történik”, és felszólította a döntéshozókat, hogy határozzanak meg egyértelműbb szabályokat arra vonatkozóan, hogyan lehet használni az M.I.-eszközöket.
Riparbelli szerint a dezinformáció azonosítása csak még nehezebb lesz. Hozzátette, hogy a deepfake technológia végül elég kifinomulttá válik ahhoz, hogy „egy laptopon egy hollywoodi filmet építsenek fel anélkül, hogy bármi másra szükség lenne”.
A Graphika a Synthesiát úgy kapcsolta a Kína-barát dezinformációs kampányhoz, hogy a Wolf News két avatárját más ártalmatlan online oktatóvideókban is megtalálta, amelyekben ugyanazok a karakterek szerepelnek. A Synthesia a weboldalán a két avatárt „Anna” és „Jason” névvel illette.
Lássunk csodát: Anna másodszor is feltűnt, a Burkina Faso kormányát támogató kampányban. „Maradjunk mindannyian a burkinai nép mögött ebben a közös küzdelemben.” – mondta monoton robothangon. „Haza vagy halál, győzni fogunk”.
A deepfake videók évek óta szaporodnak. Kendrick Lamar tavaly egy klipben arra használta a technológiát, hogy Kanye West, Will Smith és Kobe Bryant bőrébe bújjon. A pornográf weboldalakat bírálatok érték, amiért olyan videókat mutattak be, amelyekben híres színésznők képmásának tiltott utánzására használták a technológiát.
Kínában a mesterséges intelligenciával foglalkozó vállalatok több mint öt éve fejlesztenek deepfake eszközöket. A kínai, részben állami tulajdonú iFlytek cég 2017-ben egy konferencián egy reklámfogás keretében deepfake videót készített az akkori amerikai elnökről, Donald J. Trumpról, amint mandarinul beszél. Az iFlytek azóta felkerült egy amerikai feketelistára, amely nemzetbiztonsági okokból korlátozza az amerikai gyártású technológia értékesítését.
Visszatérve a mostani ügyhöz: a Meta, a Facebook, az Instagram és a WhatsApp tulajdonosa azt mondta a The New York Times megkeresésére, hogy legalább egy, a Kína-barát deepfake videókhoz kapcsolódó fiókot törölt. A további nyilatkozatot elutasító cég nem engedélyezi a félrevezetési szándékkal manipulált videókat és más médiát. A Twitter nem válaszolt a tárgyra vonatkozó megkeresésekre.
A Graphika elmondta, hogy a „spamouflage” néven ismert Kína-barát félretájékoztatási kampányhoz kapcsolódó közösségi média-fiókok követése során fedezte fel a deepfake videókat. Ezekben a kampányokban a politikai spam-fiókok tartalmakat helyeznek el az interneten, majd egy hálózat részét képező más fiókokat használnak fel az anyagok platformokon keresztüli terjesztésére.
A kutatók szerint a deepfake technológia használata sokkal figyelemreméltóbb volt, mint a videók tényleges hatása, amelyeket nem sokan láttak. Az úgynevezett Wolf News műsorvezetőit bemutató két videót a Graphika szerint november 22. és november 30. között öt fiók legalább ötször posztolta. A posztokat aztán legalább két további fiók osztotta meg újra, amelyek úgy tűntek, hogy egy Kína-barát hálózat részei.
Stubbs szerint a dezinformáció terjesztői továbbra is kísérleteznek az MI-szoftverekkel, hogy egyre meggyőzőbb médiát állítsanak elő, amelyet nehéz felderíteni és ellenőrizni.
„Amit ma látunk, az egy újabb jele a közelgő, sötét jövőnek” – mondta.
Ehhez csak annyit lehet hozzátenni, hogy ha létezik valami, ami egy nukleáris világháborúnál is biztosabban képes lenne elpusztítani a teljes emberi civilizációt, az az igazság és a hazugság, a tények és a vélemények közötti különbség eltűnése volna.
Az mindennel és mindenkivel végezne. Csak nem olyan rövid idő alatt, mint a nukleáris fegyverek.
De sokkal kínosabban.
Itt az ideje a legfejlettebb technológiák használatát, lehetőségeit megvizsgálni és alaposan szabályozni.
*The People Onscreen Are Fake. The Disinformation Is Real.
**Steve Bannon’s Podcast Is Top Misinformation Spreader, Study Says
