Table of Contents
Igen, kérem, itt tartunk. Az ISIS támogatói mesterséges intelligenciát használnak a terrortámadásokról készült klipek generálására. A szakértők attól tartanak, hogy a technológia hatékonyabbá teszi az iszlamista propagandát – írja a Meduza a Washington Post nyomán.*
Négy nappal a moszkvai Crocus City Hallban elkövetett terrortámadás után a Wilayat Khorasan terrorcsoport közzétett egy videót a támadásról. A 92 másodperces videóban egy sisakot és terepszínű ruhát viselő műsorvezető elmagyarázta, hogy ami történt, az nem terrortámadás, hanem „az ISIS és az iszlám ellen harcoló államok között dühöngő háború normális csatái közé” tartozik. A SITE Intelligence Group nevű oknyomozó szervezet megállapította, hogy a „műsorvezető” figuráját valójában mesterséges intelligencia generálta, és maga a videó a News Harvest, egy mesterséges intelligencia által generált propagandaprogram része volt.
A mesterséges intelligencia lehetővé tette az iszlamisták számára, hogy gyorsan és olcsón generáljanak klipeket terrortámadásokról. A hagyományos hírműsorokhoz való hasonlóságuk miatt egyre nehezebb ezeket nyomon követni és blokkolni.
2024. március közepén az Iszlám Állam egy Al Kurdi 500 álnévre hallgató támogatója egy biztonságos messenger-csatornán próbálta megmagyarázni a hasonlóan gondolkodóknak, hogy a mesterséges intelligenciát propagandára kell használniuk. „Jó lenne, ha a testvérek klipeket készítenének a mindennapi eseményekről, a szöveges hírek és képek alternatívájaként” – állt a nyomozók által elért üzenetben. – „A média ugyanolyan fontos, ha nem fontosabb, mint a valódi háború – mivel nagyon erős hatással van az emberekre”. Al Kurdi azt javasolta, hogy a technológiát fel lehetne használni olyan tartalmak létrehozására, „mint az Al Jazeerához hasonló csatornáké”.
Egy héttel a bejelentés után terrortámadás történt Moszkvában, amelyben 145 ember meghalt és legalább 550-en megsebesültek. Az Iszlám Állam egy Hisad fedőnevű támogatója videót készített a támadásról, és március 26-án egy biztonságos üzenőalkalmazáson tette közzé. A Crocus City Hall elleni támadást követően az iszlamista támogatók összesen hat alkalommal tették közzé a News Harvest műsorszám hat kiadását, amelyekben az ISIS nigériai, kameruni, iraki, szíriai és nigériai tevékenységéről számoltak be. Mindegyik videót egy-egy logó és egy reklámszöveg kísérte. Minden videóban megjelent egy mesterséges intelligencia által generált, katonai vagy hivatalos hagyományos ruhába öltözött műsorvezető, aki az Iszlám Állam kiadványaiból olvasott fel részleteket. A beszédeket futó felirat és terrortámadásokat bemutató klipek kísérték.
Rita Katz, a SITE Intelligence Group vezetője szerint az ISIS számára a mesterséges intelligencia kifejlesztése „mindent megváltoztat”. „Most már van egy olyan eszközük, amellyel gyorsan kommunikálni tudják gyilkos támadásaikat a világ legtávolabbi pontjaira is” – magyarázta Katz a Washington Postnak adott interjújában – „Ha végrehajtanak egy nagyszabású támadást, de nem mondják el a történetet, akkor az eredményük értelmetlenné válik. A mesterséges intelligencia lehetővé teszi a terroristák számára, hogy rövid idő alatt annyi tartalmat hozzanak létre, amennyit csak akarnak”.
„Az Iszlám Állam már korábban is aktív online propagandát folytatott, és jó minőségű videókat tett közzé, hogy támogatókat toborozzon. A videók mesterséges intelligencia segítségével történő generálása lehetővé tette a terroristák számára, hogy kiterjesszék ezt a célcsoportot, jelentősen csökkentve a költségeket.” Ráadásul – magyarázta Katz – az MI által generált videók felkutatása és blokkolása hosszú időt vesz igénybe, mivel formátumuk a hírműsorokhoz hasonló. Az ilyen videókat a terrortámadást követő első napokban teszik közzé, és tovább maradnak elérhetőek, mint azok, amelyek nyílt erőszakot mutatnak be.
A mesterséges intelligencia által generált tartalmakat többnyire terroristák támogatói teszik közzé üzenetküldő és közösségi hálózatokon, például a Rocket.Chat, a Telegram és az X (korábban Twitter) segítségével. Stephen Stalinski, a Közel-Keleti Médiakutató Intézet (MEMRI) vezetője szerint a platformok rossz munkát végeznek az ilyen tartalmak ellenőrzésekor.Lais Machado Rocha, a Rocket.Chat PR-képviselője kifejtette, hogy az üzenetküldő egy nyílt forráskódú platform, amely nem tárolja az üzeneteket a szerverein, ezért nem is tudja törölni azokat. Rocha arról is biztosított, hogy az ISIS propagandavideók terjesztése a platform lehetőségeire való tekintettel az Iszlám Állam támogatói által szervezett „speciális illegális térre” korlátozódik. A Telegram és az X nem válaszolt a The Washington Post megkeresésére, hogy kommentálja az iszlamista tartalmakat.
A propagandavideókat az ISIS hivatalos közreműködése nélkül készítik. De a terrorszervezetek, köztük az al-Kaida is aktívan érdeklődnek az MI képességei iránt.
A mesterséges intelligencia felhasználásának egyik vitatott aspektusa a terroristák támogatói körében az arcgeneráló technológia, amely formálisan sérti az iszlám jelenlegi tilalmát, miszerint semmilyen élőlényt nem szabad ábrázolni. „Ne mutassatok rajzolt vagy animált arcokat, ez TILOS” – olvasható egy kommentben egy másik News Harvest videó alatt a zárt platformon. Ugyanez a felhasználó Hamed 123 álnév alatt kifejtette, hogy azok, akik más emberek, állatok és madarak képeit készítik, büntetést fognak kapni, amikor eljön Qiyamat, Isten ítéletének napja.
Hisad, a News Harvest videókat készítő felhasználó 2024 májusában reagált a kritikára. Elmondta, hogy megvitatta a helyzetet a sejkkel, és az megerősítette, hogy a mesterséges intelligenciával generált képek használata tilos. Hisad azóta elkezdte elmosni a műsorvezető arcát a videókban.
Stephen Stalinski, a MEMRI ügyvezető igazgatója újságíróknak elmondta, hogy a News Harvest az „Iszlám Állam” hivatalos részvétele nélkül készül. A szakértő azonban nem zárta ki annak lehetőségét, hogy a videók készítői a terrorszervezethez tartoznak. Stalinski szerint az ISIS valószínűleg a mesterséges intelligencia képességeit tanulmányozza, hogy megkönnyítse és felgyorsítsa a támogatók tájékoztatásának és toborzásának folyamatát. Április végén az Iszlám Államot támogató egyik médium együttműködést ajánlott fel azoknak, akik tudnak plakátokat készíteni, szövegeket írni, videókat szerkeszteni, értenek az Adobe Photoshophoz és a Premiere programhoz, és értenek az MI-technológiák használatához.
Idén februárban az al-Kaidához kötődő csoport bejelentette, hogy online tanfolyamokat indít a mesterséges intelligencia használatáról. A következő napon egy másik al-Kaida-szervezettel együtt közzétett egy 50 oldalas szöveget „Hihetetlen módszerek az MI chatbotok használatához” címmel, amely az OpenAI által kifejlesztett ChatGPT működésének alapjait magyarázta el. „A ChatGPT egy hatalmas eszköz” – állt a kézikönyv bevezetőjében, amelyhez a SITE Intelligence Group munkatársai is hozzáférhettek. – Lássuk, hogyan tudjuk használni".
A nyomozók egyelőre nem tudták pontosan meghatározni, hogy a propagandisták milyen technológiát használnak a News Harvest létrehozásához. Az ismert, hogy az ISIS néhány támogatója levelezésben javasolta az Eleven Labs által kifejlesztett hangklónozó program használatát. A vállalat nem válaszolt a The Washington Post megkeresésére, hogy kommentálja a termék esetleges felhasználását az Iszlám Állam propagandájához.
Nos, folytassuk a terroristák gondolatmenetét. Ha a média annyira fontos, sőt, esetleg fontosabb, mint a harc, akkor minek harcolni egyáltalán? Minek lövöldözni a koncertteremben, ha tökéletesen szimulálható a látvány, és a nézők elhiszik, hogy megtörtént a terrorakció? Hiszen ezek veszélyes dolgok, könnyen elkapják a kétkezi terroristát és még megetetik vele a saját fülét, amint ez legutóbb is történt. Vagy visszalőnek, vagy valami baleset történik, túl korán robban a bomba, csütörtököt mond a fegyver... Biztonságosabb is, olcsóbb is az MI-vel generáltatni a tervezett cselekményről egy videót, és hozzáfűzni: „De a hitetlenek hatóságai ezt titkolják és tagadják”.
És a végén az ISIS egy MI-felhasználó konteóbrigáddá változik. Hiszen nekik eddig sem az volt a fontos, hogy mi igaz és mi nem, az volt a fontos, hogy higgyenek (és adózzanak) nekik.
Persze, az már más kérdés, hogy Alláh mit szól ehhez. Ő ugyanis mindent lát. Igen, a videókat is.
*Сторонники ИГИЛ используют искусственный интеллект, чтобы генерировать ролики о терактах. Эксперты опасаются, что технологии делают исламистскую пропаганду более эффективной
