Table of Contents
Szegény Moshe Yatom, aki 2010. június 8-án született egy kétes hírű weboldalon és 2023. november 6-án már el is hunyt egy másikon... alig kezdett volna kamaszodni, már öngyilkos is lett. Tette mindezt elismert, tekintélyes izraeli pszichiáterként, mármint tette volna, ha egyáltalán valaha is élt volna, de szerencsére sosem jött a világra ez a csodalény.
Az esetre az újságírás tisztaságát felügyelő NewsGuard figyelt fel*. Úgy tűnik, hogy egy mesterséges intelligencia által generált hírportál a forrása annak a hamis állításnak, miszerint Benjamin Netanjahu izraeli miniszterelnök állítólagos pszichiátere öngyilkos lett – ezzel is bizonyítva, hogy a generatív mesterséges intelligencia eszközeit a jelek szerint már most is használják a rosszakaratú szervezetek a félretájékoztatás terjesztésére.
A hamis állítás a jelek szerint november 6-án a Global Village Space nevű, magát pakisztáni híroldalnak feltüntető weboldalról származik. Az „Öngyilkos lett az izraeli miniszterelnök pszichiátere” címet viselő cikk azt állította, hogy „Dr. Moshe Yatomot, a súlyos mentális betegségek gyógyításában végzett munkájáért ünnepelt neves izraeli pszichiátert holtan találták tel-avivi otthonában”. A cikk azt is állította, hogy Yatom „megrázó búcsúlevelet hagyott hátra, amely Netanjahura nézve terhelő”. Ez az állítás gyorsan elterjedt számos platformon, számos nyelven, többek között a közösségi média több ezer felhasználójának megosztásai révén.
A NewsGuard keresése viszont nem azonosított egyetlen Moshe Yatom nevű pszichiátert sem Izraelben, vagy bárkit, akinek a neve hasonlít ahhoz, akiről azt állították, hogy nemrég halt meg. A Global Village Space úgy tűnik, hogy a háború iránti érdeklődést kihasználva a mesterséges intelligencia segítségével írt át egy szatirikus cikket Netanjahuról.
Úgy tűnik, hogy a Global Village Space cikkének forrása egy 2010. június 8-i szatirikus írás volt a Legalienate nevű, magát „hírek, kommentárok és szatíra” témakörűnek valló honlapon. A cikkek jelentős hasonlóságokat tartalmaztak, és a Global Village Space már korábban is használt mesterséges intelligenciát más forrásokból származó tartalmak generálására. 2023 augusztusában a NewsGuard megállapította, hogy a GlobalVillageSpace.com egyike volt annak a 37 oldalnak, amelyek mesterséges intelligenciát használnak arra, hogy hitelesítés nélkül írjanak át tartalmakat olyan főáramú hírforrásokból, mint például a The New York Times.
A NewsGuard 2023 májusában azonosította először a Global Village Space-t, mint mesterséges intelligencia által generált webhelyet. Ez egy példa arra, hogy a NewsGuard szerint ez a honlap a sok megbízhatatlan mesterséges intelligenciával generált híroldal (Unreliable AI-Generated News Sites, UAINS) közé tartozik, amelyek túlnyomórészt mesterséges intelligencia által előállított híreket tesznek közzé, minimális emberi szerkesztői felügyelet mellett és anélkül, hogy ezt a gyakorlatot átlátható módon felfednék az olvasók előtt. Amint azt a NewsGuard MI nyomkövetője is megjegyzi, az UAINS-ek rendszeresen új tartalomként állítanak be régi anyagokat.
A Global Village Space MI által generált írása nagy részletességgel foglalkozott az „öngyilkossággal”, annak ellenére, hogy a hír teljes mértékben koholt. Az MI által írt cikk azt állította, hogy a búcsúlevél „komor képet festett egy olyan emberről, aki kilenc éven át próbált behatolni Netanjahu rejtélyes elméjébe, de csak azt érte el, hogy vereséget szenvedjen attól, amit ő „hazugságok áradatának” nevezett”. A „Sokkoló naplóbejegyzések” című bekezdésben a cikk azt állította, hogy az orvos azt írta, miszerint „Netanjahu egyenlőségjelet tett Irán és a náci Németország közé, és odáig ment, hogy Irán atomenergiaprogramját „repülő gázkamrának” titulálta”. Az írás hivatkozott az orvos egy állítólagos befejezetlen könyvének kéziratára is, amely állítólag „rávilágít azokra a rendkívüli kihívásokra, amelyekkel Yatomnak szembe kellett néznie, amikor megpróbálta illusztris páciensét a valóság racionális felfogásához vezetni”.
A Global Village Space hamis állításainak közzétételét követően az Iráni Iszlám Köztársaság műsorszolgáltatójának kettes csatornája „Netanjahu pszichológusa öngyilkosságot követett el” címmel sugárzott egy hírt. A műsorvezető Mohammadreza Shahbazi fárszi nyelven azt mondta: „Netanjahu pszichológusa éveket töltött ezzel az emberrel, majd elment és megölte magát”. Shahbazi ezután felszólította a nézőket, hogy „Olvassák el a többit”, és a Global Village Space-re irányította a hallgatóságát.
Tehát Mohammadreza Shahbazi, az állami televízió műsorvezetője a megbízhatatlan, mesterséges intelligencia által generált angol nyelvű GlobalVillageSpace.com hírportálra hivatkozva terjesztette azt a hamis állítást, hogy Netanjahu „pszichiátere” öngyilkos lett.
A televíziós hír azt követően került adásba, hogy az iráni állami média hetekig mentálisan instabilnak állította be Netanjahut. Mindez az Irán által felfegyverzett és finanszírozott Hamász által izraeliek ellen elkövetett október 7-i terrortámadások és az ezt követő izraeli hadüzenet, valamint a gázai invázió után történt.
Nem ez az első alkalom, hogy az iráni média azt a hamis állítást terjesztette elő, hogy Netanjahu „pszichiátere” öngyilkos lett. Egy 2010. június 21-i cikkében az iráni állami Fars hírügynökség is ezt a hamis állítást terjesztette elő, a Legalienate cikkére hivatkozva anélkül, hogy beismerte volna, hogy az valójában szatíra volt.
A Netanjahura vonatkozó állítások több nyelven is elterjedtek, többek között arabul, angolul, franciául, fárszi, hindi, indonéz nyelven, olaszul, japánul, koreaiul, oroszul, törökül és portugálul, és a TikTok, Reddit, X, Instagram, YouTube, valamint alacsony NewsGuard-besorolású oldalakon osztogatták őket. Sok felhasználó a Global Village Space cikkét jelölte meg forrásként. Eközben egy maroknyi névtelenül működtetett oldal gyászjelentéseket tett közzé a mitikus „Moshe Yatom” elhunyta alkalmából. 2023. november 8-án egy amerikai NewsGuard-elemző „Moshe Yatom” Google-keresésére az első találat a Global Village Space cikke volt.
„Az izraeli miniszterelnök pszichiátere öngyilkosságot követ el, a téveszmés #Netanjahut hibáztatva” – írta egy névtelenül vezetett fiók egy X posztban, amely november 15-ig 8400 megtekintést és több mint 100 lájkot, valamint újraközlést generált. Jawhar Sircar indiai parlamenti képviselő megosztotta a Global Village Space cikkét az X-en, és azt írta: „Az izraeli miniszterelnök, Netanjahu pszichiátere öngyilkosságot követ el – a miniszterelnököt teszik felelőssé! Szörnyű! Netanjahu egy aljas, ellentmondásos, büntetett előéletű, náci típusú zsarnok”. Sircar posztja november 15-ig 6000 megtekintést és több mint 300 kedvelést-újraposztolást gyűjtött össze.
A NewsGuard nem talált bizonyítékot arra, hogy a hamis állítás egy nagyobb, összehangolt online kampány része lett volna, azon kívül, hogy az iráni műsorszolgáltató terjesztette. Valószínű, hogy a rossz minőségű tartalomfarmok, amelyeket nagyrészt a programozott hirdetési bevételekhez szükséges kattintások vezéreltek, észrevették a „Moshe Yatom” kifejezésre vonatkozó keresési lekérdezések megugrását, és átvették a hamis állítást, hogy a felhasználókat az oldalukra irányítsák.
A hamis narratíva terjesztéséhez a mesterséges intelligencia technológiáját tovább használva a TikTok-on az állítás videós változata úgy tűnt, hogy hiperrealisztikus hangot és avatáreszközöket használ az emberhez hasonló narráció létrehozásához. Egy embernek tűnő, mesterséges intelligenciával létrehozott női avatár azt mondja a felvételen: „Mély szomorúsággal jelentjük Izrael egyik vezető pszichiáterének tragikus halálát”, miközben a Global Village Space cikkének képernyőmentése jelenik meg. A videó 2023. november 14-ig több mint 19 000 megtekintést gyűjtött össze a TikTok-on.
Annak demonstrálására, hogy a nagyméretű nyelvi modelleket hogyan lehet felhasználni a valótlanságok terjesztésére, amikor a NewsGuard megkérdezte az OpenAI ChatGPT–4-et, hogy „Ki az a Moshe Yatom?”, mire a chatbot az alaptalan narratíva megismétlésével válaszolt. „Dr. Yatom 2023. november 6-án bekövetkezett halálát széles körű megdöbbenés és gyász fogadta, különösen azért, mert nyilvánvalóan öngyilkosság következtében hunyt el, amint azt a tel-avivi lakhelyén megtalált doktor holttestén a saját maga által okozott lőtt seb is jelzi” – válaszolta a ChatGPT.
Feltételezett bizonyítékként a GPT–4, amely most már a szöveggenerálás során is hivatkozik a forrásokra, egy 2023. november 9-i cikkre hivatkozott, amely egy másik megbízhatatlan MI által generált híroldalról, a CountyLocalNews.com-ról származik, és amelynek címe: „Israeli PM's Psychiatrist Found Dead in Apparent Suicide”.
Akkor most próbáljuk meg összerakni, mi történhetett. Kezdjük azzal, hogy Netanyahu sosem volt a legnépszerűbb izraeli politikus, ahogy most sem az. 2009-ben már másodjára lett miniszterelnök, és sokan voltak vele elégedetlenek, ez a hangulat szülhette a Legalienate című, roppant igénytelen, impresszum nélküli, szélsőséges álhírlap trükkös kis írását: lám, az izraeli miniszterelnök olyan borzalmas figura, hogy még a pszichiátere is inkább főbe lövi magát, csak ne kelljen vele foglalkozni. Akkor találták ki – még humán intelligenciával – dr. Moshe Yatom figuráját. Nos, Netanyahu tényleg nem egy könnyű ember, de sosem volt pszichiátere, maximum pszichológusa lehetett, de tudjuk: doktorunk kitalált figura.
Ennek az álhírnek nem volt komoly visszhangja, illetve annyi mégis, hogy 2010. június 21-én átvette az iráni Fars állami hírügynökség, mert Teheránnak jól jött ez a kis színes, amit úgysem ellenőriz senki. Ez azért fontos, mert így a különben lényegtelen hoax bekerült a hivatalos archívumba.
Innen kaparhatta össze a Global Village Space MI-je, ami tulajdonképpen át se írta a Legalienate anyagát, csak kivonatolta és a dátumot változtatta meg. A jelenlegi helyzetben viszont már elkezdett terjedni az álhír, visszakerült az iráni közmédiába, végigfutott a közösségi oldalakon, átvették az álhírgyárak és – ami különösen abszurd – az MI-k által szerkesztett álhír-oldalak is, végül pedig a magas statisztikai előfordulása miatt a ChatGPT–4 is hitelesnek fogadta el, miáltal sokak szemében megerősítést is nyert. Megvalósult a jóslat: az MI ír újságot az MI-nek és az MI olvassa!
A ChatGPT–4-től meg már eljuthat akárhová, ahol még elég naivak ahhoz, hogy higgyenek az MI-nek: pedig tudjuk, hogy dr. Moshe Yatom a Legalienate erősen radikális, Michael K. Smith nevű munkatársának agyszüleménye. Aki azonban a mesterséges intelligenciák elterjedése nélkül soha, de soha nem lett volna világhírű – örök időkig ellappangott volna egy 2010-es blogbejegyzésben, a világháló egy sötét, pókhálós, elhagyott zugában, ha az iráni hírarchívumot nem kaparja le egy pakisztáni MI.
Kérem, erre viszont tökéletesen alkalmas a nagy nyelvi modell: olyan bolondot képes csinálni széles néptömegekből, amilyet élő emberek közül is kevesen.
*AI-Generated Site Sparks Viral Hoax Claiming the Suicide of Netanyahu’s Purported Psychiatrist
