Table of Contents
Az már közhely, hogy amit lehet rosszra is használni és emberi kézbe kerül, azt azonnal, törvényszerűen valami rosszra használják majd. Sokat merengünk azon, milyen problémákat okozhat az emberiségnek a mesterséges intelligencia úgy önmagában is – de mi van, ha rosszindulatú embertársaink használják fel a többi ember kifosztására?
Akkor, kérem, baj van, márpedig a bűnözés céljából fejlesztett MI-knek mostanra kialakult még a feketepiaca is. Ebbe az alvilágba a Daily Beast merült le tudósítani*. Lássuk, mit tapasztaltak.
Az a helyzet, hogy ha valaki akarná, már ma hozzáférhetne az OpenAI ChatGPT „gonosz” változatához – bár sokba kerül. Az is lehet, hogy nem feltétlenül legális, attól függően, hogy hol él az érdeklődő.
A hozzáférés megszerzése azonban egy kicsit trükkös. Meg kell találni a megfelelő webes fórumokat a megfelelő felhasználókkal. Az egyik ilyen felhasználónak lehet, hogy van egy bejegyzése, amelyben egy privát és nagy teljesítményű nagy nyelvi modellt (LLM) forgalmaz. Kapcsolatba kell lépni velük egy olyan titkosított üzenetküldő szolgáltatáson, mint a Telegram, ahol néhány száz dollárnyi kriptopénzt kérnek az LLM-ért cserébe.
Amint azonban hozzáférést kap hozzá, minden olyan dologra használhatja, amit a ChatGPT vagy a Google Bard megtilt: beszélgetéseket folytathat bármilyen tiltott vagy etikailag kétes témáról a nap alatt, megtanulhatja, hogyan kell metamfetamint főzni vagy csőbombát készíteni, vagy akár arra is felhasználhatja, hogy adathalász-sémák segítségével kiberbűnözői vállalkozását táplálja.
„Vannak olyan emberek, akik olyan LLM-eket készítenek, amelyeket arra terveztek, hogy meggyőzőbb adathalász e-mail átveréseket írjanak, vagy lehetővé teszik számukra, hogy új típusú rosszindulatú szoftvereket kódoljanak, mert a korábban elérhető rosszindulatú szoftverek kódjából képezték ki őket” – mondta Dominic Sellitto, a Buffalo Egyetem kiberbiztonsági és digitális adatvédelmi kutatója. „Mindkét dolog hatékonyabbá teszi a támadásokat, mert a korábbi incidensek ismereteiből képzik ki őket”.
Az elmúlt évben a generatív mesterséges intelligencia ugrásszerű növekedését láthattuk. A technológiát olyan alkalmazások tették népszerűvé, mint a ChatGPT és a Bard – bár ez elég sok kritikát és aggodalmat váltott ki azzal kapcsolatban, hogy a technológia veszélyeztetheti az írók, programozók, művészek, színészek és mások munkáját.
Miközben még mindig nem sikerült megértenünk ezeknek a modelleknek az összes hatását – beleértve a munkahelyek megszűnése és az előítéletesség által okozott károkat is –, a szakértők kezdik megkongatni a vészharangot a kiberbűnözésre szabott, egyre növekvő számú feketepiaci mesterséges intelligenciák miatt. Az elmúlt évben az LLM-ek valóságos háziipara alakult ki, amelyeket kifejezetten rosszindulatú programok kódolására és adathalász-támadásokban való közreműködésre hoztak létre.
Ezek a modellek nagy teljesítményűek, nehezen ellenőrizhetőek és egyre nagyobb számban fordulnak elő. Egy új csatatér kialakulását is jelzik a kiberbűnözés elleni küzdelemben, amely még a ChatGPT-hez hasonló szöveggenerátorokon is túlmutat, és a képek, hangok és videók területére is átterjed.
„Sok szempontból elmosódnak a határok aközött, hogy mi mesterségesen generált és mi nem” – magyarázta Sellitto. „Ugyanez vonatkozik az írott szövegre, a képekre és mindenre a kettő között.”
Az amerikai fogyasztók évente közel 8,8 milliárd dollárt veszítenek az adathalász e-mailek miatt – valószínűleg mindenki találkozott már velük a postaládájában. Ezek azok az üzenetek, amelyek azt állítják, hogy a banktól vagy a társadalombiztosítási hivataltól jöttek, és sürgősen kérik, hogy a címzett adja meg a pénzügyi adatait egy kitalált válsághelyzet megoldása érdekében. Ezek az üzenetek tartalmazhatnak ártalmatlannak tűnő linkeket, amelyek valójában rosszindulatú szoftvereket vagy vírusokat töltenek le, lehetővé téve a gonosztevők számára, hogy ellopják az érzékeny adatokat egyenesen a számítógépről.
Szerencsére a legtöbbször elég könnyű elkapni őket. Ha még nem kerültek a spam mappába, már a nyelvezetük alapján is kiszúrhatóak – jellemzőek bennük a hanyag és nyelvtanilag helytelen mondatok és megfogalmazások, amelyeket egy legitim pénzügyi intézmény soha nem használ. Ez elsősorban annak köszönhető, hogy sok ilyen adathalász-támadás nem angolul beszélő országokból, például Oroszországból érkezik.
A ChatGPT elindításával azonban, amely valóságos generatív MI-robbanást indított el, ez teljesen megváltozott.
„A technológia nem mindig volt elérhető a digitális feketepiacokon” – mondta Daniel Kelley, egy korábbi fekete kalapos számítógépes hacker és kiberbiztonsági tanácsadó. „A mostani állapot elsősorban akkor kezdődött, amikor a ChatGPT használata általánossá vált. Volt néhány alapvető szöveggeneráló eszköz, amelyek esetleg gépi tanulást használtak, de egyikük sem volt különösebben lenyűgöző.”
Kelley kifejtette, hogy ezeknek az LLM-eknek széles skálája létezik olyan változatokkal, mint a BlackHatGPT, a WolfGPT és az EvilGPT. A rosszindulatúan hangzó nevek ellenére azt mondta, hogy sok ilyen modell egyszerűen az AI jailbreak példája (ez egy kifejezés, amely a meglévő LLM-ek, például a ChatGPT okos kérdezését írja le annak érdekében, hogy a kívánt kimenetet állítsa elő). Ezeket a modelleket aztán egy egyéni felület köré csomagolják, amely azt a látszatot kelti, mintha egy másik chatbot lenne – miközben a valóságban csak a ChatGPT-ről van szó.
Ez nem azt jelenti, hogy ezek ártalmatlanok. Valójában akad közöttük egy Kelley szerint is kiemelkedő modell, mert ez az egyik legaljasabb és legálisabb: a WormGPT, egy olyan LLM, amelyet kifejezetten kiberbűnözéshez terveztek, és „lehetővé teszi, hogy mindenféle illegális dolgot tegyen a tulajdonosa, és könnyű, online kereseti forrást jelenthet” – legalábbis a modellt forgalmazó fórum egyik leírása szerint.
„A WormGPT-vel minden, a fekete kalapos hackeléshez kapcsolódó dolog, ami csak eszünkbe juthat, elvégezhető, így bárki képes lesz a rosszindulatú tevékenységekre anélkül, hogy elhagyná az otthona kényelmét” – áll a leírásban. „A WormGPT anonimitást is kínál, ami azt jelenti, hogy bárki illegális tevékenységet végezhet anélkül, hogy lenyomoznák.”
„Az egyetlen igazán rosszindulatú MI, amivel találkoztam, amelyről úgy éreztem, hogy valóban egy legitim egyéni LLM-et használt, a WormGPT volt” – mondta Kelley. „Ez volt az első, amennyire én tudom, ami megjelent a piacon, és valóban elterjedt.”
A WormGPT mind Kelley, mind Sellitto szerint hatékonyan használható az üzleti e-mail kompromittáló (BEC) támadásokban, egy olyan típusú adathalász-sémában, amely során a vállalat alkalmazottaitól lopnak el információkat úgy, hogy magasabb beosztású vagy más, felhatalmazással rendelkező személynek adják ki magukat. A modell által előállított nyelvezet rendkívül tiszta, pontos nyelvtani és mondatszerkezeti felépítése miatt sokkal nehezebb ránézésre felismerni.
Emellett gyakorlatilag bárki letöltheti, akinek van internetkapcsolata, így könnyedén elterjedhet. Olyan ez, mint egy olyan szolgáltatás, amely fegyverek és símaszkok vásárlására kínál egynapos postázást - csakhogy ezeket a fegyvereket és símaszkokat kifejezetten a bűnözők számára forgalmazzák, és kifejezetten rájuk szabták.
„Könnyebben hozzáférhető, mert végső soron nem kell szakértőnek lenni a fondorlatos e-mailek megalkotásában. Csak be kell gépelni a felszólítást” – mondta Sellitto.
A ChatGPT megjelenése óta Kelley azt mondja, hogy „100 százalékban” tapasztalta az ilyen generatív MI-forgalom növekedését a digitális feketepiacokon. Nemcsak a fekete kalapos hackerek fórumain érhetőek el, hanem az úgynevezett darknet piacokon is, amelyek olyan illegális online piacterek, ahol a felhasználók a drogoktól kezdve a bérgyilkosokon át a nagy teljesítményű LLM-ekig bármit megvásárolhatnak.
Tovább szítják a tüzet az olyan cégek, mint az OpenAI és a Meta, amelyek saját nyílt forráskódú modelljeiket adják ki. Ezek az MI-eszközök nyilvánosan hozzáférhetőek, és bárki által módosíthatóak. Ez azt jelenti, hogy a feketepiaci LLM-ek az idő előrehaladtával egyre erősebbek és elterjedtebbek lesznek. „Szerintem ez a jelenség fokozódni fog, mert a technológia fejlődik, és végül a kiberbűnözők több felhasználási módot fognak kidolgozni” – mondta Kelley. Hozzátette: „Ez hatással lesz a hétköznapi emberekre is”.
Ha a mindennapi fogyasztók védelméről van szó, a politikai döntéshozók nem sokat tehetnek vagy akarnak tenni. Bár az amerikai kongresszus a ChatGPT megjelenése után több meghallgatást is tartott a mesterséges intelligencia fejlesztésével kapcsolatban, Washingtonból még nem érkezett konkrét szabályozás. Tekintettel arra, hogy a kormányzat eddig is lassan reagált a feltörekvő technológiákra, biztosra vehető, hogy egy darabig nem fogják tudni utolérni a feketepiaci mesterséges intelligenciát – ha egyáltalán valaha is utolérik.
Végső soron tehát a lakosság számára a legjobb módja annak, hogy megvédje magát a veszélyektől, amelyeket ezek a modellek jelentenek, azok az egyszerű, de hatékony taktikák, amelyeket már megtanítottak nekünk a kiberbűnözéssel kapcsolatban: képezzük magunkat, legyünk óvatosak a furcsa e-mailekkel szemben, és ne kattintsunk gyanúsnak tűnő linkekre.
Ez a lehető legjobb, bevált és biztos eszköz arra, hogy védekezzünk a ChatGPT feltört verziójával felfegyverkezett bűnözők ellen, akik megpróbálnak hozzáférni a banki adatainkhoz. Sőt, mivel a mesterséges intelligencia rohamtempóban fejlődik, könnyen meglehet, hogy ez lesz az egyetlen eszközünk ellenük.
„Amit most látunk, az nem egy múló hóbort” – mondta Sellitto. „A generatív mesterséges intelligencia, akár tetszik, akár nem, tényleg itt van, és itt is marad. Tehát fogyasztóként, szakemberként és szervezetként mindannyiunknak össze kell fognunk, és el kell kezdenünk kitalálni, hogyan tudunk átgondoltan és etikusan foglalkozni vele.”
Ahogyan ez kinéz, az emberiségnek sikerült kifejlesztenie a generatív mesterséges intelligenciát – de arra még nem sikerült rájönnie, igazából milyen jó célra tudná használni.
Így aztán arra használja, amire egyáltalán nem volna való.
*Inside the Underground World of Black Market AI Chatbots
