Biztonsági szakértő: az AI-modellek kiforratlanul kerültek az emberiség kezébe
Nagy hiba volt kiforratlan állapotban az emberiség kezébe adni a mesterséges intelligencia modelljeit, a fejlesztők közötti licitháború árát pedig a kiberbiztonsági iparág fizeti meg – véli Marton László, az SMP Solutions IT security vezetője. A szakértő szerint az AI-ügynökökkel végrehajtott kibertámadások óriási kihívást jelentenek, és tovább növelik a támadók előnyét a védekezőkkel szemben. Közben a cégek többségében nincs AI-használati szabályzat, ami tovább növeli a kockázatokat, a csalásoktól pedig már a magyar nyelv sem véd.
A nagy tudományos vívmányoknak korábban megvolt a saját evolúciójuk – mondta. Az utolsó harminc év fejlődése azonban már szinte követhetetlen, és erre engedtek rá egy vadonatúj, teljesen kiforratlan technológiát, amelyet rajtunk tesztelnek. A legnagyobb problémát az jelenti, hogy nem látjuk a teljes képet: senki sem tudja pontosan megmondani, hol, milyen motivációval, kik és milyen képességű AI-modelleket fejlesztenek. Az ellenőrizetlen, úgynevezett „Shadow AI” jelenti az egyik legnagyobb veszélyt.
A szakértő szerint az sem biztos, hogy az AI végig uralható marad. Mindenki azt gondolja, hogy aki az AI-t uralja, az uralja majd a világot, de ebben nem biztos – tette hozzá. A politikusok a saját szövetségeseiket is egy pillanat alatt dobják félre gazdasági érdekek miatt, miközben a világ egy óriási technológiai boom előtt áll. Hozzátette: az első ismert eset, amikor MI-ügynökök emberi irányítás nélkül hajtottak végre valódi kibertámadást, egy belső teszten történt, ahol a modellek kijutottak az internetre, és kiszivárgott jelszavakkal törtek be egy MI-platform rendszereibe.
A hagyományos támadások mögött emberek állnak, akiknek a tempóját saját idejük és tudásuk behatárolja, az AI által vezérelt támadásban viszont önállóan dolgozó ügynökök végzik a munkát, megállás nélkül és egyszerre több irányban. Ezért az ilyen támadás sokkal gyorsabb és nehezebben megfékezhető. Ha a támadók AI-t használnak, a védekezés sem maradhat le mögöttük, a védekezők azonban így is hátrányból indulnak: ők a modellek beépített biztonsági korlátai és a szabályozás keretei között dolgoznak, a támadók viszont korlátozás nélküli modelleket használnak.
Mekkora kockázatot jelent az, amikor az alkalmazottak szabályozatlanul használnak AI-t? Elenyészően kevés helyen van AI-használati szabályzat. A legnagyobb kockázat, hogy a munkatársak céges dokumentumokat osztanak meg nem céges használatú AI-modellekkel, ezek pedig nem transzparensek abban, hova kerülnek az adatok. Bár egy teljes dokumentumot nem lehet egykönnyen visszafejteni, az információk ott vannak a modellben, és értő kezekben kinyerhetők, ráadásul ezekkel az adatokkal tanítják a modellt.
A magyar nyelv sokáig védelmet jelentett a csalások ellen, ennek azonban az LLM-modellekkel vége lett: olyan tökéletes deepfake üzenetek és adathalász e-mailek hozhatók létre magyarul, amelyekről nem lehet megmondani, hogy hamisak. Magyarországon inkább az egyszerűbb változat, a romantikus csalások terjedtek el, ahol a deepfake-et a legtöbben bevetik.
Ha a mesterséges intelligencia képes lesz kihasználni a kvantumszámítógépek teljesítményét, az egyik első következmény a mai titkosítások feltörése lesz, amelyek a banki tranzakciókat, az állami és egészségügyi adatokat és a vállalati kommunikációt védik. A mostani felgyorsult fejlődést látva reális, hogy ez már 2030 előtt bekövetkezik. A legnagyobb veszély azonban már most zajlik: a támadók tömegesen gyűjtik be a titkosított adatokat, hogy később feltörjék őket. A kvantumbiztos titkosításra való átállás még nagyon az elején tart, a szabványok elkészültek, de a legtöbb szervezet még el sem kezdte a bevezetésüket.
