Amióta fény derült arra, hogy az Anthropic, az OpenAI és más gyártók AI-agentjei időnként szabadon garázdálkodhatnak az interneten, és akár hekkertámadásokat is végrehajtanak, az AI és a biztonság kapcsolata az egyik leggyakoribb téma, ha a mesterséges intelligencia szóba kerül.

Ezekben a beszélgetésekben azonban gyakran összemosódik két terület: az AI-ra leselkedő, illetve a mesterséges intelligencia használatából eredő veszélyek. Bár a két problémakör szorosan összefügg, ahogy az az OWASP Top 10 for LLM Applications 2026 jelentéséből is kiderül, mégis érdemes megvizsgálni külön is mindkét oldalt.

Az OWASP augusztus végén publikálta legfrissebb elemzését a generatív mesterséges intelligencia kockázatairól. Első pillantásra úgy tűnik, mintha nem változtak volna a problémák és veszélyforrások. (Az alábbiakban csak a nem megfelelő implementálásból és használatból eredő problémákra szorítkozunk.)

Klasszikus problémák új köntösben

A használatból eredő legnagyobb kockázat az adatszivárgás. Ez az IT-biztonság örök klasszikusa: okozhatja sikeres hekkertámadás, rendszerhiba és gyakran emberi hanyagság, felelőtlenség. A mesterséges intelligencia korában különösen a shadow AI, azaz különböző mesterségesintelligencia-szolgáltatások ellenőrizetlen használata veszélyezteti az adatok biztonságát.

Az AI létrehozott egy új adatszivárgási kategóriát is, amit korábban system prompt leakage (kb. rendszer-utasítás kiszivárgása) néven emlegettek. Ez azt a kockázatot írja le, amikor egy modell véletlenül vagy manipuláció hatására felfedi a rejtett, háttérben lévő ún. system promptokat, azaz rendszerutasításait (ezek határozzák meg a modell személyiségét, hangnemét és működési kereteit). A friss OWASP-jelentésben ez már hidden context exposure (rejtett kontextus kitettsége) néven szerepel, ami jelzi: már nem csak a rendszerprompt védendő. Egy vállalati AI-alkalmazás a felhasználó tudta nélkül is átadhat olyan információkat a modellnek, melyek felhasználását, további útját kontrollálni kell, például korábbi beszélgetéseket, visszakeresett dokumentumokat, eszközleírásokat, konfigurációs adatokat vagy más, a futtatási környezetből származó információkat, melyek illetéktelen kezekben veszélyes fegyverré válhatnak.

Az excessive agency vagy túlzott ügynöki jogosultságok néven emlegetett kockázat mindaddig újdonságnak tűnik, amíg vissza nem gondolunk a klasszikus jogosultságkezelési problémákra. Természetesen az AI ezt is újrakeretezte. Az AI-agentek eszközöket, API-kat hívhatnak meg, hozzáférnek rendszerekhez, adatokhoz, és a klasszikus alkalmazásokkal szemben autonóm módon cselekednek. Ebben az esetben a legnagyobb veszélyt az jelenti, hogy az AI ezeket a képességeket gépi sebességgel és nem determisztikus módon alkalmazhatja.

Szintén nem ismeretlen vállalati környezetben az erőforrás-pazarlás, például felhős rendszereknél. Ez hozta életre a FinOps megközelítést, amelyet megpróbáltak az AI-megoldásokra is alkalmazni – az OWASP elemzése szerint egyelőre kevés sikerrel. Az ok az, hogy megváltozott a kockázat mértéke. Az elemzés már korlátlan erőforrás-felhasználásról beszél: egy AI-alkalmazás szándékosan vagy akaratlanul is képes olyan terhelést okozni, amely miatt elszabadulnak a számítási és infrastruktúraköltségek.

Szerepel a listán misinformation, azaz a félretájékoztatás (nem tévesztendő össze a dezinformációval, amely szándékos tevékenység eredménye). Mind a mai napig nem sikerült megnyugtató megoldást találni arra, hogy a modellek időnként/gyakran hallucinálnak, azaz téves kimenetet adnak. Vállalati környezetben azonban ez nem pusztán minőségi probléma, hanem üzleti, jogi és reputációs következményei is lehetnek.

Az agentic AI a problémát magasabb szintre emelte. Az improper output handling, azaz a nem megfelelő kimenetkezelés ugyanis azt a kockázatot írja le, amikor egy szoftver vagy rendszer vakon megbízik az AI generálta kimenetben, kódban, döntésben, mert a rendszerbe nem építenek be ellenőrzési, tisztítási mechanizmusokat. Az OWASP jelentéséből azonban az is kiolvasható, hogy a probléma kezelésére egyre hatékonyabb eszközöket kínálnak az alkalmazásbiztonsági megoldások gyártói.

A nagy nemzetközi AI-biztonsági egységfront

Az OWASP évente frissített jelentései alapján úgy tűnik, hogy a kockázatok jellegében nincs jelentős változás, ám a hangsúlyok eltolódtak azok felé, melyek kizárólag akkor válnak kézzelfoghatóvá, ha az AI már élesben működik. Szintén kiolvasható a listából, például abból, hogy a túlzott ügynöki jogosultságok a harmadik legfontosabb kockázati tényező, hogy a vállalati környezetek egyre inkább az agentic AI irányába mozdulnak. Emiatt az AI-biztonságot nem modellbiztonsági, hanem inkább alkalmazásbiztonsági kérdésként kell kezelni. A védelemnek ott kell működnie, ahol a támadás várható, a futó alkalmazásban, a modell és az eszközök közötti kapcsolatokban, valamint az adatutakon.

Az AI sajátosságaiból adódóan mindezek csak a kockázatok egy rétegét adják. A mesterséges intelligencia biztonsága ugyanis egyre kevésbé tisztán technológiai kérdés. Az MIT FutureTech és a University of Queensland egy friss kutatásából (PDF). A közel 300 nemzetközi AI-szakértő válaszaiból az az összkép rajzolódott ki, hogy egyszerre kell számolni az AI gyorsan változó képességeivel, kiberbiztonsági következményeivel, a szabályozási problémáival és az üzleti folyamatokra gyakorolt mély hatásaival.

Bár a kutatók rákérdeztek a technológiai jellegű problémákra is – 24 kockázatról kérték ki a véleményüket a Delphi-módszer segítségével –, a válaszadók szerint az öt legnagyobb kockázat egyáltalán nem IT-biztonsági kérdés. Az AI legjelentősebb veszélye az, hogy olyan feladatokat tesz egyszerűbbé, melyekhez korábban jelentős szakértelemre vagy erőforrásokra volt szükség (pl. tömeges manipuláció, megfigyelés, deepfake-ek előállítása, sőt vegyi vagy biológiai fegyverek fejlesztése).

A válaszadók jelentős kockázatnak tartják az AI-jal támogatott kibertámadásokat és egyéb tömeges károkozásokat is. A mesterséges intelligencia ugyanis éppen azokban a feladatokban fejlődik gyorsan, amelyek a kibertámadások szempontjából kulcsfontosságúak: a kódolásban, a mintázatok felismerésében és nagy mennyiségű információ gyors feldolgozásában.

Az AI-jal elérhető feltételezett versenyelőny közvetett veszélye, hogy a gyorsabb fejlesztés igénye miatt háttérbe szorulnak a biztonsági kontrollok. Ez közvetetten növelheti a kiberbiztonsági, adatvédelmi stb. kockázatokat. A résztvevők szerint az is jelentős problémákat generálhat, hogy a fejlett AI-rendszerekhez szükséges számítási kapacitás, adat, szakértelem és tőke korlátozott számú szereplő kezében összpontosul. Ha ez a koncentráció tovább nő, a piaci hatásain túl társadalmi és politikai következményei is lehetnek.

Az ötödik legnagyobb kockázat a hamis vagy félrevezető információk terjedése. Az AI csökkenti a hamis tartalmak előállításának költségét, és egyre nehezebb lesz megkülönböztetni a hiteles és a mesterségesen előállított tartalmakat.

A válaszadók a 24 vizsgált kockázati területből 18 esetében látnak legalább 10 százalékos esélyt arra, hogy jelentős gazdasági vagy társadalmi kárt okozzanak, ha nem történnek kockázatcsökkentő intézkedések.

Mindenkinek máshol fáj

Ötéves távlatban a kockázatok főleg az információs szektort, a nemzetbiztonságot és a pénzügyi ágazatot veszélyeztetik. Az információs szektorban elsősorban a félretájékoztatás, a manipuláció, a személyes adatok védelme és a tartalmak iránti bizalom eróziója, a nemzetbiztonság területén a kibertámadások, a fegyverfejlesztés, a megfigyelés és az ellenséges szereplők egyre fejlettebb AI-eszközei, a pénzügyi szektorban pedig többek között az adatvédelem, az AI-támogatott csalások és a piaci manipuláció a legjelentősebb kihívás.

A kockázatok mérsékléséhez fontos, hogy a szervezetek térképezzék fel és erősítsék meg jelenlegi folyamataik és IT-rendszereik gyenge pontjait. Az AI ugyanis működési jellegéből adódóan képes rövid idő alatt felskálázni a már létező problémákat. De ugyanebből adódik az is, hogy az AI-jal kapcsolatos kockázatokat ugyanabba az IT-irányítási keretbe kell beilleszteni, amelyben a kiberbiztonságot, az adatvédelmet, az üzletmenet-folytonosságot és a működési kockázatokat eddig is kezelték.

Ez azonban folyamatos feladat: a mesterséges intelligencia képességei gyorsan változnak, ezért a kockázati kontroll néhány hónap múlva már elégtelennek bizonyulhat.

Ez a cikk független szerkesztőségi tartalom, mely a Clico Hungary támogatásával készült. Részletek »