Ha megmerítkezünk az internet mesés tengerében, könnyen lehet az a benyomásunk, hogy a világmindenség minden problémája leírható egy fogalommal: mesterséges intelligencia. Lépjen bármilyen területre, elképesztő cselekedetek, fantasztikus felismerések, csodálatos műalkotások kísérik megjelenését. A kiberbiztonsági szakemberek azonban mintha más búvárszemüveggel merültek volna alá: kis túlzással csak a veszélyeket látják; káoszt, rombolást vizionálnak.

De hol lehet az igazság? Milyen valós kockázatokat visz a vállalati rendszerekbe a mesterséges intelligencia, milyen ellenszerei vannak ezeknek a kockázatoknak? Összeállításunkban ennek próbálunk utánajárni különböző biztonsági megoldásszállítók koncepcióján keresztül.

Az gép intelliogenciájának kockázatmátrixa

A vállalatok működése kisebb-nagyobb mértékben eltérő, így az mesterséges intelligencia kockázataival más és más módon szembesülhetnek. Más problémákat vet fel egy generatív LLM, és mást az agentic AI. Más megítélés alá esik egy "belső" mesterséges intelligencia, és más alá egy third-party szolgáltatás. Más-más problémával találkozik egy hazai pénzügyi szolgáltató, egy nemzetközi gyártócég vagy egy kkv.

Dolgozzanak azonban bármilyen szektorban, működjenek bárhogy az üzleti folyamataik, ha mesterséges intelligenciát használnak, kockázatait a korábbiakhoz képest sokkal körültekintőbben kell mérlegelniük. Abban nincs változás, hogy továbbra is egy kétdimenziós mátrixban kell elhelyezni a kiberbiztonsági eseményeket. Az egyik tengely az esemény bekövetkeztének valószínűségét, a másik pedig az üzletmenetre gyakorolt hatását mutatja. Soha nem volt ennyire igaz az alaptétel: a kiberbiztonsági kockázatairól akkor kapunk reális képet, ha azokat az üzleti folyamatokkal szerves egységben vizsgáljuk.

Ezt a megközelítést leginkább az agentic AI megjelenése és integrálódása kényszerítette ki, mert a hagyományos vállalati ökoszisztémában alapvető strukturális kockázatokat hozott a felszínre. A korai generatív eszközök szöveget, válaszokat, kódsorokat stb. generáltak emberi utasításra, amiknek az értékéről és felhasználásáról már az ember döntött. Az agentic AI-jal megérkeztek az olyan autonóm "ágensek", melyek önállóan hoznak döntéseket, API-kat hívnak meg, pénzügyi tranzakciókat indítanak, és rendszereken átívelő munkafolyamatokat hajtanak végre.

Ez olyan technológiai ugrás, ami a kockázatkezelés új paradigmáját hozta létre: a determinisztikus szoftverek védelméről áttolódott a hangsúly a nem-humán entitások kezelésére. A hatás kérdéses. A Gartner szerint például 2028-ra a vállalati szoftverek harmadában fog dolgozni valamilyen módon agentic AI, és ezeknek a projekteknek a 40 százalékát leállítják kockázatkezelési problémák miatt. Arra azonban becslés sincs, hogy a továbbra is futó agent-ek mekkora része idéz elő olyan infrastrukturális eseményeket, amelyeket korábban senki sem azonosított kockázatként.

Pilotok és proof-of-conceptek

A mesterségesintelligencia-megoldások bevezetése, még ha csak egy Microsoft Copilotról is van szó, leggyakrabban pilotként kezdődnek. Például próbaként agent-ekkel fejlesztetnek egy dashboardot a napi munka segítésére. Mire azonban a biztonsági részleg feleszmél, már a fél cég használja az eszközt, amiről a biztonság szempontjából legalapvetőbb információkkal sem lehet tudni: hogyan konfigurálták a hitelesítést, ellenőrizték-e az agent-ek által használt eszközöket és könyvtárakat a potenciális ellátásilánc-támadások szempontjából és így tovább. Mire a biztonsági csapat eljut ezeknek a kérdéseknek a tisztázásáig, addigra az üzlet egyes részein nélkülözhetetlen a dashboard, azaz nincs visszaút – kialakult az eszközfüggőség.

Ezt elkerülendő már a pilot tervezésekor érdemes felrajzolni a kockázati mátrixot. Nem elég azonban csak a veszélyeket rangsorolni. Tisztázni kell olyan összetevők minőségét is, amelyre az üzemeltetés és az üzleti oldalon dolgozók tudják a választ: milyen a felhasználandó adatok minősége, mekkora kockázatot jelent a szabályozási környezet, mennyire egyszerű a szállítót lecserélni (vendor lock-in), az üzlet mely folyamataira, területeire hatna, ha nem sikerülne kordában tartani az autonóm agent-eket és így tovább.

Így az elérendő üzleti célokkal összhangban lehet értékelni a lehetséges kockázatokat.

A biztonságos és hatékony AI alapja a tiszta adat

Közhely, hogy egy mesterségesintelligencia-megoldás mindig annyira lesz jó, amennyire helyesek a képzéséhez használt adatok. A szervezet jelentős részének okoz nehézséget a tiszta adatok biztosítása. Töredezett, elszigetelt és évtizedek alatt felhalmozódott adatokban kell rendet vágni. És hogy ez mennyire komoly nehézség, azt több kutatás is igazolta. A Cloudera és a Harvard Business Review Analytic Services egy idén tavasszal végzett globális kutatásában az informatikai vezetők 7 százaléka mondta, hogy adatai teljes mértékben alkalmasak arra, hogy mesterséges intelligenciához is felhasználják. Az akadályozó tényezők között a legtöbben (56 százalék) a szigetszerű adatforrásokat említették. De sokan említették a világos adatstratégia hiányát (44 százalék), az adatminőségi és torzítási problémákat (41 százalék) és az adatfelhasználásra vonatkozó szabályozási korlátozásokat (34 százalék) is.

A problémakör kezelése nem triviális. Az IBM egy tavaly készített és idén májusban frissített tanulmánya szerint, sok szervezet belefut abba, hogy az AI-projektje szép lassan egy végeláthatatlan adattisztítási projektté lényegül át.

A "majd később megtisztítjuk az adatokat" hozzáállás még egy szűk hatókörű pilot esetében is veszélyes (lásd fentebb a dashboardos példát). Az adatminőséget már a modell kiválasztása előtt értékelni kell, és még a projekt indítása előtt ki kell alakítani a governance-folyamatot az adatok eredetének, minőségének és a hozzáférésnek az ellenőrzésére. Egyes vélemények szerint egy projekt 20–30 százalékát is elviheti ez a munka.

Ha már az alapok megvannak...

A szilárd governance-re, a felelősségi körök pontos meghatározására, az atombiztos hozzáférés-menedzsmentre más okokból is szükség van. Amikor az agent kap egy utasítást a felhasználótól, hogy készítsen (üzleti) alkalmazást, nem csupán egy szkriptet ír. A promptban megadott probléma köré felépít egy egész ökoszisztémát, amibe webes keretrendszert integrál, könyvtárakat hív meg, adatbázisokat kapcsol össze az alkalmazással, és mindezt belerakja egy container image-be.

Ez nagyon hatékony, de biztonsági szempontból óriási a kockázata. Az ugyanis kontrollálhatatlan – és utólag nehéz is visszafejteni –, hogy az agent mely komponenseket honnan, milyen repositoryból, fejlesztői ökoszisztémából vette át.

Soha nem szabad figyelmen kívül hagyni, hogy az autonóm agent-ek közvetlenül írhatnak kulcsfontosságú vállalati rendszerekbe (ERP, CRM stb.), pénzt mozgatnak stb. Ez a képességük megsokszorozza egyetlen hiba hatósugarát. Ugyanez igaz a kompromittálódászukra (pl. prompt injection) hatására. Mivel működésükhöz elengedhetetlen, hogy hozzáférjenek a belső vállalati adatokhoz, egyetlen agent kompromittálódása láncreakciót indíthat el.

Összeállításunk következő részében a mesterséges intelligencia használatának leggyakoribb veszélyeit vesszük sorra az adatszivárgástól kontrollálhatatlan agent-ekig.

Ez a cikk független szerkesztőségi tartalom, mely a Clico Hungary támogatásával készült. Részletek »