A Londonban működő Center for Long-Term Resilience (CLTR) egy független agytröszt, amelynek célja a globális ellenálló képesség javítása a szélsőséges kockázatokkal szemben, beleértve a megfelelő kormányzási és döntéshozatali folyamatok kialakítását is. A szervezet a biológiai biztonság vagy a kockázatkezelés mellett a mesterséges intelligencia területén is aktív, amit nemrég kiadott anyaga is jelez az Egyesült Királyság MI-szabályozásában lévő hiányosságok kezeléséről.

A dokumentum alapján 2014 óta már 10 ezernél is több olyan biztonsági esemény jelent meg a híradásokban, ami a telepített MI-rendszerekhez kapcsolódott. Mivel a technológia egyre mélyebb társadalmi integrációjával ezek száma és hatása is növekedni fog, a CLTR a biztonság szempontjából kritikus iparágakhoz hasonló megközelítést javasol, ahogy például a repülésben vagy a gyógyszeriparban is fellépnek a hatóságok az incidensbejelentésnek nevezett folyamat során.

A CLTR szerint az Egyesült Államok, Kína és az EU kormányzatainak álláspontja is megegyezik arról, hogy a jól működő incidensjelentési rendszer kritikus fontosságú lesz a mesterséges intelligencia szabályozásában, mivel ezen keresztül lehet gyors betekintést nagyrni a technológia hibáiba. A megvalósítás azonban kívánnivalókat hagy maga után, mint ahogy az Egyesült Királyság szabályozási tervei között is "aggasztó hiányosságokat" tapasztalnak ezen a téren.

Alapokra van szükség az építkezéshez

A jelentés felvázolja a kormányzat által létrehozott bejelentési rendszerek, a biztosított erőforrások és a szakértők bevonásának fő előnyeit is. Az első a már említett lehetőség a valós biztonsági kockázatok nyomon követésére a szükséges kiigazítások érdekében. A második a nagyobb horderejű incidensekre adott reakciók összehangolása és a kiváltó okok feltárása lenne, a harmadik pedig a nagyszabású jövőbeli károk, illetve a rájuk vonatkozó korai figyelmeztetések azonosítása.

Az AI News riportjában megszólaló szakértő szerint a CLTR jelentése a legjobb pillanatban érkezett: bár az MI-politika a gazdasági növekedés sarokköve, ez csak úgy működik, ha sikerül megfelelő védőkorlátokat biztosítani a kísérletezés lehetőségeinek túlzott beszűkítése nélkül. Az incidensjelentési rendszerek bevezetése ebben egy szükséges korai lépés lenne, ami hozzájárul az MI társadalmi előnyeinek kiaknázásához és a közbizalom megőrzéséhez is.