Meglehetősen lehangoló képet festettek a nagyvállalati környezetben működő mesterséges intelligenciáról a Gartner szakértői a cég ausztráliai konferenciáján. A The Register helyszíni beszámolója a tanácsadó két alelnöki rangban lévő elemzőjének (Daryl Plummer és Kristin Moyer) véleményét úgy summázta, miszerint "minél többet használjuk a mesterséges intelligenciát, annál nehezebb irányítani azt, illetve megtérülést elérni belőle".

Nem értik...

Plummer meglehetősen sarkosan fogalmazott a legnagyobb MI-fejlesztőkkel való együttműködés kapcsán, mivel szerinte: "Ezekben a szolgáltatókban még nem lehet megbízni. Nem felelnek meg a vállalati szintű követelményeknek. Nem értik a vállalati feltételeket. Nem értik a vállalati felelősséget. Nem értik a vállalati következetességet és folytonosságot.”

A szakértő megkérdőjelezhetőnek tartja például, hogy ezek a cégek nagy rendszerességgel módosítják modelljeiket, miközben a jelek szerint nem gondolják át, mindez milyen változásokat, problémákat okozhat azokban a már futó alkalmazásokban, amelyek ezeknek az algoritmusoknak a kimenetelére támaszkodnak.

További probléma, hogy a fejlesztők nemigen törődnek a nagyvállalatoknál meglévő régebbi technológiával, és ez még a saját termékeikre is igaz, ami kölönösen aggasztó egy olyan területen, ahol a verziók élettartama nagyjából hat hónap. "Ha úgy döntesz, hogy a modell első verziójánál maradsz, nem fognak túl nagy figyelmet fordítani rád. Ez önmagában is azt jelzi, hogy még nem állnak készen a vállalati környezetre" – személtette a helyzetet Plummer.

(Túl)feszített tempó

A Gartner másik felszólaló alelnöke egy saját kutatásra hivatkozott, miszerint "a CIO-k 86 százaléka úgy véli, hogy a mesterséges intelligencia által okozott kockázatok gyorsabban növekednek, mint az általa teremtett érték". Érdekes módon ez egyébként részben az MI-nek tulajdonított korai sikereknek köszönhető, mivel emiatt vannak erőltetett bevezetési kényszerben a nagyvállalatok, miközben ezt a tempót az IT-osztályok nem tudják biztonságosan lekövetni.

Kristin Moyer kitért az általa csak "gondatlan felhasználásként" emlegetett problémakörre is. Ide sorolhatók azok az esetek, amikor a munkatársak felelőtlenül, könnyelműen nyúlnak az MI-hez, akkor is, amikor annak használata nem szükséges vagy megfelelő. Kutatási adatok alapján a munkatársak 40 százaléka találkozott már algoritmusok által termelt értéktelen anyagokkal. Ezek kezelése, kigyomlálása pedig óriási erőforrásokat köt le egy-egy cégnél. Az alelnök egy 1000 fős szervezetnél csak ezt a plusz költséget nagyjából 9 millió dollára taksálta éves szinten.

Plummer pedig arról beszélt, mennyire káros, ha minden feladatra alkalmas eszközként kezeljük az MI-t, miközben hajlamosak vagyunk elfelejteni, hogy egy csomó mindenre már van megfelelő automatizációs megoldásunk. Egy adatbázissal való interakcióra például nem feltétlenül értelmes ügynököt építeni, mivel erre valószínűleg tökéletesen megfelel egy régimódi függvényhívás is.

A felelötlen használat kapcsán megkapták a magukét a szállítók is. A Gartner szakértője szerint ugyanis a techcégek "kétségbeesetten próbálják pénzzé tenni az MI-t" azzal, hogy olyan termékeket adnak el, amelyek tartalmazzák azt, vagy egyszerűen csak arra késztetik az ügyfeleket, hogy több tokent vásároljanak.

Kordában kell tartani

A szimpóziumbeszélgetés során a kritika mellett több lehetséges megoldási javaslat is elhangzott. Ezek egyike lehet egy ún. "mesterséges intelligencia központi bank" létrehozása. Ennek a feladata lenne a szervezet összes, MI-hez kapcsolódó tevékenységének ellenőrzése, kontrollálása "a technológia rendszerszintű hatásainak figyelembevételével, annak érdekében, hogy biztosítsa a rendszer folyamatos megfelelő működését". Az egység lefontosabb feladata az elszámoltathatóság biztosítása, aminek alapja az, hogy pontosan megmondható legyen, hogy az egyes műveleteket ki hajtotta végre vagy engedélyezte.

Egy másik biztonsági mechanizmus lehet olyan "őrügynökök" munkába állítása, amelyek a többi MI-ágenst tartják szigorú őrizet alatt. Ezeknek a speciális ügynököknek felhatalmazást kell adni akár arra is, hogy nem megfelelő tevékenység észlelésekor teljesen leállítsák rossz útra tért "kollégáikat". 

Végezetül a Gartner megfontolásra érdemesnek tartja olyan katasztrófaelhárítási csapatok felállítását is, amelyek kifejezetten az MI okozta problémák, zavarok elhárítására, felszámolására szakosodnak.

"Ha kérdőre vonnak, és a válaszod az, hogy »az MI tette«, akkor bajban vagy. Az algoritmus hibáiért a CIO-kat fogják felelősségre vonni" – igyekezett a téma fontosságára felhívni az informatikai vezetők figyelmét Plummer.