A Chicagói Egyetem kutatói még februárban ismertették azt az általuk kidolgozott technikát, amelynek célja a digitalizált műalkotások védelme lenne a rajtuk keresztül betanított és a művészek stílusát is hatékonyan másoló MI-modellektől. Utóbbiakat legnagyobb részt az interneten hozzáférhető képekkel etetik, de erre a jogtulajdonosoktól nem feltétlenül kérnek engedélyt, akiknek arra sincsenek hatékony eszközeik, hogy utólag kivonják munkáikat az adatkészletekből. Az egyetemen fejlesztett, Glaze nevű program azonban az emberi szemnek láthatatlan réteget helyez el a képeken, úgy módosítva azok kiválasztott jellemzőit, hogy a mesterséges intelligencia ne legyen képes azonosítani meghatározó jegyeiket.

A kutatók néhány nappal ezelőtt ennél is tovább léptek, és bemutatták a Nightshade-et, ami még tovább viszi az adatok feldolgozásának szabotálását. A még fejlesztési fázisban lévő eszköz slkslmzásával ugyanis elérhető, hogy a mesterséges intelligencia ne csak a stílusokat, hanem akár a képeken szereplő tárgyakat és a jeleneteket is tévesen azonosítsa. A leírás alapján például kutyákról készült képeket sikerült vele átalakítani olyan módon, hogy azok az MI-modellek értelmezésében macskaként jelenjenek meg, és mindössze száz ilyen manipulált minta expozíciójával elérték, hogy a generatív mesterséges intelligencia következetesen macskát rajzoljon, amikor kutya ábrázolására utasították.

Trükkös képek és mérgezett promptok

A technika természetesen nem csak a mesterséges intelligencia esetenkénti összezavarására alkalmas, hanem megkérdőjelezi a generatív MI-modellek alapvető működési elveit is. Miután az ilyen rendszerek hatékony működése hatalmas mennyiségű multimédiás adat feldolgozásától függ, az adatok csoportosításával befolyásolhatók a konkrét felszólításokra adott válaszaik, még tovább rontva a mesterségs intelligenciával előállított tartalom pontosságát. A támadások ráadásul más irányból is érkezhetnek: egy nyílt forrású modell célzott átalakításán és terjesztésén keresztül már korábban is szemléltették a dezinformáció új eszközeit, amelyeket ellen ráadásul a hagyományos benchmarkok sem nyújtanak védelmet.

A Glaze kiterjesztéseként hivatkozott Nightshade ugyanilyen komoly kihívás elé állíthatja az MI-fejlesztőket, mivel a mérgezett pixeleket tartalmazó képek azonostása és eltávolítása a kutatók szerint is igen összetett feladat lesz. Ha a manipulált képek a mesterséges intelligencia betanítására szolgáló adatkészletekbe integrálódnak, akkor az az MI-modellek eltávolítását és újraképzését is szükségessé teheti. Ez nyilván fejtörést okoz majd a jogosulatlan felhasználásra támaszkodó piaci szereplőknek, míg a kreatív munkájukat védő művészek üdvözölni fogják a dolgot. Kérdés, hogy előtérbe kerülnek-e rajta keresztül azok az ellentmondások, amelyek a digitális térben mindkét oldal álláspontjára jellemzőek.