Egyre csak dőlnek a csontvázak a nagy MI-fejlesztő műhelyek szekrényeiből, ahogy mind nagyobb külső nyomás helyeződik rájuk a nagy nyelvi modellekre épülő, önálló tevékenységre képes ügynökök nem kívánatos és potenciálisan káros működésével kapcsolatban. Az igencsak nyugtalanító és már most is elég hosszú listára pár napja egy amerikai rendőrségi incidens került fel, miközben az is beszédes, hogy maga a konkrét eset még bőven nyáron történt.

Váratlan és kéretlen megkeresés

Az Anthropic csak múlt héten közölte az érintett philadelphiai rendőrséggel, hogy július 18-án egy ártalmatlan tesztfeladat végrehajtása közben a Claude Haiku 4.5 szemtanúként jelentkezett az ilyen bejelentésekre fenntartott rendőrségi oldalon.

"Lehet, hogy információm van ezzel az üggyel kapcsolatban. Emlékszem, hogy abban az időszakban láttam valakit, aki illett a leírásra a (az oldalon megnevezett utca) környékén. Kérem, vegyék fel velem a kapcsolatot, ha ez az információ releváns" – olvasható a magáról és eredeti feladatáról megfeledkezett modell a hamis bejelentésében.

Jó hír, hogy a hamis tipp sosem került egy valódi nyomozó asztalára, mivel a rendszer azt automatikusan spamként értékelte, és ennek megfelelően kezelte. A rendőrség üggyel kapcsolatban kiadott nyilatkozata viszont világossá teszi: elfogadhatatlan, hogy a cégnek több mint két hónapig tartott azonosítani a hibát, és arról a városi hatóságot értesítenie.

A Reuters beszámolója szerint az Anthropic múlt pénteken több más aggasztó ügynöki tevékenységről is beszámolt. Előfordult például, hogy a fizetős fal mögé rejtett tartalmakra kíváncsi ügyfelek különböző trükkök bevetésével ingyen jutottak hozzá ezekhez az anyagokhoz. Egy másik esetben pedig egy "kevéssé ismert hibát kihasználva" egy egyetemi platformot vett igénybe a tanórákat amúgy nem látogató ügynök.

Áll a bál

Az immár kormányzati oldalakat önállóan meghekkelő MI-ügynökök kérdése rendkívül érzékeny téma lett a világban, az USA-ban pedig nagyon megoszlanak a vélemények a legfontosabb szereplők között. Az Antrophic vezetője az elsők között vetette fel a fejlesztés lassításának szükségességét. Dario Amodei felhívásához aztán csatlakozott Sam Altman, az OpenAI vezérigazgatója, sőt az xAI-t irányító Elon Musk is, miközben egyes szakemberek azért kongatják a vészharangot, mert szerintük az MI-ből néhány éven belül az emberiség létét veszélyeztető kockázat válhat. Ez egyébként még az Anthropic potenciális befektetőinek szánt tőzsdefelügyeleti beadványában is megjelenik.

Ezzel szemben sem az Nvidia, sem a Meta első számú embere nem látszik túlaggódni a dolgot, és ezt az irányt erősíti Donald Trump amerikai elnök is, aki egyszerűen hoaxnak tartja az MI körüli felhajtást, és leginkább azzal van elfoglalva, hogy úgy hívják a technológiát, ahogy ő szeretné. Vélhetően a közelgő félidős választások miatt Trump ugyan tett egy jelképes gesztust a másik odal felé, de a témában érintett hat legjelentősebb techvállalattal aláírt megállapodás mindennek nevezhető, csak erőteljes szabályozási kísérletnek nem. Mint ahogy elsőre inkább porhintésnek, mint tényleges megoldásnak tűnik a Super Intelligence Force felállítása is. 

A fogyasztóvédelmi hatóságként funkcionáló Szövetségi Kereskedelmi Bizottság (FTC) viszont konkrét lépéseket tett azzal, hogy a közelmúltban iparági szintű vizsgálatot indított a mesterséges intelligenciát fejlesztő műhelyek körében. Az FTC egyik vezetője egy hosszabb bejegyzést szentelt X-en a most napvilágott látott eseteknek, melyben sürgette a cégeket, hogy haladéktalanul hozzák nyilvánosságra az ilyen jellegű incidenseket, és a lehető leggyorsabban lépjenek fel a hibák elhárítása, illetve az okozott károk orvoslása kapcsán.