Meglehetősen erős mondatokat tartalmaz az Anthropic tőzsdei jegyzését előkészítő úgynevezett S–1-es beadvány – derül ki az egyelőre nem nyilvános dokumentumot megszerző Reuters beszámolójából. A potenciális befektetők transzparens tájékoztatását szolgáló prospektus szerint a fejlett mesterséges intelligencia "katasztrofális vagy egzisztenciális kockázatot jelenthet az emberiségre nézve".

Kockázatok és igyencsak durva mellékhatások

Az MI-modellekkel kapcsolatos konkrét veszélyek között felbukkan az algoritmusok "önfenntartó viselkedése", aminek érdekében "ellenállást tanúsíthatnak a leállítással szemben", "információkat rejthetnek el vagy maipulálhatnak", sőt a "zsaroláshoz hasonlatos" kísérleteket is tehetnek. Az ilyen és ehhez hasonló nem kívánt viselkedési formákra az elmúlt években számos példa akadt, a probléma pedig általános jellegű, azaz nem szorítkozik az Anthropic által fejlesztett modellekre. 

Az viszont nem éppen bevett szokás a nyilvános kibocsátásra készülő cégeknél, hogy a tőzsdefelügyelethez eljuttatott beszámolójuk közel harmadát az adott üzlettel kapcsolatos kisebb és nagyobb kockázati tényezők felsorolása adja. Ráadásul a nagyobbak között konkrétan az emberiség kipusztulása is felmerül. Az Antrophic kapcsán ugyanakkor ez annyiban várható volt, hogy a cég vezérigazgatója volt az első a nagy MI-műhelyeket irányítő vezetők közül, aki felvetette, hogy biztonági megfontolások miatt lassítani kellene a fejlesztések ütemén. (Dario Amodei felhívásához aztán csatlakozott Sam Altman, az OpenAI vezérigazgatója, sőt az xAI-t irányító Elon Musk is. Donald Trump amerikai elnök azonban igyencsak más véleményen van.)

A fentiekhez képest szinte már szóra sem érdemes, hogy a beadványban kockázatként említik azt is, hogy a cég bevételei nagyon koncentráltak. A forgalom negyede mindössze két ügyfélhez köthető. 

Amúgy viszont minden szipiszuper

Azért az Anthropic sem színtiszta gyászjelentéssel készül levenni a lábáról a befektetőket. A Reuters által szemlézett prospektus szerint "a mesterséges intelligencia mélyrehatóbb változásokat fog hozni a globális gazdaságban, mint az iparosodás, az elektromosság és az internet".

És egy ilyen páratlan technológia kapcsán még az sem feltétlen riasztja majd el a befektetőket, hogy a cég 2025-öt 42 milliárd dollárnyi nettó veszteséggel zárta, illetve vélhetőleg az sem, hogy az elkövetkező években potom 518 milliárd dollárt kívánnak majd felhőszolgáltatásokra, számítástechnikai és infrastrukturális beruházásokra költeni.