Az IBM kutatói február közepén jelentették be az új dizájnt, ami a február közepén rendezett International Solid-State Circuits Virtual Conference (ISSCC) prezentációjában mutatkozott be. Ezt a világ legelső, 7 nanométeres gyártástechnológiára tervezett MI-gyorsító (AI accelerator) csipjének tartják, ami a vállalat tájékoztatása szerint az energiahatékonyságot is újabb szintre emeli.

A kutatók az IBM oldalán közzétett bejegyzésben írnak részletesebben is a négy prpcesszormagot alkalmazó csipről, amivel ugyan még csak a fejlesztési szakaszban járnak, de már most azt várják tőle, hogy eredményes lesz a legkülönbözőbb mesterségesintelligencia-modellek hatékony támogatásában, miközben az energiafogyasztás tekintetében is csúcstechnológiát képvisel majd.

Ez utóbbi azért nagyon fontos jellemző, mert az IBM szerint erre van szükség hozzá, hogy az energiaigény és a költségek növelése nélkül lehessen érdemben megemelni az MI-gyorsító hardverek számítási kapacitását, beleértve a hibrid felhős alkalmazásokat is. A mesterséges intelligencia algoritmusok gyorsítására szolgáló processzorok, ahogy a nevükből is kiderül, a grafikus csipek (GPU) mintájára speciális folyamatos támogatására szolgálnak, ebben az esetben a nagy adattömegekkel dolgozó programok (természetes nyelvek feldolgozása, gépi látás stb.) futtatására.

Miután az MI-modellek is egyre szofisztikáltabbak, az algoritmikus redszerek alatt működő hardverek is egyre erőforrás-igényesebbek, amit hagyományosan a kapacitások folyamatos növelésével szolgáltak ki. Az IBM szerint azonban egyre fontosabb szempont, hogy a komplex modellek kezelése az ebből fakadó károsanyag-kibocsátás növelése nélkül valósuljon meg, és ebben ne legyen szükésg kompromisszumokra a számítási teljesítmény rovására.

Szinte minden területen felhasználható lesz

Ennek egyik módja, hogy az új dizájnokban az úgynevezett reduced precision megoldások alkalmazása a gyorsító csipekben, amelyeket már alkalmaznak a gépi tanulás és az MI-algoritmusok inferenciának nevezett folyamatainak erősítésében. A technika előnye, hogy kisebb szilíciumfelülettel és energiafelhasználssal implementálható, ami azt jelenti, hogy általa a modellek betanításának ideje és erőforrás-igénye is jelentősen csökkenthető.

Az IBM új csipjét is az ilyen típusú tanítási folyamatokra optimalizálják, és első ízben vonultatja fel az IBM hibrid FP8 formátumként hivatkozott, nyolcbites ultra-low precision betanítási technikáját. Ez a vállalat szerint egyrészt nem befolyásolja a modellek pontosságát, másrészt egy integrált energiamenedzsment-funkció révén a gyorsító csipek saját maguk optimalizálhatják a relatív teljesítményüket, lelassítva például a kifejezetten nagy fogyasztású számítási fázisokat.

A kutatók szerint a dizájn azért is látványos, mert a gépi tanulás vagy az inferencia tekintetében 60-80 százalék körüli kihasználtsággal működhet, szemben a GPU-k 30 százalék körüli értékeivel. Az IBM reményei szerint ezt kereskedelmi termék formájában sikerül majd felskálázni és tömegesen telepíteni az összetett MI-rendszerek támogatásában is, a beszéd-szöveg átalakító (speech-to-text) MI-szolgáltatásoktól egészen a pénzügyi tranzakciókat védő, csalásmegelőző megoldásokig. A csipekben az olyan perem (edge) alkalmazások területén is nagy lehetőségeket látnak, mint amilyenek az autonóm járművek, a intelligens biztonsági kamerák vagy akár a mobiltelefonok, amelyek ugyancsak sokat profitálhatnak a nagy teljesítményű, ám alacsony fogyasztású MI-csipekből.