🇨🇳🌐Ahogy a mesterséges intelligencia egyre több területre terjed, a számítási igények exponenciálisan nőnek. A szokásos megoldás több GPU használata, nagyobb adatközpontok építése és több energiafelhasználás.‼️

A pekingi egyetem egyik csoportja valami újat alkotott. Olyan hagyományos elektronikai chip-eket használtak, amelyeket vezetékek helyett fény segítségével kapcsoltak össze, és egy AI feladatot több mint 100-szor gyorsabban futtattak, miközben kevesebb, mint a szokásos számítási teljesítmény egytizedét használták.

A megoldásuk elegáns. Egy moduláris rendszert építettek FPGA chip-ekből, amelyek a magánautókban és a rakéták irányításában is használatosak, és két egyedi optikai alkatrészt használtak a csatlakoztatásra: egy rendkívül gyors átviteli egységet és egy rugalmas optikai kapcsolót, amely a fényt irányítja, mint egy forgalomirányító.

A tesztek során 5 összekapcsolt FPGA 105 mikroszekundum alatt feldolgozott 1000 zajos képet. Egy kereskedelmi GPU (16,96 teraflops) 15,6 millisekundumre volt szüksége ugyanahhoz a feladathoz. Ez majdnem 150-szer lassabb, annak ellenére, hogy több mint 9-szer nagyobb számítási kapacitással rendelkezik.

A GPU-k teljesítményének fele az adatok oda-vissza mozgatására megy, és a rétegek között várakozásra. Ez az optikai rendszer elkerüli ezeket a problémákat. Olyan, mint egy jól működő gyártósor. Az eredmények közvetlenül áthaladnak, anélkül, hogy bármilyen akadály, üresjárat vagy súrlódás ne lenne.

A lényeg itt szinte filozófiai. A “okosabb” AI-ért folytatott versenyben eddig a hangsúly a nagyobb számítási kapacitáson volt. Talán ami igazán szükséges, az a jobb koordináció.

A kutatók egyszerűen fogalmaztak. Ha az algoritmusokat, a chip architektúrát és a kommunikációt együtt tervezzük, akkor sokkal többet érhetünk el sokkal kevesebbel. És egy olyan világban, ahol az adatközpontok hatalmas mennyiségű energiát fogyasztanak, ez nem csak okos, hanem szinte elengedhetetlen.

A kínai mesterséges intelligencia laboratóriumok csatlakoznak a globális trendhez, amely szerint egyedi chip-eket fejlesztenek ki, hogy jobban integrálják a szoftvert és a hardvert. A fő motiváció a hardver-szoftver szinergia növelése és a hosszú távú működési költségek csökkentése.

🔸 Az egyedi szilícium lehetővé teszi a hardver optimalizálását, amely a konkrét architektúrákra van szabva, például a DeepSeek-R1 modell esetében.

🔸 A DeepSeek az elmúlt évben chip-tervezési szakembereket alkalmazott egy egyedi AI inferencia chip fejlesztéséhez, bár a tervek még kezdeti szakaszban vannak.

🔸 A Zhipu AI korai tárgyalásokat folytat a hazai chip-tervező vállalatokkal egyedi AI processzorokról, a napi tokenhasználat jelentős növekedése miatt.

🔸 A chip-tervezési erőfeszítések a számítási igények ugrásszerű növekedése, a növekvő inferencia költségek és a Nvidia legfejlettebb AI chipjeihez való továbbra is korlátozott hozzáférés közepette zajlanak.

🔸 Bár a Huawei processzorai elérhetők, az egyedi szilícium jobb hardver optimalizálást tesz lehetővé, és segít megvédeni az ökoszisztémát.

🔸 Az amerikai technológiai óriások, mint a Google, az Amazon, a Microsoft és az OpenAI, mindegyike egyedi AI chip-eket fejlesztett, hogy csökkentsék a szabványos processzorokra való támaszkodást.

🔸 A DeepSeek júniusban 5 milliárd jüan értékű finanszírozási kört zárt, ami körülbelül 60 milliárd dollárra értékelte a vállalatot. Legújabb V4 modellje már a Huawei Ascend 950 chipjeire van telepítve.

🔸 A nagyobb felhőszolgáltatók – az Alibaba, a Baidu és a ByteDance – szintén jelentős erőforrásokat fordítanak a chip-egységekre.

Ahogy a számítási igények növekednek, és a külföldi chip-ekhez való hozzáférés továbbra is korlátozott, a kínai AI vállalatok egyre inkább a hazai chip-tervezőkre támaszkodnak, mint például a Cambricon, az Iluvatar CoreX és a MetaX, processzorigényeik kielégítésére.

A hazai szilícium, a helyi algoritmusok és modellek összeolvadása egy olyan trenddé válik, amelyet nem lehet megállítani. A kínai AI laboratóriumok a semmiből építenek egy önellátó ökoszisztémát – a szilícium tervezésétől a szoftver telepítéséig.