Intel kupuje dalšího výrobce AI čipů
Zprávy o tom, že se Intel o Habana Labs uchází, se objevily už v předstihu, teď na konci roku je ovšem Intel potvrdil a oznámil oficiálně, že koupě byla uzavřena. Intel za tuto firmu zaplatí celé 2,0 miliardy dolarů, což z ní dělá menší obchod než pořízení Mobileye za 15 miliard dolarů nebo výrobce FPGA Altera (ty také Intel řadí do portfolia řešení použitelných pro akceleraci umělé inteligence), ale relativně velkou ve srovnání s předchozím nákupem malých firem Movidius a Nervana.
Firma Habana Labs, založená v roce 2016 v Tel Avivu, je považovaná za jeden z technologicky silnějších AI startupů a její akcelerátory za poměrně schopné. První produkt vydala loni v podobě čipu „Goya“, jenž byl ještě určený jen pro inferenci, což znamená pro běh aplikací používajících již natrénovanou neuronovou síť. Goya údajně měl mít až třikrát vyšší výkon než GPU Nvidie a navíc nižší latenci operací, ale jde asi o údaje přímo od výrobce, což je třeba brát s rezervou.
Letos v červnu ovšem Habana Labs odhalila (nyní dodává klientům vzorky) pokročilejší akcelerátor „Gaudi“, který je právě určený už pro samotné trénování, což je náročnější operace a také potenciálně lukrativnější trh. Gaudi má údajně rekordní výkon (má být prý až 4× lepší proti systémům se stejným množstvím GPU, ale opět asi dle oficiálních benchmarků). Zároveň také umožňuje škálování na velké množství uzlů díky propojovací logice. K propojení jednotlivých akcelerátorů je použitý integrovaný 100Gb/s Ethernet. Gaudi také podporuje technologii RDMA, kdy akcelerátory mohou samy přistupovat do operační paměti systému a šetří tak zátěž procesoru.
Architektura koprocesoru Habana Labs GaudiPodle tiskové zprávy Intel nebude Habana Labs pohlcovat do vlastních struktur, místo toho má firma nadále operovat jako samostatná skupina a se svým původním vedením. Vzhledem k tomu, že dosavadní kurz byl zřejmě dobrý, může toto být přínosem, přičemž zázemí a pověst Intelu plus možnost spolupráce s jeho dalšími týmy pořád bude působit jako vítr v plachtách.
Habana Labs GoyaAI strategie Intel: mnoho front, ale žádný výrazný průlom
Akcelerátory Habana by mohly Intelu dát pevnější pozici vůči Nvidii, jejíž GPU mají v AI sektoru velmi silnou pozici a jejíž náskok zřejmě mohl být vůbec motivací. Koupě ale zároveň možná odhaluje určité interní zklamání z dosavadních snah Intelu v tomto oboru. Společnost má totiž značné množství separátních produktových větví, kterými se snaží na AI zaútočit, ale žádná z těchto technologií není příliš výrazná, jako by Intel zkoušel všechno co se dá, ale trošku mu scházel fokus. Pro AI nabízí FPGA, zároveň se stále snaží tuto oblast pokrýt i pomocí běžných CPU se speciálními SIMD rozšířeními (Xeon Phi Knights Mill zapadl, ale instrukce DL Boost jsou nyní v běžných Xeonech a v architektuře 10nm procesorů Ice Lake). Současně se s výpočty AI počítá i u připravovaných samostatných GPU a nedávno Intel vydal speciální verzi procesorů Ice Lake předělanou na inferenční akcelerátor. A k tomu Intel koupil i technologii ASIC akcelerátorů Movidius a zejména Nervana (pokud ještě pomineme Mobileye zaměřené čistě na auta).
Představení akcelerátoru Intel Nervana NNP-I (Zdroj: Tom's Hardware)Zrovna akcelerátory Nervana přitom měly podle jeho představ zřejmě být přesně to, co nyní představuje Habana – tedy výkonný ASIC s pamětí HBM2 pro inferenci i pro trénování. Ovšem produkty prvních dvou generací byly odkládány či nepřišly reálně na trh (patrně proto, že po zdržení již nebyly konkurenceshopné) a čím dl to vypadá, že tato akvizice se nepovedla. Protože Nervana je vlastně přímá konkurence, patrně to znamená, že tato divize a produkty budou zrušené a nyní je v portfoliu Intelu nahradí právě čipy Habana Labs. Uvidíme, zda třeba teď nebudou utlumeny třeba i další ze zmíněných separátních AI produktů, aby se víc prostředků (a zákazníků) soustředilo na jednu hlavní technologii.
Galerie: Akcelerátory umělé inteligence Habana Labs Goya a Gaudi
