10nm procesory Intel Ice Lake sice zatím mají jen omezenou premiéru a nová architektura Sunny Cove se tak nedostala do desktopových PC, ale vypadá to, že Intel ji přece jenom aplikuje i mimo notebooky. Firma totiž minulý týden odhalila zajímavý speciální procesor: upravené Ice Lake, sedící na modulu M.2 a sloužící jako akcelerátor neuronových sítí.
Speciální Ice Lake s akcelerací AI místo GPU
Intel toto zvláštní Ice Lake představil v ne zrovna ledovém nebo vlahém prostředí Izraele (Ice Lake samotné i tento produkt byly vyvinuté týmem v Haifě). Jmenuje se Nervana Neural Network Processor for Inference (NNP-I), což je zvláštní označení, protože pod označením Nervana Intel původně vyvíjel zcela speciální čipy „ASIC“ pro strojové učení. Proti tomu je NNP-I zdá se o dost odlišný přístup. Jde o akcelerátor speciálně pro inferenci, což znamená běh už hotové vytrénované neuronové sítě pro nějakou úlohu (třeba analýzu obrazu, řízení auta/robotu), nikoliv pro samotné učení (tedy trénování sítí).
Na obrázcích vypadá tento čip jako běžné Ice Lake-Y (s jeho menším pouzdrem určeným pro tablety), nicméně údajně jde o úplně odlišný nový a o dost větší křemík (což je zajímavé, protože to znamená, že Intel musel provést tapeout dalšího 10nm čipu, ačkoliv pro PC zatím musí stačit jen a pouze jediný křemík ICL-U/Y).
Představení akcelerátoru Intel Nervana NNP-I (Zdroj: Tom's Hardware)Čip NNP-I je vytvořen jako modifikace Ice Lake-U/Y a patrně tedy bylo jednodušší ho navrhnout díky sdílení mnoha elementárních součástí a většiny infrastruktury. Měla by v něm být zachována jádra CPU s architekturou Sunny Cove. Je možné, že počet ale byl snížen ze čtyř na nižší počet. Hlavní výpočetní sílu pro aplikaci umělé inteligence (na bázi neuronových sítí) totiž budou dodávat specializované akcelerační bloky navržené přímo pro tuto úlohu – ty by tedy představovaly akcelerátor typu ASIC, kterému by jádra CPU asistovaly a obsluhovaly ho. Tyto akcelerační bloky by na čipu zřejmě měly být integrovány místo bloků jako je GPU a ovladač displeje (a možná i dalších), které byly naopak odstraněny.
Intel Nervana NNP-I (Zdroj: Le Comptoir du Hardware)NNP-I má stejně jako ICL-Y také separátní (asi 14nm) čipset mimo hlavní 10nm křemík, který je možná také navržen speciálně. NNP-I bude mít totiž zcela jiné požadavky na konektivitu, jelikož nejde o samostatný systémový procesor/SoC. NNP-I bude fungovat jako periférie, totiž jako akcelerátor připojený k jinému CPU, patrně přes rozhraní PCI Express 3.0 ×4.
Procesor na modulu M.2
Intel bude tyto čipy (respektive dvojčipová pouzdra) osazovat na modul M.2, na němž by také asi měl mít vlastní paměť RAM. A ten se pak bude instalovat do těchto slotů na základních deskách, rozšiřujících kartách nebo v serverových šasi. Právě pro servery Intel tento produkt koncipoval, představa je taková, že by těchto modulů v serveru mohlo být instalováno několik. Buď ve slotech pro SSD, nebo v riseru, který by jich umožnil zapojit několik do jednoho slotu PCI Express 3.0 ×16 či ×8.
Modul M.2 s procesorem Intel Nervana NNP-I (Zdroj: Le Comptoir du Hardware)Příliš mnoho podrobností o tomto neobvyklém produktu Intel zatím neřekl. Akcelerátor má mít podobnou spotřebu jako notebookové CPU Ice Lake, asi tedy dejme tomu někde okolo 9–28 W. Ve slotu M.2 by asi TDP mělo být omezeno na 15 W, ale spotřeba a výkon asi může jít výš. Bylo totiž uvedeno, že při vsazení do velké karty s více M.2 sloty (tedy něčeho jako jsou adaptéry pro NVMe RAID) mohou jednotlivé moduly odebírat víc elektřiny a mít i větší výkon inference.
Intel k těmto akcelerátorům bude poskytovat software, který umožní na ně AI úlohy zcela přesunout a uvolnit tak kapacitu hlavních CPU v serveru, a také kompilátor, který pro ně bude překládat kód. Zařízení bude podporovat standardní technologie pro neuronové sítě PyTorch a TensorFlow.
Představení akcelerátoru Intel Nervana NNP-I (Zdroj: Tom's Hardware)Nervana Neural Network Processor for Inference nebude asi prodáván na volném trhu a zákazníky budou přímo velcí provozovatelé datacenter a výrobci serverů. Ti již teď údajně dostávají vzorky, přičemž masová výroba má odstartovat někdy do konce letošního roku. Tento akcelerátor tak možná může být teprve druhým 10nm procesorem Intelu (pokud nepočítáme více méně zrušené čipy Cannon Lake). Kromě toho by ovšem měla být blízko i 10nm FPGA Agilex, takže NNP-I by pak byl až třetí.
