Amazon přechází v cloudu EC2 na procesory ARM, nasazuje vlastní čipy Graviton

Včera jsme tu měli zprávu o čínských serverových ARM procesorech od Huawei, které by mohly přinést zatím nejvýkonnější servery s touto instrukční sadou. Zároveň přišla ještě jedna zpráva, která věští větší rozšíření této platformy v datacentrech. Procesory ARM se totiž poprvé objevily v cloudových instancích AWS od Amazonu. A co víc, jde o procesory, které si pro tyto účely Amazon sám vyvinul a nechává vyrábět. To možná předestírá docela výraznou změnu v tom, jak byznys okolo serverového hardwaru bude fungovat, a potenciální problém pro firmy jako Intel, které na prodeji CPU s poměrně vysokou marží stojí.  

Amazon má vlastní procesory

Procesory ARM nabízí Amazon v instancích pojmenovaných A1, které jsou určené pro zátěže typu „scale-out“, jejichž uživatelé mají upotřebení pro větší počet méně výkonných serverů. Výkon jednoho CPU není tedy tak vysoký, ale tyto instance mají pro uživatele nižší cenu. Založené jsou na procesorech pojmenovaných AWS Graviton, což je specialita Amazonu. Lépe řečeno jde asi o dílo izraelské firmy Annapurna Labs, která ARM procesory pro servery či NAS vyvíjela a Amazon ji odkoupil v roce 2015. Zdá se, že by mohlo jít o čip, který se dříve označoval Alpine AL73400, mimo Amazon se ale zřejmě nedostal.

Graviton je SoC obsahující 16 jader Cortex-A72 s 64bitovou architekturou ARMv8-A. Toto jádro je už nyní starší (odhaleno bylo v roce 2015), ale v nabídce ARMu je zatím poslední, které je zamýšlené pro výkonná nasazení jako jsou servery. Pozdější jádra A73, A75 a A76 jsou totiž určená pro mobilní trh. Až od jádra Cortex-A76 bude odvozeno zase nové serverové jádro, zatím kódově označené Ares, jež naváže na linii Cortexu-A57 a A72. Jde právě o jádro, které bude mít onen procesor Hi1620 od Huawei.

Prezentace Amazonu představující procesory AWS Graviton v EC2 (Zdroj: Andrea Pellegrini)

AWS Graviton v první generaci je k dispozici už nyní, ale jde tedy ještě o starší generaci serverových ARMů, která je zamýšlena spíš trošku pro pilotní testování a ladění platformy. Ač tedy někteří propagátoři ARMu v datacentrech včerejšek prohlašují za zlomový okamžik, je to asi třeba brát s rezervou.

16 jader čipu běží na taktu až 2,3 GHz a obsahují L1 cache o kapacitě 32 KB pro data a 48 KB pro instrukce. Čip nemá L3 cache, L2 cache o kapacitě 2 MB je sdílená vždy pro klastr čtyř jader (celkem je jí tedy 4 × 4 MB). Jádro obsahuje FPU, jednotky SIMD (instrukční sada Neon) a akceleraci pro algoritmy AES, SHA-1, SHA-256, GCM a algoritmy CRC32. Na instancích A1 přirozeně běží Linux (RHEL, Ubuntu, Amazon Linux), ta maximální má k dispozici všech 16 jader a 32 GB paměti RAM, s 10Gb/s síťovou konektivitou.

Instance A1 s procesory AWS Graviton

Pro reálné nasazení je výkon relativně nízký

Na webu se už objevily benchmarky. Podle testu v Geekbench, který pořídili přímo tvůrci programu, je jednojádrový výkon Cortexů A72 v Gravitonu zhruba na úrovni mobilního Snapdradonu 835 od Qualcommu (Cortex-A73). Instanci A1 s Gravitonem otestoval také David Schor z webu WikiChip. Ten píše, že vše víceméně fungovalo jako s čipem x86, použít se daly stejné skripty. Graviton je ovšem v reálném použití stále dost pomalý (doslova „too damn slow“).

Čip AWS Graviton se všemi 16 jádry v testu Geekbench

V Phoronix Benchmark Suite si prý nevede špatně, ale při pokusu spustit na něm celý web WikiChip (Nginx, PHP a MediaWiki a další komponenty) byly výsledky špatné. Instance s 16 jádry měla nižší výkon než 5 jader Broadwell-E v procesoru Intel Xeon E5-2697v4. Podotýká ovšem také, že zaznamenal pád (segfault) PHP. Pokud nešlo o nějakou chybu na straně konfigurace WikiChipu, může to ukazovat, že softwarové vyladění infrastruktury na platformě ARM přece jen ještě není bezchybné.

https://twitter.com/david_schor/status/1067456537264832512

Budou si cloudoví obři vyrábět vlastní procesory?

Amazon ovšem asi po tomto pilotním nasazení bude pokračovat, přičemž zpětná vazba raných uživatelů má asi také pomoci s dotažením platformy. V budoucnu budou asi čipy Graviton první generace nahrazeny něčím lepším a výkonnějším (například se zmíněnými budoucími jádry Ares a pravděpodobně také s lepším systémem pamětí cache). Pokud by se totiž ARMu podařilo nabídnout výkonná jádra a infrastrukturu okolo nich, mohly by velcí provozovatelé cloudů jako je Amazon nasadit vlastní čipy ve velké míře. Klíčové zde je, že při vlastním návrhu zaplatí jen cenu za vývoj a pak cenu za výrobu v továrně jako je TSMC, nikoliv ještě marži výrobci serverového CPU. Ta zrovna bývá hodně velká, a to i přesto, že velcí hráči mají velkou schopnost smlouvat a platí mnohem nižší než ceníkové ceny.

Pro firmy jako AMD a Intel by se tedy tímto vývojem mohly na trhu podstatně zhoršit podmínky. Ovšem je ve hvězdách, zda bude licencovatelné IP od ARM Holdings opravdu stačit na to, aby každá větší společnost dokázala dostat do výroby SoC konkurenceschopný s nejnovějším Xeony (a Epycy). To je poměrně velký otazník. To, že se byť i pomalé a spíše demonstrační procesory ARM nasazují v serverové sféře, je ale krok na cestě k serióznějším pokusům. Význam to tudíž má, byť není Graviton nijak zvlášť dechberoucí hardware.

Exkurz: Amazon prý stál za ARM epizodou firmy AMD

Web The Register jinak v článku o této události zmiňuje zajímavou zákulisní informaci. Předtím, než Amazon koupil společnost Annapurna Labs, na níž program ARM čipů postavil, údajně měl vyvíjet ARM čipy s AMD, nebo je pro něj vyvíjelo AMD. Zřejmě jako semi-custom projekt byl připravován nějaký SoC s jádry ARM (připomeňme, že příklon k ARMu AMD oznámilo v roce 2012, byla to tehdy velká událost). Ovšem ten podle všeho Amazon neuspokojil nebo jinak selhal a spolupráce se rozpadla.

LeMaker Cello, jediná deska s Opteronem A1100, která se měla dostat do prodeje. Nakonec ani na ni nedošlo, prodej byl zrušen kvůli nevyřešeným problémům se slotem PCIe

Jejím plodem ale byl údajně procesor Opteron A1100, kódově označený Seattle, což byl nakonec jediný ARM procesor AMD. Byl ovšem značně opožděn a nakonec se prakticky vůbec neujal. Když v roce 2017 AMD slavilo úspěch s architekturou Zen, byl tento exkurz už obecně považován jen za vyplýtvané peníze. Ale pokud šlo o projekt předtím chystaný pro Amazon, dává nyní přece jen o něco větší smysl. AMD ještě v roce 2014 oznámilo výkoné ARM jádro K12, po němž se ale také slehla zem. Je možné, že právě rozpad spolupráce s Amazonem v roce 2015 vedl k tomu, že i z tohoto projektu sešlo...