Vypadá to, že po zvýšení spotřeby, které přinesla poslední GPU Nvidie (GeForce RTX 3000) tento trend bude pokračovat dál a možná bude jen zesilovat. Měli jsme tu zprávy, že Nvidia chystá karty GeForce s TDP 450 W a pak i 550 W. Ale nejvýkonnější GPU pro servery, čipletový Hopper, to má korunovat – Nvidia u něj údajně chystá čtyřcifernou spotřebu, která přesáhne 1000 W. Bude kvůli tomu patrně potřebovat úplně nově řešené napájení.
Tuto informaci přinesl leaker Kopite7kimi, který v minulosti měl velmi přesné informace o chystaných parametrech GPU Ampere (a to dokonce i ve značném předstihu) a zřejmě má dobré interní zdroje. Nyní zmínil dva detaily o připravovaném GPU Hopper, což je budoucí architektura Nvidie určená pro výpočetní nasazení v serverech a HPC – půjde tedy především o akcelerátor AI, který pravděpodobně ani nemusí mít grafickou funkcionalitu (a skoro určitě budou chybět RT jádra pro raytracing).
Nvidia totiž zdá se v příští generaci opět chystá rozdělení portfolia mezi dvě architektury. Pro výpočetní úlohy má nachystaná GPU Hopper, která údajně použijí čiplety (takže budou složená z více kusů křemíku), zatímco herní grafiky GeForce by měly být založené na asi monolitických čipech s architekturou Lovelace. Obojí by mělo používat 5nm výrobní proces TSMC a uvedení by snad mohlo být v roce 2022.
Hopper by asi těch kusů křemíku mohl obsahovat hodně, protože podle Kopite7kimi má spotřeba být „1xxx“ wattů. Zatím těžko říct, kolik to znamená přesně. Teoreticky by to mohl být rozsah 1000 až 1999 W. Ale už těch tisíc wattů je obrovský skok (dnešní akcelerátory A100 mají TDP 400 W), takže předpokládáme, že až k těm 1999 W TDP akcelerátorů Hopper nepůjde. Pokud bude vyšší než kulatých 1000 W, asi se budeme bavit třeba o něčem jako 1100 nebo 1200 W.
https://twitter.com/kopite7kimi/status/1450295574461227008
Vypadá to sice děsivě, ale je třeba pamatovat na ono čipletové provedení. Doteď byla GPU Nvidie monolitická, což znamenalo, že čip mohl mít plochu jen do nějakých 800–820 mm². Přesto se jejich spotřeba dostala k 350 W (nynější GeForce RTX 3090) až 400 W (Nvidia A100). Je docela dobře možné, že akcelerátor Hopper by mohl používat čiplety, které nebudou zas tak malé, jako jsou třeba CPU komplexy Zen 3 u procesorů AMD, ale spíš se budou velikostí blížit regulérnímu výkonnému GPU třeba se 400–800 mm². A těchto čipletů by mohlo být propojeno několik.
Tip: Nvidia studuje vícečipová GPU. Budoucí highendové čipy by mohly být slepence
Je proto možné, že sice Hopper bude mít šílenou spotřebu třeba 1200 W, ale bude to spotřeba něčeho, co bude ekvivalentem třeba čtyř samostatných 300 W GPU v předchozí generaci. Viděno takto by tedy žravost nemusela vlastně být zas tak vysoká, jen se výpočetní výkon a energetický příkon výrazně zahustí do menšího prostoru.
Starší studie Nvidie navrhovala čtyřčipové MCM GPU s koherentním propojením a NUMA modelem (Zdroj: Nvidia)48V napájení v serverech
Na chlazení (které asi obvykle bude vodní, ne-li třeba imerzní) a elektrické napájení ale taková integrace bude mít hodně drsné nároky. Nvidia podle Kopite7kimi proto změní systém napájení a místo 12V napájení z ATX zdrojů nebo jim podobných serverových se použije 48V napájení. Hopper tedy bude potřebovat nové zdroje. Ale protože tato GPU budou mít pravděpodobně speciální mezaninové provedení, nikoliv formu standardních karet PCI Express, je to celkem jedno, protože stejně budou potřebovat od základu nový návrh serverové desky a šasi. 48V napájení se přitom v serverech připravuje tak jako tak (v plánech ho má také Intel), takže se nebude muset přidávat jen speciálně kvůli Nvidii.
Díky čtyřikrát vyššímu napětí bude možné dodávat do komponent vysoké příkony výrazně efektivněji, teoreticky by při stejném proudu měly stejné dráty přenést čtyřnásobek wattů, kdežto při zachování 12V napětí by se muselo přidat mnoho dalších vodičů.
Nvidia Ampere je tu: obří výpočetní GA100, 8192 shaderů. Architektura jde i do GeForce (Fotogalerie)
Asi je dobré zdůraznit, že se zde celou dobu bavíme o GPU určených pro výpočetní použití v serverech, ne o grafických karetách pro herní PC. V kartách GeForce RTX 4000 nebo 5000 se tedy spotřeby přes 1000 W bát nemusíme. Je ale otázka, zda se u nich také třeba nemůžeme dočkat toho, že výhledově přejdou na nějaké úplně speciální provedení místo dosud používaných karet PCI Express ×16.
Nvidia totiž prý chystá analogické, byť menší zvyšování spotřeby také v herních grafikách, kde by prý teď mohl vyjít model se 450W spotřebou (GeForce RTX 3090 Ti), ale v další generaci Lovelace možná už i 550W karty. Toto mají ale stále být monolitická GPU. Je otázka, zda třeba Nvidia nemá v plánu poté vydat nějaké hodně velké a silné čipletové konfigurace GPU také pro herní oblast (samozřejmě asi je podmínkou, že by také měly hodně vysoké ceny). Ty by pak třeba mohly jít ještě výš ve spotřebě. A je pak otázka, zda by také nebylo na místě u nich použít 48V napájení a případně úplně jiný formát zapojení do počítače. Původně se ostatně považovalo 300 W za určitý limit toho, co by měla karta PCI Express spotřebovávat a karty s vyšší spotřebou byly v podstatě mimo specifikace.
Zdroj: Kopite7kimi
