Názory k článku Test Rocket Lake a AVX-512: jak ho zapnout v x265 a jaký je výkon a spotřeba?

Zajímavý článek. Jen tak dál v podobných testech.

Z těch grafů hlavně vyplývá, že je nejlepší koupit na podobnou práci AMD a ne Intel. Konkrétně Ryzen 9 5950x je i pŕes absenci avx-512 mnohem rychlejší než i9 se zapnutým AVX-512 a spotřebu má přitom nižší než ta i5 s avx-512. Škoda, že v anketě tahle moznost chybí.

Zajimavy clanek. avx512 bych nezatracoval, preci jen intel se svym rucne optimalizovanym asemblerem dokaze hodne, viz 32 particle movement benchmark s AVX: https://www.anandtech.com/bench/product/2787?vs=2675


Procaky v porovnani:
Intel Core i9-11900K (8C/16T, 125W, $539) - (Rocket Lake) 3.5G Base, 5.3G Turbo
AMD Ryzen 7 5800X (8C/16T, 105W, $449) - 3.8G Base, 4.7G Turbo

Vysledek:
intel: 32211
amd: 5624

protoze ale zdrojaky nejsou k dispozici clovek si nemuze overit zdali avx2 kod neni prilis pesimisticky (neoptimalizovany).

Super clanek a test, diky!
Jinak se tak nejak ukazuje, ze mistni odbornik na kodeky a encodovani videa se malinko spletl. Takhle to ted vypada, ze Raketa neni uplne raketa ve vykonu, zatimco v prikonu doslovne - a to prave v jim vyzdvyhovanem pripadu - video encodingu. Ale mozna zase autor testu udelal chybu, ze netestoval Intel CPU na 5,3 all-core ;) Mam ale spis pocit, ze mistr CeKacko 53 se ted sam schovava v garazi, kterou tu stale castuje jine :D

Z celeho testu vypichnuty doslova jeden pripad. Ja bych to take nezatracoval, jak rikal Aznohh, na zimu se to bude hodit, jen to chce nejaky ten matros na encoding ;)

????????

????????

Tak o AVX-512 se ví dlouhodobě, že to je nepodarek, ten test na aktuálním železe to jen potvrzuje.

Jen dalsi duvod, proc se RL vyhnout.

Tenhle test AnandTechu (3DPM 2.1 AVX2/AVX-512) je anomálie a pokud můžu říct, je to asi problém softwaru.
Myslím, že se tam naráží na to, že kód používá nějakou operaci, na kterou má AVX-512 speciální instrukci, která v AVX2 není. Má to snad být nějaká 64bitová konverze mezi INT a FP, jestli si dobře pamatuju, ale nějak se mi nedaří to doheldat. A celý ten výkonnostní rozdíl dělá snad jediná tahle operace. Takže by to byl spíš mikrobenchmark (a zůstává ta otázka, jestli je správně napsaný).

Ian Cutress říká, že to někdo ručně optimalizoval, i když to podle těch výsledků úplně nevypadá. IMHO by nejspíš ta operace šla ručně rozepsat na kód v AVX2/AVX/SSE* a pak by rozdíl byl maximálně 2-3×.*

Je dobré pamatovat, že to není nějaký software, který by se normálně používal, ale diplomka autora/redaktora, do které byl potom přidaný ten kód AVX-512 a AVX2 někým jiným. Je hodně otázka, jestli to do testování patří. Normálně by tenhle aspekt nevadil, ale v kombinaci s tím, jak se to chová...

Jako příklad: AnandTech to použil k porovnání jader Skylake a Cannon Lake a vyšlo mu, že je Cannon Lake třicetpětkár rychlejší: https://images.anandtech.com/graphs/graph13405/105622.png


Je pravda, že to pořád ukazuje výkon té jedné specifické operace (pokud tedy není ta větev kódu, kterou to používá na procesorech bez AVX-512, špatně napsaná). Ale v programech, které budete používat, tohle zrychlení nikdy neuvidíte.

-------------------------------------------
Rozhodně jinak souhlasím s tím, že se AVX-512 nemá zatracovat.
Doufám, že bude brzo ve víc procesorech než teď (AMD snad v Zen 4, i když tam to ještě nemusí mít ideální výkon, spíš to asi poběží stejně rychle jako s AVX2 - no teda kromě toho 3DPM, tak asi taky bude lol výsledek jako na Intelu). Protože jako užitečné rozšíření to určitě je, AVX-512 zase rozšíří možnosti optimalizace aplikací a je proto třeba, aby bylo v co největší základně procesorů a vývojáři měli motivaci to používat.
Jen teda podle tohohle benchmarku se neorientujte :)

Pokud chcete test, který ukazuje přínos AVX-512 víc realisticky, tak bych navrhoval yCruncher v jednom vlákně, kde je vidět, že AVX-512 dosahuje výrazně lepší výkon, než má jádro Zen 3 nebo Skylake bez AVX-512 (v multithreadu už to zdá se moc vidět není, asi proto, že výkon procesoru je pak omezený propustností paměti, a tudíž se už zrychlení nemá šanci projevit?).
Viz https://www.cnews.cz/test-amd-ryzen-9-5950x-32vlaknovy-procesor-na-ktery-intel-nema-odpoved/32/ (druhý graf, "single threading")

*
Třeba v x264/x265 myslím takovýhle případ, že by neexistence nějaké instrukce v předchozích procesorech vedle k podobným průlomovým zlepšením, nikdy nenastal (taková ta 2-3x zrychlení *dílčích funkcí* jo, ale pak to ve výsledku dá pár až několikprocent). Tohle spíš připomíná jiný případ. Když zkusíte spustit x265 a procesoru, který má jenom SSE2 a chybí mu SSE4, tak tam bývalo a nejspíš pořád je asi 3-4× zpomalení proti tomu, jaký by ten procesor měl zhruba mít výkon. A je to proto, že hodně SIMD assembleru je napsaná s předpokladem, že má CPU minimálně SSE4, takže se na CPU bez SSE4 nespustí a běžíte jenom s C++ kódem. x264 tohle nedělá protože je starší a všechny SIMD funkce jsou pokryté i pro procesory s SSE2.

gogo1963 9.8.2021 at 15:16
Mozna to jako posmesek (ode me) muze znit, ale neni. Ja jsem za Intel rad a to dokonce i v pripade RL. Dokonce jsem uvazoval o porizeni v pripade, ze AMD APU bude nedostupne. Co se tyka toho 5700G, tak bylo za cenu, za kterou bych mohl poridit treba tu i7-10700 i s deskou, jen to iGPU je pouze zobrazovadlo (ja jsem potreboval trochu vic).
Ode me to byl trochu stouch do vsech tech vylhanych od od otravneho toxickeho CeKacka, ktery tu pel ody na RL a jak jsou tyto CPU bezkonkurencni na encoding a podobne nesmyly. Kdyz je realny vysledek s peknou analyzou venku, tak je zalezly nekde v garazi, kterou tu neustale urazi lidi. Mozna je na dovolene, ale to nic nemeni na trapnosti a lzivosti jeho trapnych prispevku.
Co se tyka AVX-512, za me je to take rozhodne dobre, jen to uplne neskaluje s prikonem, to bychom se ale obecne mohli bavit o efektivite kdejakeho "top", "high-end" produktu, ktery ma vyhnany vykon za cenu nelinearne rostouciho prikonu a ceny (coz v tomto pripade AVX-512 je).
Ad zast k vyrobci - tohle jde mimo me uplne. Jsou spolecnosti, ktere maji politiku, se kterou se nestotoznuji, nebo treba jen politiku jistych produktu. Jako priklad bych uvedl Nvidii a jejich pristup k opensource ovladacum, resp. jak doslova kaleji na tyto principy. Na druhe strane bych ale na praci nedoporucil nic jineho, nez Nvidia GPU, protoze AMD ovladace jsou neskutecny nefunkcni srot.
A jeste jedna vec, vas "AMD aristokracie" (za kterou se ja osobne rozhodne nepovazuji a ani bych nechtel byt spojovany s jakoukoliv firmou typu AMD, Intel, Nvidia) prece nemusi vzrusovat, mate svoji dobre fungujici i7, tak jste v klidku, ne? :)

Mate pravdu, unika, ale spis hodne nez trosku.

To IMHO není pravda, jenom je to kombinace toho, že

a) x265 má jen omezené zrychlení, i když těch +8-9 % výkonu podle mě s přihlédnutím k tomu charakteru kódu taky není málo (a z části to může být i tím, že AVX-512 nemusí být použité úplně všude, kde by se to při maximálně brutální optimalizace dalo udělat)

b) implementace Intelu na 14nm procesu. Ten procesor prostě příliš žere a Intel ho nechává běžet na neoptimálních frekvencích a napětích.

Myslím, že na 10 nm, tj. Ice Lake-SP (třeba těch Xeonech W-3300) a na Tiger Lake by ta efektivita mohla dopadnout už o dost líp.

Jinak co tak vidím, tak lidi, co se věnují optimalizování kódu na procesorech x86, mají prakticky vždycky nebo ve velké většině případů AVX-512 rádi a chtějí ho.

Upřímně řečeno, nedokážu si představit reálnou situaci, kdy se vyplatí nést náklady nižší frekvence a zároveň vysokého hrubého příkonu výměnou za dostupné AVX-512 instrukce (tím netvrdím, že nic takového neexistuje, ale já jsem poctivě hledal, a takový scénář nenašel. Nejvíc co se blíží, je právě ten Handbrake)

Další věc je, že AVX-512 podporují jen Intely, a to ještě ne všechny. A jak jsem už psal - řekněme 10-15% navíc za cenu srovnatelně vyšší spotřeby - to mi připadne jako l'art pour l'art.

AVX512 mohla byt featura, ktera mohla delat RL aspon trochu zajimavym oproti konkurenci. Evidentne se to moc nepovedlo a zapada to do nepovedeneho obrazu RL CPU jako celku. Oproti CL neni vyjma trochu vyssiho vykonu, zajimavy prakticky v nicem (snad vyjma podpory AV1) a CL jej valcuje i cenou.
To ze tady CK emental mozna nepel ody presne na RL AVX512 je celkem podruzne. Otravoval tady ise svymi priblblymi nesmyslnymi mentalitami nescetnekrat.

Moc nerozumím vašemu povzdechu, že AVX512 mohlo dělat RL zajímavým proti konkurenci. Z čeho usuzujete, že ho to zajímavým nedělá? Z toho, že implementace h.265 ho není schopna pořádně využít? Tak už to u algoritmů chodí, že ne vždy se hodí všechny instrukce či datové typy.
Z mého pohledu, jako z pohledu bývalého programátora, může být implementace AVX512 zajímavá kvůli psaní programů, které AVX512 budou využívat. Bez procesoru, který to umí, se to programuje dost blbě.
Jinak na nějaké výpočty RL není. Tam je bez diskuze lepší pořídit si buď 5900x či 5950x nebo ještě něco lepšího ze serverového světa.