Odpověď na názor

Open VINO/DL Boost... no, teoreticky zajímavá věc. Ale řeknu to takhle. Hledali jsme nedávno nějaký software, v kterém by se dal obenchmarkovat přínos.

Existuje AIxprt, AI Benchmark, které není triviálně snadné rozchodit (není to jen instaluj a spusť jako CB nebo GB), jinak nic. To jsou ale syntetické benchmarky, ne reálné aplikace. Z reálných aplikací jsou ty tři softwary na fotky, co tu často citujete (a Intel je mívá v prezentacích, nedivil bych se, kdyby měly akceleraci díky tomu, že to sponzoroval), nevím moc, jak jsou v praxi užitečné.

Takže na rozdíl od AVX-512 to IMHO zatím skoro vůbec nemá praktické využití. Jsem trochu skeptickej, protože oni na desktopu vlastně vůbec moc nejsou AI aplikace, ani akcelerované na GPU (to když jsme řešili jak benchmarkovat, tak v návodech je všude: nainstalujte si CUDA SDK, Visual Studio... takže asi proto moc nejsou uživatelské aplikace :). Prostě dneska je AI na mobilech a v serverech na cílení reklamy (díky technologický pokroku), ale na desktopovém PC je skoro neexistující.

Ale uvidíme, co bude za dva roky, třeba se to trošku rozběhne.

AVX-512 jsou ale proti tomu instrukce, které se dají jednoduše vyžít jen pomocí kompilátoru nebo asembléru, takže ač také je počet aplikací využívajících omezený, tak existují (aniž by to Intel muse u někoho pokaždé objednat). Tam se dá čekat šíření a popularizace mnohem spíš. Ty AI instrukce teď moc nadějně nevypadají.

(Edit: jinak ale slýchám chválu na VNNI, což je část AVX-512, ale snad je to zahrnuté i pod to označení DLBoost, teda ty AI instrukce. Nevím konkrétně, kde se to teď využívá, ale prý jsou to hodně šikovné instrukce pro zpracování obrázků, takže třeba se to časem ukáže jako - relativně - silné místo Rocket Lake.)