Názory k článku AMD chce dohnat náskok Nvidie v AI. Instinct MI325X, MI350X. Nové generace každý rok

jo AMD chce, jenže chtít nestačí. Nvidia dodává ke svým výpočetním kartám kompletní a léty ověřený software stack a jejich CUDA je prostě top, zatímco AMD se furt tak nějak plácá se svým ROCm a ta jejich softwarová podpora prostě nedosahuje úrovně Nvidie ( což je mimochodem důvodem, proč více zakazníku volí Nvidii navzdory vyšší cenám )

obecně je ve firmě vidět, že se hodně začalo skloňovat AI, ačkoliv ještě před rokem to bylo v AMD skoro sprosté slovo. Lisa Su se snaží naskočit na rozjetý vlak a vytvořit dojem, že AI je ve všem a všude, proto ty Ryzen AI, AIMD, NPU, MIx rozšířená řada, roční kadence, atd. Ale jeden se neubrání dojmu, že to je tochu pozdě a že zkrátka AMD opět zaspalo a teprve teď si uvědomili ten potenciál, když se Nvidia koupe v penězích. A tak teď ve vývojovém oddělení práskají bičem a markeťáci dávají dohromady nové slajdíky s grafy, kde MIx bude výkonem nad Nvidií doufajíc, že jim na to aspoň pár velkých zákazníků skočí

Ani bych se nedivil , kdyby i nove RDNA4 karty měly v názvu AI :-)

Víte, co je největší slabina nových Ryzenů? Nemají NPU.
Vazna chyba, co nema AI je becko. A ze AI zpracuji pres AVX? Malo. :-)

Do AI šlapou už dyl. Ale pro AMD je velký problém priority platforem. Musí vždy někde ubrat, když potřebuje někde přidat. Je mnohem více rozkrocene než nVidia. A to je i slabina AMD. Nvidia to podchytila mnohem dříve. Nicméně AMD má srovnatelné produkty a proto nemá problém ty produkty prodat. Já to naopak AMD preju . Protože nikdy není dobrý mít jen jednoho hráče na trhu. Nvidia je hodně dobře rozjeta. Prezentace blackwellu byla famózní. Ale AMD držím palce mnohem víc a jsem víceméně víc nazhavenej na nový produkty. Právě pro tu paritu.
A myslím, že amd hodně podcenujes. Není to banda i.d.i.o.t.u jak naznačuješ. Což není ani v Intelu, přestože se po něm poslední roky mnoho lidí vozí.

Proč by to měl být problém? Udělali si jméno na superpočítačích a rostou v serverech. Stejně si myslím, že AI je z větší části bublina, která splaskne, protože když pominu vývoj léků, nových materiálů a obecně výzkum, tak se často užívá na blbosti. K čemu je generování textů a obrázků, kromě toho, že tak vznikají mimojiné fake zprávy? Nebo k čemu je užitek toho, že lidi na fotkách nebo videu vypadají jinak? Lidi si málo lžou?

Na rozdíl od Nvidie u AMD nedělají akcelerátory zaměřené víc pro AI, stále jsou dost universální a výkonné i pro vědecké výpočty. To může právě v superpočítačích být velká výhoda. Určitě lepší než tam mít zbytečně dva typy.

Bublin ve světě IT bylo hodně.
První .com. Jo když praskla, tak to byl rachot.
Ale kde je .com dnes?
Moje děti si bez internetu neobjednaji oběd (strava.cz), neodevzdaji domácí úkol(teams), nedozví se jaké mají známky (bakalari.cz).

Druhá BTC. Kurz láme rekordy už 15 let.
To je docela dlouhý život bubliny.
Může se stát že kurz padne pod 1MKč, ale za chvíli může vyletět k 10M.

AI sice přitáhla hodně investic. A někteří se možná spálí. Až bude bublina praskat.
Ale do původních kolejí se to už nikdy nevrátí.
AI je budoucnost. Stejně jak internet a BTC.

14. 6. 2024, 06:39 editováno autorem komentáře

Ještě mne napadá to rozkročení AMD, to není nevýhoda. Právě naopak, jsou díky tomu odolnější vůči neúspěchu. Nejsou tak závislí na jedné nebo dvou produktových řadách.

Tak asi u AMD zjistili že, se jim vyplatí více AI než procesory nebo grafické karty. Proč jenom z toho mám špatný pocit?

Akcelerátory s nižší přesností FP4.....

Tak hlavně že Nvidie byla kritizována, že pro marketingové testy dělá výpočty s nižší přesností.
A teď koukám že AMD bude tímto vybaveno také, a do toho že plánují vydávat novou generaci každý rok, opět po vzoru Nvidie?

xD To mě baví, co na nás AMD vytáhne ještě ?
Že tam nešoupnou rovnou FP2 nebo FP1 (pokud existuje), no vlastně ne, oni musejí počkat až to udělá Nvidia a až pak to taky okopírují.

Jako je to dost extrém. Kdo ještě pamatuje zobrazení s 16 barvama ve Windows 3.1, tak to je počet hodnot, který může mít hodnota INT4 - 16.

U FP4 to bude ještě větší brutus, mělo by to být 2 bity pro mantisu (4 možné hodnoty), 1 bit pro exponent (jeden bit sebere znaménko). Nebo 3 bity (8 hodnot) pro mantisu, nic pro exponent...

Ti uživatelé, co ty AI modely používají nebo trénují holt ale chtějí víc výkonu. Uvidíme, jestli to fakt dokážou využít. Asi to většinou nebude pro úplně všechny výpočty a část bude s vyšší přesností ("vyšší"... už to FP8 je dost limitované).

Jestli jsou podle vás 4 bity brutus, tak se radši nedívejte na 2b, nebo dokonce 1b papers. :D

FP2 a níž z principu existovat nemůže. Ono to začalo, co si pamatuju FP16, který existuje mraky let a začal jako Half. 32 - Single atd, asi už víte. Ale Intel zavedl odlišné provedení 16. jako BFloat. Ten přestal stačit a přišlo FP8 a nyní FP6 a FP4.
Kdysi byl binec ve formátech. Digital u minipočítačů PDP měl 12, 18, 36 bitů mimojiné - samozřejmě podle modelu. Existovaly i 32 a 64 bit stroje, ale taky 60 bitů. Každý výrobce si jel své formáty. Digital VAX už byly jen 32 a 64 bit, ale stále ještě před standardem IEEE754.
Píšu to ptoto, že sice opět narůstá počet datových formátů, ale naštěsí aspoň pod nějakým společným standardem.

The more you buy, the more you save