Odpověď na názor

"Proc? Pro programatora je to krasnej nastroj. Mam program, ktery je vesinu casu sekvencni, ale najednou potrebuju udelat neco, co je embarrassingly parallel"

Ono jde třeba už jen o to, že když váš program v jednu chvíli traverzuje strom, a v jednom bodě si potřebuje odskočit výnásobit matici nebo něco podobného, tak to volání nemusí znamenat tlustou knihovnu, syscall, přenos dat do jiné fyzické paměti, výpočet, a zase všechno zpátky. Čistě technicky, proč by ta komunikace částí programu s jinými požadavky na HW měla být výrazně náročnější než obyčejné volání podprogramu?

Já už jsem i přemýšlel o kompilátoru, který by různé kompilační jednotky (zpravidla jednotlivé funkce) kompiloval podle toho, co skutečně dělají (ať už by to zjišťoval pomocí heuristik, nebo pomocí profilování), tak, aby celá ta věc běžela zcela transparentně (skákavý kód, obecné algoritmy, náhodné přístupy do paměti, => CPU; vektorizovatelný/branchless kód, proudový přístup do paměti => GPU) s minimální režií. Programátor by se o to vůbec neměl starat, natožpak učit nějaké OpenCLka a CUDy a speciální jazyky. To si pak člověk připadá jako v sedmdesátých letech. ;/ Zdá se mi, že AMD se snaží o něco právě takového.