Názor k článku Lepší kvalita DLSS: ve hře Control má Nvidia temporální stabilizaci proti shimmeringu od Jan Olšan - Jinak tahle vlastnost, kdy "Super Resolution" upscalovací algoritmy...

  • 3. 9. 2019 14:31

    Jan Olšan (neregistrovaný)

    Jinak tahle vlastnost, kdy "Super Resolution" upscalovací algoritmy mají být schopné získat nějaké spatiální detaily navíc díky temporální analýze (tedy že se při upscalování snímku N dívají třeba i na N-1 a N+1) není nová věc, to se normálně zkoumá/provádí už několik let. Jen dřív se to vztahovalo k upscalování videa - třeba z Full HD na 4K v televizích, ne her.

    Pracuje se při tom třeba se sub-pixel pohybem ve videu, tím jak snímek od snímku je objekt zabraný trošku jinak a můžou na něm být vidět trošku jiné detaily, takže když to obojí zkombinuju, tak můžu dodat ty detaily ze sousedních snímků do snímků, kde zrovna kvůli rozlišení nebo kompresi vidět nejsou. A podobný efekt může být i když to "video" jsou vykreslené snímky ze hry.

    V tom mojem článku je to zmíněné tady:
    "Toto zprůměrování se při filtrování videa často používá k potlačení šumu, ale zde by paradoxně mohlo obnovovat detaily, které spatiální DLSS rozmazávalo. A to díky tomu, že temporální algoritmus je může najít v po sobě následujících snímcích, a tím je zachovat coby detail, zatímco spatiální algoritmus je může považovat za šum a odstranit je."

    Nvidia ovšem úplně neříká, že tahle vlastnost se projevuje v Control, jak už bylo řečeno. Zmiňují ji v kontextu toho AI research modelu, ale ponechávají stranou, jak moc se jí podařilo zachovat v té zjednodučšené verzi. Ale IMHO by by mohla, jen to bude dost záviset na tom, jak je přesně to temporální filtrování/analýza nastavené. Jestli používají další snímky přímo jako vstup pro tu neuronovou síť, tak tam bude minimálně potenciál, aby se to tak mohlo chovat. Ale zase jako pořád je to interpolace odhadující chybějící pixely, takže je třeba pamatovat na to, že to nebude úplná magie, stejně jako to nikdy nebyla magie v těch televizích. Nativní obraz by pořá měl být nepřekonatelný (i když paradoxně může mít ten efekt shimmeringu z vykreslování, protože neprošel tou temporální stabilizací jako ten filtrovaný upscale... podobný paradox/kompromis jako to, že nativní obraz bez DLSS má víc detailů, ale může mít aliasing protože DLSS kromě upscalování má taky efekt anti-aliasingu).