Provozovat AI modely na vlastním PC má řadu výhod. Výkon dodají GeForce RTX

 Autor: NVIDIA
AI samozřejmě není jen cloudová záležitost. Ani ta generativní. Pro efektivní lokální běh je ale potřeba mít dostatečně výkonný hardware, který je pro podobné činnosti optimalizovaný. Tady přijdou na řadu grafické karty NVIDIA GeForce RTX (potažmo všechny NVIDIA RTX GPU) disponující dedikovanými akcelerátory AI s názvem Tensor Cores. Zejména aktuální řada 40 má rozhodně co nabídnout.
Komerční sdělení
28. 8. 2024

Sdílet

Výhody platformy RTX však netkví jen v hardwaru. NVIDIA TensorRT je ekosystém API určených pro deep learningovou inferenci. Přináší mimo jiné také optimalizace modelů, díky kterým dokáže násobně zvýšit výkon při práci s nimi. Lokálně tak lze na PC s GeForce RTX provozovat např. populární model na generování obrázků Stable Diffusion, a to včetně podpory ControlNets, které umožňují lépe kontrolovat výstupy generované grafiky. 

Autor: NVIDIA

A pokud by to na vás bylo moc složité, můžete si vyzkoušet snadnou tvorbu krajinek pár tahy myší v aplikaci NVIDIA Canvas.

Nezůstáváme ale jen u grafiky. NVIDIA před několika měsíci dala k dispozici ChatRTX, inovativní aplikaci, která umožní vytvořit si personalizovaného chatbota s využitím vlastních dokumentů, poznámek, obrázků a dalších dat.

K odpovídání na základě těchto podkladů využívá technologii retrieval-augmented generation (RAG), která může běžet lokálně bez nutnosti posílat údaje na vzdálené servery. Děje se tak opět díky možnosti akcelerace pomocí GPU GeForce RTX, zde je konkrétně potřeba řada 30 nebo 40 s alespoň 8 GM VRAM. ChatRTX podporuje různé jazykové modely, jako jsou Llama od Mety, Gemma od Googlu nebo Mistral. 

Umí najít i fotky podle toho, co je na nich zachyceno, což umožňuje podpora modelu CLIP od OpenAI. Díky funkci Whisper zase dokáže pracovat s mluvenými povely.

Jazykové modely se dostávají i do her a blíží se doba, kdy budeme moci přirozeně komunikovat s NPC i ve velkých titulech. Pomůže s tím sada technologie NVIDIA ACE, která nyní obsahuje lokálně běžící malý jazykový model pro zajištění rychlých a přesných odpovědí na postav hráčovy dotazy. Podívejte se na ukázku z připravované hry Mecha BREAK.

Není to jen o generativní AI

Generování grafiky textů a dalšího obsahu dnes zažívá obrovskou popularitu. Je integrováno i v řadě kreativních aplikací. Ale AI zde lze využít i k usnadnění práce a eliminaci repetitivní činnosti. GeForce RTX excelují při práci s videem i grafikou. Softwarové sady jako Adobe CC nebo populární nástroje, mezi něž se řadí DaVinci Resolve, díky AI umožňují díky umělé inteligenci pár kliknutími nahradit jinak zdlouhavé procesy jako maskování pozadí nebo ořez videa. DLSS, technologie pro zvýšení snímkové frekvence známá z dnes již stovek her, umožňuje plynulou práci s náhledy komplexních 3D scén. AI také efektivně potlačuje šum v ray tracingových scénách.

AI může také asistovat v každodenním životě. Rozlišení i úhlopříčka monitorů a televizí stále stoupá, ale s tím je pořád větší a větší problém se starším obsahem. Jeho kvalita prostě nevyhovuje dnešním standardům. Řešení nabízí RTX Video, které umožňují majitelům grafických karet GeForce RTX zlepšit kvalitu videa přehrávaného online i na počítači. Podporuje prohlížeče Chrome, Firefox a Edge a oblíbený přehrávač VLC Player. Ale využijí jej i tvůrci např. v DaVinci Resolve.

Sestává ze dvou nástrojů: První je  RTX Video Super Resolution pro odstranění artefaktů a kvalitní AI upscaling. Druhý nese název RTX Video HDR. Jak již název napovídá, převede video do standardu HDR10 a na kompatibilních displejích tak oživí barvy. 

NVIDIA Broadcast, aplikace využívající AI akcelerovanou pomocí GPU GeForce RTX, nabízí robustní sadu funkcí pro zlepšení videohovorů a streamování. Mezi hlavní funkce patří odstranění hluku na pozadí a ozvěny místnosti ať už z vašeho vysílání nebo u všech ostatních účastníků konferenčních hovorů. Šikovné je také nahrazení pozadí bez potřeby zeleného plátna.

Práce i hraní na PC se zkrátka neustále posouvají kupředu a lokální akcelerace nástrojů nebo funkcí využívajících AI nabízí řadu nových možností. S GeForce RTX řady 40 je můžete využívat naplno i vy.