CUDA, RT a tenzorová jádra: co v grafické kartě dělá co?

V grafické kartě jsou čtyři samostatné bloky a každý dělá něco jiného: univerzální výpočetní jádra, RT jádra, tenzorová jádra a mediální engine. Univerzální jádra, u NVIDIE zvaná CUDA a u AMD stream procesory, vykreslují obraz a je jich nejvíc — RTX 5090 jich má 21760, RTX 5070 celkem 6144. RT jádra počítají dopad odražených paprsků, tenzorová jádra zase upscaling a generování snímků. Mediální engine kóduje a dekóduje video a s výpočetními jádry nemá společného vůbec nic. Pátým rozhodujícím prvkem není žádný typ jádra, ale kapacita paměti karty, která často rozhodne o použitelnosti dřív než hrubý výkon. Počet jader se navíc nedá porovnávat mezi značkami ani mezi generacemi, protože každá architektura zvládne za takt jiný objem práce.

Když si otevřeš specifikace grafické karty, vysype se na tebe pět různých počtů jader a tři jednotky výkonu. Většina lidí z toho vytáhne jediné číslo, obvykle počet jader CUDA, a podle něj se rozhoduje. Je to nejčastější omyl při výběru karty, jaký v praxi vidím.

Grafická karta se sejmutým krytem, odhalená deska s čipem grafického procesoru a paměťovými moduly

Provedu tě tím, co je uvnitř karty za bloky, kdy se který zapojí a co z toho plyne při nákupu. Na konci najdeš i to, jak si specifikace přečíst tak, abys z nich měl užitek, a proč některá čísla nemají žádnou vypovídací hodnotu.

Poslední aktualizace obsahu:

1. Čtyři bloky v jedné kartě

Grafický čip není jednolitá masa jader. Jsou v něm oddělené celky, které pracují nezávisle na sobě a často současně. Právě proto může karta při hraní zároveň nahrávat obraz, aniž by se snímkování propadlo.

  • 🧮Univerzální výpočetní jádraVykreslují obraz, počítají stíny, částice a osvětlení. Nejpočetnější blok v čipu.
  • 💠RT jádraHledají, do čeho narazí vyslaný paprsek. Bez nich by byl ray tracing nepoužitelně pomalý.
  • 🧠Tenzorová jádraPočítají neuronové sítě. Na nich běží upscaling a generování snímků.
  • 🎬Mediální engineKóduje a dekóduje video. S výpočetními jádry nemá nic společného.

K tomu přistupuje paměť karty, kterou nelze označit za jádro, ale která o použitelnosti rozhoduje často víc než všechny čtyři bloky dohromady. Projdeme je popořadě.

2. Univerzální výpočetní jádra, tedy CUDA a stream procesory

Univerzální jádra jsou pracovní silou celé karty. Zvládnou libovolný paralelní výpočet a odvedou většinu práce při vykreslování obrazu, od transformace geometrie po výpočet barvy každého pixelu.

NVIDIA jim říká jádra CUDA, AMD stream procesory. Je to marketingové pojmenování dvou odlišných architektur, ne totéž pod jiným názvem. RTX 5070 má 6144 jader CUDA, RTX 5070 Ti celkem 8960 a vrcholná RTX 5090 jich má 21760. RX 9070 XT má 4096 stream procesorů rozdělených do 64 výpočetních jednotek.

Počet jader se nedá porovnávat mezi značkami ani mezi generacemi. Každá architektura zvládne za jeden takt jiný objem práce, jinak řeší práci s pamětí a jinak plánuje úlohy. Karta s nižším počtem jader může být rychlejší než starší model s dvojnásobkem. Číslo dává smysl jen v rámci jedné řady od jednoho výrobce, kde napovídá, jak vysoko v hierarchii model stojí.

Kromě hraní na těchhle jádrech běží ve střihových programech barevné korekce, filtry a přehrávání časové osy. Právě proto je karta znát i při práci, která s hrami nesouvisí.

3. RT jádra a co vlastně dělají

RT jádra řeší jednu jedinou úlohu: zjistit, do kterého trojúhelníku ve scéně narazí vyslaný paprsek. Zní to banálně, ale ve scéně jsou miliony trojúhelníků a paprsků se posílají statisíce na jeden snímek.

Bez specializovaného hardwaru by tenhle výpočet museli dělat univerzální jádra a snímkování by se propadlo na neúnosnou úroveň. RT jádra ho zvládnou řádově rychleji, protože umějí procházet prostorovou strukturu scény přímo v křemíku.

Řada GeForce RTX 50 nese čtvrtou generaci těchhle jednotek. U AMD se jim říká ray akcelerátory a architektura RDNA 4 u nich zdvojnásobila rychlost průsečíků paprsku s trojúhelníkem i s obalovým kvádrem proti předchozí generaci. Počet je u AMD svázaný s výpočetními jednotkami: RX 9070 XT má 64 výpočetních jednotek a 64 ray akcelerátorů, RX 9060 XT pak 32 a 32.

Proč ray tracing potřebuje ještě tenzorová jádra

Aby ray tracing běžel v reálném čase, vysílá se paprsků málo. Výsledek je proto zrnitý a zašuměný. Šum odstraňuje neuronová síť, která běží na tenzorových jádrech. RT jádra a tenzorová jádra tedy u ray tracingu pracují v tandemu, i když jde o dva úplně různé bloky.

4. Tenzorová jádra a AI akcelerátory

Tenzorová jádra umějí jedinou operaci, totiž násobení matic, zato mnohonásobně rychleji než univerzální jádra. Neuronové sítě jsou z násobení matic postavené, takže se pro ně tenhle blok hodí.

Ve hře na nich běží upscaling, generování mezisnímků a už zmíněné čištění obrazu u ray tracingu. Ve střihových programech přebírají redukci šumu neuronovou sítí, automatické maskování objektů a přepis mluveného slova.

Rozebral jsem je podrobně včetně srovnání s jednotkou NPU v procesoru v článku o tom, k čemu jsou AI jádra v procesoru a grafické kartě. Tady stačí jedna věta: je to blok, který rozhoduje o kvalitě upscalingu, a ta se mezi generacemi karet liší.

U AMD se jednotky jmenují AI akcelerátory a sedí přímo uvnitř výpočetních jednotek, vždy dvě na jednu. RX 9070 XT jich má 128, RX 9060 XT celkem 64. Druhá generace v architektuře RDNA 4 umožnila vznik upscalingu FSR 4, který na starších Radeonech běží jen s omezeními.

5. Mediální engine, blok, o kterém se skoro nemluví

Mediální engine kóduje a dekóduje video. NVIDIA ho popisuje jako hardwarový enkodér nezávislý na grafických jádrech i na jádrech CUDA, takže při exportu videa zůstává zbytek karty i procesor volný pro jinou práci.

Tohle je zároveň nejčastější nedorozumění, které slyším. Kódování videa neběží ani na jádrech CUDA, ani na tenzorových jádrech. Je to samostatný kus křemíku, který o zbytku karty prakticky neví.

Řada GeForce RTX 50 má devátou generaci enkodéru a vyšší modely jich mají v čipu víc. Při jednom exportu se dají použít současně, což zhruba zdvojnásobí rychlost, u RTX 5090 dokonce ztrojnásobí. Karty zvládnou i výstup s kvalitnějším barevným podvzorkováním 4:2:2, což se hodí pro další zpracování záběrů.

U AMD zvládá mediální engine v architektuře RDNA 4 formáty H.264, HEVC i AV1 s propustností až 8K při 80 snímcích za sekundu a bez omezení počtu souběžných streamů.

Úloha Který blok ji dělá Zatíží zbytek karty
Vykreslení scény ve hře Univerzální výpočetní jádra Ano
Odrazy a stíny přes ray tracing RT jádra plus tenzorová na dočištění Ano
Upscaling a generování snímků Tenzorová jádra Částečně
Nahrávání hry na pozadí Mediální engine Ne
Export videa ve střihovém programu Mediální engine Ne
Barevné korekce a efekty Univerzální výpočetní jádra Ano

6. Paměť karty rozhoduje dřív než jádra

Paměť není typ jádra, ale při výběru karty na ní záleží víc, než většina lidí čeká. Funguje totiž jako tvrdý strop: když se scéna do paměti nevejde, nepomůže žádný počet jader.

Ve hrách se to projeví trhaným obrazem při vysokém rozlišení a vysokých texturách, i když průměrné snímkování vypadá dobře. U práce s obrazem a u lokálních jazykových modelů je to ještě přísnější — model se do paměti buď vejde, nebo nespustí vůbec.

Právě proto u karet, které existují ve variantách s různou kapacitou, doporučuju tu vyšší. Srovnal jsem to na konkrétních číslech v článku o rozdílu mezi RX 9060 XT s 8GB a 16GB paměti.

Nechceš luštit specifikace? Vyber podle naměřených FPS

Každou sestavu skládám, ladím v BIOSu a před expedicí protáhnu zátěžovým testem osobně v Plzni. Ke každému číslu na produktové stránce máš video s časovou značkou, takže výkon uvidíš dřív, než zaplatíš.

7. Cesta jednoho snímku kartou

Nejlíp se to pochopí na pořadí, ve kterém se bloky zapojí při vykreslení jednoho jediného snímku moderní hry se zapnutým ray tracingem a upscalingem.

1

Univerzální jádra spočítají geometrii scény, tedy kde se co nachází, a vykreslí základní obraz v nižším rozlišení, protože je zapnutý upscaling.

2

RT jádra vyšlou paprsky a zjistí, do čeho narazí. Výsledkem jsou odrazy, stíny a nepřímé osvětlení, zatím ale zrnité, protože paprsků bylo z časových důvodů málo.

3

Tenzorová jádra ten zrnitý výsledek vyčistí neuronovou sítí a hned nato dopočítají obraz z nižšího rozlišení na plné. V tomhle kroku vzniká většina získaných snímků za sekundu.

4

Pokud je zapnuté generování snímků, tenzorová jádra ještě dopočítají mezisnímky, které univerzální jádra nikdy nevykreslila.

5

Hotový snímek jde na monitor. Když zároveň nahráváš, převezme si ho mediální engine a zakóduje do souboru, aniž by ostatní bloky zdržel.

Celé tohle proběhne stokrát za sekundu. A je z toho vidět, proč nemá smysl ptát se, který blok je nejdůležitější — vypadne-li jeden, rozsype se celý řetěz.

8. Jak si přečíst tabulku specifikací

Tabulka na stránce výrobce má tři druhy údajů: ty užitečné, ty srovnatelné jen v rámci jedné řady a ty, které nevypovídají prakticky o ničem.

Údaje, kterým se dá věřit

Kapacita paměti a šířka sběrnice. Obojí je tvrdý fyzický limit, který se nedá obejít ovladačem ani optimalizací. Dál generace architektury, protože ta určuje, jaké technologie karta vůbec podporuje.

Údaje srovnatelné jen uvnitř jedné řady

Počet jader, počet RT jednotek a takty. V rámci jedné generace jednoho výrobce ti řeknou, kde model stojí v hierarchii. Mezi značkami nebo přes generace jsou k ničemu.

Údaje, které nic neřeknou

Hodnoty v TOPS a TFLOPS. Liší se podle datového typu, přesnosti i architektury a samy o sobě nepředpovídají snímky za sekundu ve hrách ani rychlost konkrétní úlohy. Jsou to teoretické stropy, ne výsledky testů.

Jediné číslo, které rozhoduje, v tabulce výrobce nenajdeš. Jsou to naměřené snímky za sekundu v konkrétní hře, na konkrétním rozlišení a s konkrétním nastavením. Proto u každé sestavy uvádím vlastní měření s videem a časovou značkou, ať si to člověk ověří sám a nemusí věřit ani mně, ani výrobci.

9. Kterou kartu podle čeho vybrat

Když to všechno převedu do praxe, vyjdou z toho tři typické situace. Ke každé přidávám kategorii sestav, kde najdeš konkrétní počítače s naměřenými FPS.

🎮 Hraju ve FullHD a QHD

Řeš kapacitu paměti a podporu moderního upscalingu, ne počet jader. Šestnáct gigabajtů ti dá klid do budoucna i u náročnějších titulů. Podívej se na sestavy s RX 9060 XT nebo RTX 5060 Ti.

💠 Chci ray tracing naplno

Tady rozhodují RT jádra společně s kvalitou upscalingu, protože bez dočištění obrazu ray tracing nedává smysl. Rozumný vstup do téhle kategorie jsou sestavy s RTX 5070 Ti nebo RX 9070 XT.

🎬 Střiham video a tvořím

Pořadí důležitosti je kapacita paměti, mediální engine, rychlost úložiště a teprve pak výpočetní jádra. Vyšší modely mají enkodérů víc a export tím výrazně zrychlí. Projdi si sestavy s RTX 5080.

Nebo si projdi celou nabídku podle výrobce grafiky a vyber si podle rozpočtu:

Sestavy s NVIDIA Sestavy s AMD Radeon

10. Co si k tomu přečíst dál

Navazující témata, která ti pomůžou dotáhnout výběr celé sestavy, ne jen grafické karty.

11. Časté dotazy k jádrům v grafické kartě (FAQ)

❓ 1. Co dělají jádra CUDA v grafické kartě?
Jádra CUDA jsou univerzální výpočetní jednotky, které odvedou většinu práce při vykreslování obrazu. Počítají geometrii scény, osvětlení, stíny, částice a barvu jednotlivých pixelů. Kromě hraní na nich ve střihových programech běží barevné korekce, filtry a přehrávání časové osy. U grafických karet AMD plní stejnou roli takzvané stream procesory, jde ale o odlišnou architekturu, ne o totéž pod jiným názvem.
❓ 2. Znamená víc jader CUDA automaticky rychlejší kartu?
Ne. Počet jader se dá porovnávat jen v rámci jedné generace jednoho výrobce, kde napovídá, kde model stojí v hierarchii. Mezi značkami ani přes generace to nefunguje, protože každá architektura zvládne za jeden takt jiný objem práce a jinak pracuje s pamětí. Karta s nižším počtem jader tak může být rychlejší než starší model s dvojnásobkem. Rozhodovat by měly naměřené snímky za sekundu ve hře.
❓ 3. Jaký je rozdíl mezi jádry CUDA a tenzorovými jádry?
Jádra CUDA jsou univerzální a zvládnou libovolný paralelní výpočet, od fyziky ve hře po barevné korekce ve střihu. Tenzorová jádra umějí jedinou operaci, totiž násobení matic, zato mnohonásobně rychleji. Neuronové sítě jsou z násobení matic postavené, takže na tenzorových jádrech běží upscaling, generování snímků a čištění obrazu u ray tracingu. Jsou to dva oddělené bloky uvnitř téhož čipu.
❓ 4. K čemu jsou RT jádra?
RT jádra řeší jednu úlohu: zjistit, do kterého trojúhelníku ve scéně narazí vyslaný paprsek. Ve scéně jsou miliony trojúhelníků a paprsků se posílají statisíce na jeden snímek, takže bez specializovaného hardwaru by tenhle výpočet musela obstarat univerzální jádra a snímkování by se propadlo. Řada GeForce RTX 50 nese čtvrtou generaci těchto jednotek, u AMD se jim říká ray akcelerátory.
❓ 5. Proč ray tracing potřebuje kromě RT jader ještě tenzorová?
Aby ray tracing běžel v reálném čase, vysílá se paprsků málo a výsledný obraz je proto zrnitý a zašuměný. Šum odstraňuje neuronová síť, která běží na tenzorových jádrech. RT jádra tedy spočítají, kam paprsky dopadly, a tenzorová jádra z toho udělají čistý obraz. Bez téhle dvojice by ray tracing v současné podobě nebyl použitelný.
❓ 6. Běží kódování videa na jádrech CUDA?
Ne. Kódování a dekódování videa obstarává mediální engine, tedy samostatný hardwarový blok. NVIDIA ho popisuje jako jednotku nezávislou na grafických jádrech i na jádrech CUDA, takže při exportu videa zůstává zbytek karty i procesor volný pro jinou práci. Právě proto můžeš nahrávat hru na pozadí, aniž by se snímkování výrazně propadlo.
❓ 7. Co je mediální engine a proč na něm záleží?
Mediální engine je blok, který kóduje a dekóduje video do formátů jako H.264, HEVC a AV1. Rozhoduje o rychlosti exportu ve střihovém programu i o kvalitě nahrávaného obrazu při streamování. Vyšší modely řady GeForce RTX 50 mají enkodérů v čipu víc a při jednom exportu je umějí použít současně, což rychlost zhruba zdvojnásobí, u nejvyššího modelu i ztrojnásobí.
❓ 8. Kolik jader CUDA mají karty GeForce RTX 50?
RTX 5060 Ti má 4608 jader CUDA, RTX 5070 celkem 6144, RTX 5070 Ti pak 8960 a vrcholná RTX 5090 má 21760 jader. Všechny modely řady staví na architektuře Blackwell s pátou generací tenzorových jader a čtvrtou generací RT jader. Samotný počet jader ale porovnávej jen v rámci téhle řady, protože mezi generacemi ani mezi výrobci nemá vypovídací hodnotu.
❓ 9. Jak jsou uspořádané jednotky u grafických karet AMD?
U architektury RDNA 4 je vše navázané na výpočetní jednotky. RX 9070 XT má 64 výpočetních jednotek, 4096 stream procesorů, 64 ray akcelerátorů a 128 AI akcelerátorů. RX 9060 XT má 32 výpočetních jednotek, 32 ray akcelerátorů a 64 AI akcelerátorů. Na jednu výpočetní jednotku tedy připadá jeden ray akcelerátor a dva AI akcelerátory, což je jiné uspořádání než u NVIDIE.
❓ 10. Můžou všechny bloky v kartě pracovat současně?
Ano a je to jejich hlavní výhoda. Mediální engine kóduje nahrávaný obraz úplně nezávisle na zbytku karty, takže nahrávání hry na pozadí snímkování prakticky neovlivní. Univerzální jádra, RT jádra a tenzorová jádra si při vykreslování jednoho snímku předávají práci v rychlém sledu za sebou a v praxi běží prakticky pořád všechna.
❓ 11. Je důležitější počet jader, nebo kapacita paměti karty?
Ve většině reálných situací kapacita paměti. Funguje jako tvrdý strop: když se scéna nebo model do paměti nevejde, nepomůže žádný počet jader. Ve hrách se to projeví trhaným obrazem při vysokém rozlišení a vysokých texturách, i když průměrné snímkování vypadá dobře. U práce s obrazem a u lokálních jazykových modelů je to ještě přísnější, protože model se buď vejde, nebo nespustí vůbec.
❓ 12. Co znamenají hodnoty v TFLOPS a TOPS u grafické karty?
Jsou to teoretické stropy výkonu v určitém datovém formátu, ne výsledky testů. Hodnoty se liší podle datového typu, přesnosti i architektury a samy o sobě nepředpovídají snímky za sekundu ve hrách ani rychlost konkrétní úlohy. Mezi značkami se navíc počítají odlišnou metodikou, takže je nelze přepočítávat. Použitelné jsou k porovnání řádu, k rozhodování o nákupu nikoli.
❓ 13. Ovlivňuje generace RT jader kvalitu obrazu, nebo jen rychlost?
Přímo jen rychlost, tedy kolik paprsků karta zvládne za jednotku času zpracovat. Nepřímo ale i kvalitu, protože s vyšším výkonem si hra může dovolit vyslat víc paprsků a výsledek je pak méně zašuměný. Architektura RDNA 4 u AMD zdvojnásobila rychlost průsečíků paprsku s trojúhelníkem i s obalovým kvádrem proti předchozí generaci, což se v náročných scénách projeví.
❓ 14. Podle čeho si tedy mám kartu vybrat?
Podle naměřených snímků za sekundu ve hrách, které opravdu hraješ, na rozlišení tvého monitoru a s nastavením, jaké používáš. Pak podle kapacity paměti, protože ta určuje, jak dlouho ti karta vydrží. Podpora aktuálního upscalingu je třetí v pořadí. Ke každé sestavě, kterou skládám, mám video s časovými značkami, takže si čísla ověříš sám. Když si nejsi jistý, napiš mi a projdeme, co dává v tvém rozpočtu smysl.
Lukáš Blecha - Zakladatel BestComp

Lukáš Blecha

Zakladatel a hlavní IT architekt plzeňského e-shopu BestComp.cz. Grafické karty z celého rozsahu téhle nabídky mi projdou rukama každý týden a rozdíl mezi tím, co slibuje tabulka specifikací a co ukáže měření ve hře, vidím pokaždé, když sestavu před expedicí protahuji zátěží.

Diskuze (0)

Buďte první, kdo napíše příspěvek k této položce.

Nevyplňujte toto pole:
×

Splátková kalkulačka ESSOX