Konference GTC společnosti NVIDIA zdůraznila řadu inovací, které mají transformovat vývoj umělé inteligence v různých odvětvích, a představila průlomy v hardwaru, softwaru a partnerstvích umělé inteligence. Klenotem GTC 2025 bylo bezpochyby odhalení grafických procesorů pro datová centra a jejich plánu rozvoje. Nejvýkonnějším akcelerátorem umělé inteligence od společnosti NVIDIA, který je dosud ve výrobě, je B300, postavený na architektuře Blackwell Ultra. Nabízí 1.5násobné zvýšení výkonu oproti již tak špičkovým grafickým procesorům Blackwell.
Ve srovnání s vydanými grafickými kartami od NVIDIA jsou nárůsty výkonu ohromující:
| Specifikace | H100 | H200 | B100 | B200 | B300 |
|---|---|---|---|---|---|
| Maximální paměť | 80 GB HBM3 | 141 GB HBM3e | 192 GB HBM3e | 192 GB HBM3e | 288 GB HBM3e |
| Paměťová šířka pásma | 3.35 TB / s | 4.8 TB/s | 8 TB/s | 8 TB/s | 8 TB/s |
| FP4 Tensor Core | - | - | 14 PFLOPS | 18 PFLOPS | 30 PFLOPS |
| FP6 Tensor Core | - | - | 7 PFLOPS | 9 PFLOPS | 15 PFLOPS* |
| FP8 Tensor Core | 3958 TFLOPS (~4 PFLOPS) | 3958 TFLOPS (~4 PFLOPS) | 7 PFLOPS | 9 PFLOPS | 15 PFLOPS* |
| INT 8 Tenzorové jádro | 3958 TOPS | 3958 TOPS | 7 POPS | 9 POPS | 15 PFLOPS* |
| Tenzorové jádro FP16/BF16 | 1979 TFLOPS (~2 PFLOPS) | 1979 TFLOPS (~2 PFLOPS) | 3.5 PFLOPS | 4.5 PFLOPS | 7.5 PFLOPS* |
| Tenzorové jádro TF32 | 989 TFLOPS | 989 TFLOPS | 1.8 PFLOPS | 2.2 PFLOPS | 3.3 PFLOPS* |
| FP32 (Hustý) | 67 TFLOPS | 67 TFLOPS | 30 TFLOPS | 40 TFLOPS | Informace neznámé |
| FP64 Tenzorové jádro (husté) | 67 TFLOPS | 67 TFLOPS | 30 TFLOPS | 40 TFLOPS | Informace neznámé |
| FP64 (Hustý) | 34 TFLOPS | 34 TFLOPS | 30 TFLOPS | 40 TFLOPS | Informace neznámé |
| Spotřeba Max Power | 700W | 700W | 700W | 1000W | Informace neznámé |
Poznámka: Hodnoty označené „*“ jsou přibližné výpočty a nejedná se o oficiální čísla od společnosti NVIDIA.
Blackwell Ultra B300, stejně jako jeho protějšky od Blackwellu, představuje nové přesné formáty s tenzorovými jádry FP4, která poskytují působivých 30 PFLOPS, a FP6/FP8 nabízejí výkon 15 PFLOPS* ve srovnání se současnými H200. To je přibližně 7.5násobné zlepšení ve srovnání výpočetních dat FP8 s FP4 a téměř 4násobné zlepšení ve srovnání s výkonem FP8.
Dalším bodem plánu společnosti NVIDIA je grafická karta Vera Rubin, jejíž uvedení na trh je naplánováno na příští rok. Očekává se, že Vera Rubin nabídne 3.3krát vyšší výkon než Blackwell Ultra a dosáhne 50 PFLOPS hustého výpočetního výkonu FP4, oproti 15 PFLOPS u B300. Bude doplněna technologiemi ConnectX-9 a NVLink-6, které zdvojnásobí šířku pásma předchozích generací. Grafické karty Vera Rubin budou také vybaveny pamětí HBM4, která poskytne 1.6násobné zvýšení šířky pásma paměti. Přechod z procesorů Grace na procesory Vera také výrazně zlepší propojení mezi procesory a grafickými kartami a dosáhne rychlosti až 1.8 TB/s.
NVIDIA se nezdráhala a naznačila své grafické procesory Rubin Ultra, jejichž uvedení na trh se očekává v druhé polovině roku 2027. Grafické procesory Rubin Ultra mají zdvojnásobit výkon Vera Rubin a poskytnout ohromujících 100 PFLOPS hustého výpočetního výkonu FP4 na GPU. Rubin Ultra bude také vybaven 1 TB pokročilé paměti HBM4e.
NVIDIA DGX Spark
Společnost NVIDIA na letošním veletrhu CES představila svůj systém DGX Spark, představený pod názvem Project Digits . DGX Spark, určený pro vývojáře umělé inteligence, výzkumníky, datové vědce a studenty, využívá nový čip GB10 Blackwell a je konfigurován se 128 GB unifikované paměti.
Společnost NVIDIA tvrdí, že systém dosahuje mimořádných 1,000 2 AI TOPS, což by výkon Sparku posunulo na prakticky srovnatelnou úroveň s RTX 5070. Platforma Spark také integruje síťovou kartu ConnectX 7 SmartNIC, která Spark vybavuje dvěma 200Gb porty pro zefektivnění přenosu dat. OEM partneři, včetně společností ASUS, Dell, HPE a Lenovo, brzy nabídnou značkové verze. Rezervace jsou již otevřeny a dodávky by měly být zahájeny v červenci.
Stanice NVIDIA DGX
NVIDIA také představila aktualizovanou stanici DGX Station, která je pozicionována jako dokonalý stolní superpočítač s umělou inteligencí pro podnikové aplikace a je postavena na čipu GB300 Grace Blackwell Ultra.
Stanice DGX nabízí 784 GB unifikované systémové paměti a zároveň poskytuje hustý výkon 20 petaflopů FP4 AI. Tato integrace zahrnuje přímo do systému síťovou kartu NVIDIA ConnectX 8 SuperNIC, která umožňuje síťovou konektivitu s rychlostí 800 Gb/s a zajišťuje, že vysoce výkonná síť splňuje požadavky značných výpočetních možností. Systémy DGX Station budou vyrábět OEM partneři, jako jsou ASUS, Box, Dell, HPE, Lambda a Supermicro, přičemž dostupnost se očekává koncem tohoto roku.
NVIDIA RTX Pro Blackwell
Série grafických karet se tím ale neskončila . Společnost NVIDIA představila řadu RTX Pro Blackwell, komplexní aktualizaci své profesionální řady grafických karet navrženou pro akceleraci úloh v oblasti umělé inteligence, grafiky a simulací na všech platformách. Tato nová generace zahrnuje stolní pracovní stanice, mobilní systémy a servery. Vlajková loď RTX Pro 6000 Blackwell se vyznačuje špičkovou pamětí GPU s kapacitou 96 GB a poskytuje až 4 000 TOPS výkonu umělé inteligence. Tato vylepšení umožňují sledování paprsků v reálném čase, rychlou inferenci umělé inteligence a pokročilé grafické pracovní postupy, které byly dříve na stolních systémech nedosažitelné.
Technologické inovace obsažené v těchto grafických procesorech jsou značné, včetně streamovacího multiprocesoru NVIDIA s 1.5krát vyšší propustností, RT jader čtvrté generace s dvojnásobným výkonem oproti předchozím generacím a jader Tensor páté generace s podporou nové přesnosti FP4 pro úlohy s umělou inteligencí. Mezi další vylepšení patří podpora PCIe Gen 5 pro zdvojnásobenou šířku pásma, kompatibilita s DisplayPort 2.1 pro konfigurace displejů s extrémním rozlišením a v Server Edition také NVIDIA Confidential Computing pro bezpečné úlohy s umělou inteligencí.
Odborníci z oboru hlásí pozoruhodné zlepšení výkonu v reálných aplikacích. Společnost Foster + Partners dosáhla 5krát rychlejšího sledování paprsků než RTX A6000, zatímco GE HealthCare zjistila až 2násobné zlepšení doby zpracování GPU pro algoritmy lékařské rekonstrukce. Automobilový výrobce Rivian využil nové GPU pro bezprecedentní vizuální kvalitu VR v revizích designu a SoftServe oznámil 3násobné zvýšení produktivity při práci s velkými modely s umělou inteligencí, jako je Llama 3.3-70B. Snad nejpůsobivější je, že Pixar poznamenal, že 99 % jejich produkčních záběrů se nyní vejde do 96GB paměti jediné GPU.
RTX Pro 6000 Blackwell Server Edition přináší tyto funkce do datových center díky pasivně chlazenému designu pro nepřetržitý provoz. Tato serverově orientovaná varianta nabízí 5x vyšší propustnost inference modelů velkých jazyků, 7x rychlejší genomické sekvenování, 3.3x zrychlení generování textu na video a 2x vylepšení inference a vykreslování doporučovacích systémů ve srovnání s hardwarem předchozí generace. Tyto grafické karty poprvé podporují technologie vGPU i Multi-Instance GPU (MIG), které umožňují rozdělení každé karty až do čtyř plně izolovaných instancí, čímž se maximalizuje využití zdrojů pro různé pracovní zátěže. Stolní verze těchto grafických karet by se měly dostat na trh v dubnu, serverové protějšky budou následovat v květnu a notebooky od výrobců originálních zařízení v červnu.
NVIDIA Photonics
Společnost NVIDIA Photonics, inovátor určený k transformaci optických sítí v datových centrech s umělou inteligencí, doplnila nabídku hardwarových oznámení. Nahrazením tradičních zásuvných transceiverů optickými moduly umístěnými ve stejném pouzdře jako ASIC přepínače minimalizuje NVIDIA Photonics spotřebu energie a zefektivňuje datovou konektivitu.
Nová platforma Photonics, která využívá optimalizace fotonického enginu od společnosti TSMC a je doplněna mikrokruhovými modulátory, vysoce účinnými lasery a odnímatelnými optickými konektory, je navržena tak, aby poskytovala až 3.5krát vyšší účinnost, 10krát vyšší odolnost a dosahovala 1.3krát rychlejšího nasazení než konvenční řešení. V demonstraci svého širšího ekosystémového přístupu společnost NVIDIA podrobně popsala, jak jsou její partnerství s předními výrobci pokročilých obalů a optických komponent klíčová pro dosažení těchto zvýšení výkonu.
S tímto novým vývojem, NSpolečnost VIDIA představila tři nové přepínače s technologií 200G SerDe v řadách přepínačů Quantum-X a Spectrum-X. Řada Quantum-X Infiniband zahrnuje Quantum 3450-LD, který disponuje působivými 144 porty s kapacitou 800G nebo 576 porty s kapacitou 200G, což poskytuje šířku pásma 115 Tb/s. Portfolio ethernetových přepínačů Spectrum-X sahá od kompaktnějšího Spectrum SN6810, který nabízí 128 portů s kapacitou 800G nebo 512 portů s kapacitou 200G, až po Spectrum SN6800 s vysokou hustotou, který se může pochlubit 512 porty s kapacitou 800G a 2048 porty s kapacitou 200G. Všechny tyto přepínače jsou vybaveny technologií kapalinového chlazení pro udržení optimálního výkonu a efektivity.
Očekává se, že přepínače NVIDIA Quantum-X Photonics InfiniBand budou k dispozici koncem tohoto roku a ethernetové přepínače NVIDIA Spectrum-X Photonics budou k dispozici v roce 2026 od předních dodavatelů infrastruktury a systémů.
Propojení hardwaru a softwaru s Nvidia Dynamo
Oznámení společnosti NVIDIA zahrnovala stejnou měrou software i hardware. Aby NVIDIA plně využila výpočetní výkon nových grafických procesorů Blackwell, představila Dynamo, software pro inferenci umělé inteligence navržený speciálně pro obsluhu modelů umělé inteligence ve velkém měřítku.
NVIDIA Dynamo je open-source inferenční platforma navržená pro optimalizaci nasazení rozsáhlých modelů umělé inteligence v celých datových centrech. Unikátní distribuovaná a desagregovaná architektura Dynama umožňuje škálovat jeden dotaz napříč mnoha GPU, což dramaticky zrychluje inferenční úlohy. Inteligentním rozdělením úloh zpracování mezi výpočet vstupních tokenů a výstupních tokenů a využitím silných stránek propojení NVLink od NVIDIA dosahuje až 30násobného zlepšení výkonu u modelů náročných na uvažování, jako je DeepSeek R1.
Je pozoruhodné, že Dynamo dokonce zdvojnásobuje propustnost stávajících LLM, jako je LLAMA, na grafických procesorech Hopper bez nutnosti dalšího hardwaru, čímž efektivně zdvojnásobuje generování tokenů a potenciál příjmů pro továrny umělé inteligence. S Dynamo společnost NVIDIA přináší optimalizace na úrovni hyperscale všem a zpřístupňuje je, což umožňuje každému plně využít transformačního potenciálu umělé inteligence.
Dynamo je dnes k dispozici na GitHubu a podporuje populární backendy, včetně PyTorch, BLM, SGLang a TensorRT.
Nvidia AI-Q: Nová generace systémů s agentskou umělou inteligencí
Společnost NVIDIA také představila AI-Q, vyslovuje se „IQ“, což je plán pro bezproblémové propojení agentů umělé inteligence s rozsáhlými podnikovými daty a nástroji. Tento open-source framework umožňuje agentům dotazovat se a uvažovat napříč různými datovými typy, včetně textu, obrázků a videa, a využívat externí nástroje, jako je webové vyhledávání a další agenti.
Jádrem AI-Q je nová sada nástrojů NVIDIA AgentIQ, open-source softwarová knihovna, která byla dnes zveřejněna na GitHubu. AgentIQ usnadňuje propojování, profilování a optimalizaci multiagentních systémů, což podnikům umožňuje budovat sofistikované digitální pracovní síly. AgentIQ se bezproblémově integruje se stávajícími multiagentními frameworky, včetně CrewAI, LangGraph, Llama Stack, Microsoft Azure AI Agent Service a Letta, což vývojářům umožňuje jej zavádět postupně nebo jako kompletní řešení.
Společnost NVIDIA také spolupracuje s předními poskytovateli datových úložišť na vytvoření referenční architektury platformy pro data s umělou inteligencí, která integruje NVIDIA NeMo Retriever, AI-Q Blueprint, grafické procesory Blackwell, síťové procesory Spectrum X a procesory Bluefield. To zajistí zpracování dat téměř v reálném čase a rychlé vyhledávání znalostí, čímž agentům umělé inteligence poskytne základní business intelligence.
AI-Q bude pro vývojáře k dispozici od dubna.
NVIDIA Mission Control: Orchestrace továrny na umělou inteligenci
V návaznosti na svou komplexní softwarovou strategii představila společnost NVIDIA Mission Control, jedinou softwarovou platformu pro unifikované operace a orchestraci v oboru, která je navržena pro automatizaci komplexní správy datových center a úloh s umělou inteligencí. Zatímco Dynamo optimalizuje inferenci a AI-Q umožňuje agentní systémy, Mission Control se zabývá vrstvou kritické infrastruktury, která je základem celého vývoje umělé inteligence.
Mission Control transformuje způsob, jakým podniky nasazují a spravují infrastrukturu umělé inteligence, automatizuje komplexní správu, včetně zřizování, monitorování a diagnostiky chyb. Platforma umožňuje plynulé přechody mezi tréninkovými a inferenčními úlohami na systémech založených na platformě Blackwell, což organizacím umožňuje realokovat zdroje clusteru podle dynamických změn priorit. Díky využití technologie Run:ai, kterou získala společnost NVIDIA, zvyšuje Mission Control využití infrastruktury až 5krát a zároveň poskytuje až 10krát rychlejší obnovu úloh než tradiční metody vyžadující ruční zásah.
Software nabízí několik provozních výhod, které jsou klíčové pro moderní úlohy s umělou inteligencí, včetně zjednodušeného nastavení clusteru, bezproblémové orchestrace úloh pro pracovní postupy SUNK (Slurm a Kubernetes), energeticky optimalizovaných profilů napájení s ovládacími prvky volitelnými vývojáři a možností autonomní obnovy úloh. Mezi další funkce patří přizpůsobitelné řídicí panely výkonu, kontroly stavu na vyžádání a integrace systému správy budov pro vylepšené chlazení a správu napájení.
Hlavní výrobci systémů, včetně společností Dell, HPE, Lenovo a Supermicro, oznámili plány nabídnout systémy NVIDIA GB200 NVL72 a GB300 NVL72 vybavené technologií Mission Control. Dell tento software začlení do své platformy AI Factory s NVIDIA, zatímco HPE jej nabídne se svými rackovými systémy Grace Blackwell. Lenovo plánuje aktualizovat svá řešení Hybrid AI Advantage o Mission Control a Supermicro jej integruje do svých systémů Supercluster.
Řešení NVIDIA Mission Control je již k dispozici pro systémy DGX GB200 a DGX B200, přičemž podpora pro systémy DGX GB300, DGX B300 a GB300 NVL72 se očekává koncem tohoto roku. Pro organizace, které chtějí začít spravovat infrastrukturu umělé inteligence, společnost NVIDIA také oznámila, že software Base Command Manager bude brzy zdarma až pro osm akcelerátorů na systém, bez ohledu na velikost clusteru.
Závěr
Konference GTC 2025 od společnosti NVIDIA připravila půdu pro transformační skok v technologii umělé inteligence a odhalila průlomové pokroky v oblasti hardwaru, softwaru a infrastruktury. Od výkonných grafických procesorů B300 postavených na architektuře Blackwell Ultra až po revoluční systémy DGX Spark a DGX Station, NVIDIA nadále nově definuje možnosti v oblasti výpočetní techniky s využitím umělé inteligence. Zavedení technologií NVIDIA Photonics, inferenčního softwaru Dynamo, agentních frameworků AI-Q a platformy pro orchestraci Mission Control pomůže podnikům rychleji se dostat na trh a efektivněji škálovat a nepochybně dále upevňuje pozici NVIDIA jako lídra v tomto oboru.
To je ale jen špička ledovce. Na GTC čeká mnohem více inovací a poznatků k prozkoumání. Zůstaňte s námi a sledujte naše další články z tohoto týdne, kde vám budeme i nadále přinášet nejnovější oznámení a hluboké ponory do vzrušující budoucnosti společnosti NVIDIA.
Amazon