Pro NVIDIA to byl rušný týden a ještě to není konec. NVIDIA spouští službu AI Foundry na Microsoft Azure, což je nový výkonný nástroj pro firmy, které se pouští do zakázkové generativní umělé inteligence.
Zde je to, co nabízí služba pro vývoj umělé inteligence od společnosti NVIDIA:
- Základní modely NVIDIA AI: Toto jsou vaše stavební bloky AI.
- NVIDIA NeMo Framework a nástroje: Sada nástrojů pro jemné doladění vaší umělé inteligence.
- Služby NVIDIA DGX Cloud AI Supercomputing Services: Výkonný nástroj pro proměnu vašich snů o umělé inteligenci ve skutečnost.
Díky těmto prvkům si firmy mohou vytvářet vlastní modely umělé inteligence pro věci, jako je inteligentní vyhledávání a tvorba obsahu, a to vše s využitím softwaru NVIDIA AI Enterprise.
Přizpůsobené modely pro generativní aplikace s využitím umělé inteligence
Služba AI foundry od společnosti NVIDIA dokáže přizpůsobit modely pro generativní aplikace s využitím umělé inteligence napříč odvětvími, včetně podnikového softwaru, telekomunikací a médií. Jakmile jsou přizpůsobené modely připraveny k nasazení, mohou podniky k propojení svých modelů s podnikovými daty a přístupu k novým poznatkům použít techniku zvanou generování s rozšířeným vyhledáváním (RAG) .
Služba od NVIDIA není jen na parádu; je praktická. Přední lídři v oboru, SAP SE, Amdocs a Getty Images, již s touto službou vytvářejí vlastní modely. Odvětví od softwaru po telekomunikace nyní mohou vytvářet aplikace s umělou inteligencí, které odpovídají jejich potřebám. SAP ji používá pro svůj AI Copilot, Joule, a Amdocs vylepšuje svůj framework amAIz pro telekomunikační řešení s umělou inteligencí.
Generální ředitel společnosti NVIDIA Jensen Huang zdůrazňuje schopnost služby přizpůsobit umělou inteligenci s využitím jedinečných dat společnosti. A Satya Nadella, generální ředitel společnosti Microsoft, se zasazuje o prosazování inovací v oblasti umělé inteligence v Azure s pomocí společnosti NVIDIA.
Nemotron-3 8B
NVIDIA nabízí řadu modelů AI Foundation, včetně všestranné rodiny Nemotron-3 8B, které jsou k dispozici v katalozích Azure AI i NVIDIA NGC. Tyto modely jsou připraveny pro vícejazyčné použití a různé aplikace. Komunitní modely, jako například modely Llama 2 od Mety, jsou optimalizovány pro NVIDIA pro akcelerované výpočty a brzy se objeví v katalogu modelů Azure AI.
Cloudová platforma NVIDIA DGX se dostává na Azure Marketplace
Superpočítače s umělou inteligencí NVIDIA DGX Cloud jsou nyní k dispozici na Azure Marketplace. Pronajměte si, co potřebujete, snadno škálujte a využijte software NVIDIA AI Enterprise pro rychlé přizpůsobení LLM. Nabízí instance, které si zákazníci mohou pronajmout, škálovatelné na tisíce grafických procesorů NVIDIA Tensor Core, a je dodáván se softwarem NVIDIA AI Enterprise, včetně NeMo, pro urychlení přizpůsobení LLM.
Díky integraci NVIDIA AI Enterprise do Azure Machine Learning získají uživatelé stabilní a bezpečnou platformu umělé inteligence. Platforma je také k dispozici na Azure Marketplace a nabízí řadu možností vývoje a nasazení umělé inteligence.
Služba AI Foundry od NVIDIA na Azure není jen aktualizace; je to inovativní přístup k vývoji umělé inteligence na míru.
NVIDIA a Microsoft vylepšují Azure pokročilými funkcemi umělé inteligence
Společnost Microsoft vylepšuje svou platformu umělé inteligence v Azure, představuje nové virtuální stroje založené na platformě H100 a plánuje budoucí přidání grafického procesoru H200 Tensor Core. Nová řada virtuálních strojů NC H100 v5, oznámená na konferenci Ignite, je premiérou v oblasti cloud computingu a využívá grafické procesory NVIDIA H100 NVL. Tyto virtuální stroje disponují silným výkonem díky dvěma grafickým procesorům H100 založeným na sběrnici PCIe, které jsou propojeny technologií NVIDIA NVLink a poskytují téměř 4 petaflopy výpočetního výkonu umělé inteligence a 188 GB vysokorychlostní paměti HBM3. Grafický procesor H100 NVL je výkonný stroj, který nabízí až 12x vyšší výkon na bázi GPT-3 175B ve srovnání s předchozími modely, což je ideální pro inferenci a běžné tréninkové úlohy.
Integrace grafického procesoru NVIDIA H200 Tensor Core do Azure
Společnost Microsoft plánuje v příštím roce integrovat grafický procesor NVIDIA H200 Tensor Core do Azure. Tato aktualizace je navržena tak, aby zvládala inferencování větších modelů bez zvýšené latence, což je ideální pro LLM a generativní modely umělé inteligence. H200 vyniká 141 GB paměti HBM3e a špičkovou šířkou pásma paměti 4.8 TB/s, čímž výrazně překonává H100.
Společnost Microsoft navíc rozšiřuje svou nabídku virtuálních strojů s akcelerací NVIDIA o NCC H100 v5, nový důvěrný virtuální stroj. Tyto důvěrné virtuální stroje Azure, vybavené grafickými procesory NVIDIA H100 Tensor Core, zajišťují důvěrnost a integritu dat a aplikací během používání. Tato vylepšená bezpečnostní funkce v kombinaci s akceleračními možnostmi H100 bude brzy k dispozici v soukromé preview verzi.
Tato vylepšení od společností NVIDIA a Microsoft představují významný skok v oblasti cloudových výpočtů a umělé inteligence v Azure a nabízejí bezprecedentní výkon a zabezpečení pro náročné úlohy s umělou inteligencí.
NVIDIA posiluje digitalizaci automobilového průmyslu s novými simulačními enginy v cloudu Omniverse
Společnost NVIDIA posouvá své postavení v automobilovém průmyslu zavedením dvou nových simulačních enginů v platformě Omniverse Cloud: simulačního enginu pro virtuální továrnu a simulačního enginu pro autonomní vozidla (AV). Omniverse Cloud, hostovaný na platformě Microsoft Azure, transformuje způsob, jakým automobilové společnosti zvládají životní cyklus svých produktů, a přechází od fyzických, manuálních procesů k softwarově řízeným digitálním systémům vylepšeným umělou inteligencí.
Simulační engine pro virtuální továrnu: Změna hry pro automobilky
Tento engine je sada nástrojů pro plánovací týmy továren, které umožňují propojení a spolupráci na rozsáhlých průmyslových datových sadách v reálném čase. Umožňuje konstrukčním týmům vytvářet virtuální továrny a bezproblémově sdílet svou práci. To zvyšuje kvalitu a propustnost výroby a šetří značný čas a peníze tím, že se vyhneme změnám po výstavbě.
Mezi klíčové funkce patří kompatibilita se stávajícím softwarem, jako je Autodesk Factory Planning a Siemens NX, což zlepšuje spolupráci napříč různými platformami. Společnosti T-Systems a SoftServe již tento engine využívají k vývoji vlastních aplikací pro virtuální továrny.
AV Simulation Engine: Revoluce ve vývoji autonomních vozidel
Simulační engine pro autonomní vozidla je navržen tak, aby poskytoval vysoce věrnou simulaci senzorů, která je klíčová pro vývoj architektur autonomních vozidel nové generace. Umožňuje vývojářům testovat autonomní systémy ve virtuálním prostředí a integrovat vrstvy vozidel, jako je vnímání, plánování a řízení.
Tento engine je klíčový pro vývoj pokročilých unifikovaných AV architektur, které vyžadují vysoce kvalitní simulaci dat ze senzorů. NVIDIA do něj integruje své simulační kanály senzorů DRIVE Sim a Isaac Sim, což poskytuje realistické simulace pro kamery, radary, lidary a další senzory.
Urychlení digitální transformace
Simulační engine pro továrny je nyní k dispozici na Azure Marketplace a nabízí systémy NVIDIA OVX a spravovaný software Omniverse. Simulační engine pro senzory bude brzy následovat. Podniky mohou navíc nasadit Omniverse Enterprise na optimalizované virtuální počítače Azure, což dále zefektivní proces digitalizace v automobilovém sektoru.
Nové simulační enginy NVIDIA v Omniverse Cloudu představují významný krok v digitalizaci automobilového průmyslu a nabízejí výkonné nástroje pro plánování virtuálních továren a vývoj audiovizuálních technologií.
Revoluce umělé inteligence zasáhla Windows 11: Velký skok od NVIDIA s grafickými kartami RTX
NVIDIA mění prostředí Windows 11 a využívá sílu grafických karet RTX k tomu, aby přinesla nový rozměr zážitkům hráčů, tvůrců a běžných uživatelů počítačů. S uživatelskou základnou více než 100 milionů počítačů s Windows vybavených grafickými kartami RTX jsou nejnovější inovace společnosti NVIDIA připraveny pozvednout produktivitu a kreativitu na novou úroveň.
V popředí tohoto vývoje je zavedení dvou nových simulačních enginů v Omniverse Cloud – virtuální továrny a simulačních enginů pro autonomní vozidla (AV). Tyto enginy, hostované na platformě Microsoft Azure, způsobují revoluci v životním cyklu produktů v automobilovém průmyslu a přecházejí od tradičních manuálních procesů k efektivním digitálním systémům vylepšeným umělou inteligencí.
V rámci významné aktualizace by měl open-source software NVIDIA s názvem TensorRT-LLM zlepšit výkon inference umělé inteligence. Tato aktualizace rozšíří podporu pro nové rozsáhlé jazykové modely, čímž zpřístupní komplexní úlohy umělé inteligence na stolních počítačích a noteboocích vybavených grafickými kartami RTX od 8 GB VRAM. Toto vylepšení je převratné, zejména s ohledem na nadcházející kompatibilitu TensorRT-LLM pro Windows s rozhraním Chat API od OpenAI. Tato integrace znamená, že mnoho vývojářských projektů a aplikací nyní může běžet lokálně na počítačích s RTX, což uživatelům umožní bezpečně uchovávat citlivá data na svých počítačích s Windows 11, mimo cloud.
NVIDIA také představuje AI Workbench, komplexní sadu nástrojů navrženou pro zefektivnění vývojového procesu pro tvůrce. Tato platforma zjednodušuje vytváření, testování a přizpůsobování předtrénovaných generativních modelů umělé inteligence a LLM, což vývojářům umožňuje efektivně spravovat jejich projekty umělé inteligence a přizpůsobovat modely specifickým případům použití.
Ve spolupráci se společností Microsoft společnost NVIDIA vylepšuje technologii DirectML, která slibuje urychlení základních modelů umělé inteligence, jako je Llama 2. Tato spolupráce rozšiřuje možnosti nasazení napříč dodavateli a nastavuje nový standard výkonu.
Nadcházející vydání TensorRT-LLM v0.6.0 je dalším krokem vpřed a slibuje až pětkrát rychlejší inferenční výkon. Bude také podporovat další populární LLM, včetně Mistral 7B a Nemotron-3 8B. Tyto modely budou dostupné na grafických procesorech GeForce RTX řady 30 a 40 s 8 GB RAM nebo více, což zpřístupní pokročilé funkce umělé inteligence i na těch nejpřenosnějších zařízeních s Windows.
Na podporu těchto pokroků zpřístupňuje NVIDIA novou verzi TensorRT-LLM a optimalizovaných modelů ve svém repozitáři GitHub a na ngc.nvidia.com.
S těmito inovacemi NVIDIA nejen vylepšuje zážitek z používání počítače pro svou rozsáhlou uživatelskou základnu, ale také připravuje cestu pro novou éru výpočetní techniky s využitím umělé inteligence ve Windows 11, což představuje klíčový okamžik v propojení technologií a každodenního života.
Amazon