Společnost WEKA oznámila strategickou integraci s referenčním návrhem platformy NVIDIA AI Data Platform. Získala klíčové certifikace úložišť NVIDIA, které poskytují optimalizovanou infrastrukturu explicitně přizpůsobenou agentní umělé inteligenci a modelům komplexního uvažování. Současně s tímto oznámením společnost WEKA představila svou inovativní funkci Augmented Memory Grid a další certifikace referenčních architektur NVIDIA Cloud Partner (NCP), včetně certifikací NVIDIA GB200 NVL72 a NVIDIA-Certified Systems Storage pro nasazení umělé inteligence v podnikovém měřítku.
Zrychlení agentů s umělou inteligencí
Datová platforma NVIDIA AI představuje významný krok vpřed v oblasti podnikové infrastruktury umělé inteligence, protože bezproblémově integruje architekturu NVIDIA Blackwell, procesory NVIDIA BlueField, síťové rozhraní Spectrum-X a software NVIDIA AI Enterprise. Spojením této pokročilé infrastruktury NVIDIA s datovou platformou WEKA mohou podniky nasadit masivně škálovatelnou úložnou základnu navrženou speciálně pro vysoce výkonné úlohy inference umělé inteligence.
Toto integrované řešení přímo řeší rostoucí požadavky podnikové umělé inteligence a poskytuje agentům dotazování s využitím umělé inteligence bezproblémový a zrychlený přístup ke kritickým obchodním informacím, což vede k výrazně lepšímu výkonu inference a přesnosti uvažování. Datová platforma WEKA zajišťuje, že systémy umělé inteligence dokáží rychle transformovat data do použitelných informací, a tím podporují sofistikované uvažování vyžadované modely umělé inteligence nové generace.
WEKA rozšířená paměťová mřížka
Modely agentní umělé inteligence se neustále vyvíjejí a dokáží zvládat větší kontextová okna, rozsáhlé počty parametrů a významnější paměťové požadavky. Tato vylepšení často posouvají limity tradičních paměťových kapacit GPU a vytvářejí úzká hrdla v inferenci umělé inteligence. Společnost WEKA tyto výzvy řeší svým průlomovým řešením Augmented Memory Grid, což je inovace, která rozšiřuje dostupnou paměť pro úlohy umělé inteligence a poskytuje přírůstky v rozsahu petabajtů – daleko za současná omezení jednoho terabajtu.
Technologie WEKA Augmented Memory Grid výrazně vylepšuje inferenci umělé inteligence kombinací softwaru datové platformy WEKA s technologiemi akcelerovaného výpočetního a síťového zpracování od NVIDIA. Tato kombinace umožňuje přístup rychlostí blížící se rychlosti paměti s mikrosekundovou latencí, což dramaticky zlepšuje výkon zpracování tokenů a celkovou efektivitu inference umělé inteligence.
Mezi klíčové výhody rozšířené paměťové mřížky WEKA patří:
-
Dramaticky snížená latence : V testech zahrnujících 105 000 tokenů dosáhla technologie WEKA Augmented Memory Grid pozoruhodného 41násobného zlepšení doby do prvního tokenu ve srovnání s tradičními metodami přepočtu.
-
Optimalizovaná propustnost tokenů : Řešení WEKA efektivně zpracovává inferenční úlohy napříč clustery a dosahuje vyšší propustnosti tokenů při nižších celkových nákladech, čímž snižuje náklady na zpracovaný token až o 24 % v celém systému.
Toto zvýšení výkonu se přímo promítá do zvýšené ekonomické efektivity, což umožňuje podnikům urychlit inovace založené na umělé inteligenci, aniž by to ohrozilo možnosti modelů nebo výkon infrastruktury.
WEKApod Nitro
Zařízení WEKApod Nitro Data Platform získala několik certifikací NVIDIA, čímž se WEKA stala předním poskytovatelem vysoce výkonných úložišť pro podnikovou umělou inteligenci:
-
Certifikace NVIDIA Cloud Partner (NCP) : WEKApod Nitro je jedním z prvních úložných řešení certifikovaných pro referenční architektury NVIDIA NCP, včetně HGX H200, B200 a GB200 NVL72. Tato zařízení posilují poskytovatele služeb a vývojáře podporou masivních clusterů GPU – až 1 152 GPU v konfiguraci 8U – a zároveň si zachovávají výjimečnou hustotu výkonu a energetickou účinnost.
-
Označení úložiště systémů s certifikací NVIDIA : Zařízení WEKApod Nitro získala novou certifikaci podnikového úložiště od společnosti NVIDIA, která zajišťuje kompatibilitu s referenčními architekturami a osvědčenými postupy NVIDIA Enterprise. Toto označení potvrzuje, že datová platforma WEKA poskytuje optimální výkon úložiště, efektivitu a škálovatelnost pro náročná podniková nasazení umělé inteligence a HPC.
Nilesh Patel, produktový ředitel společnosti WEKA, zdůraznil transformační potenciál tohoto partnerství se společností NVIDIA. Patel přirovnal tento vývoj k průlomům v leteckém průmyslu a uvedl: „Stejně jako prolomení zvukové bariéry odemklo nové hranice, rozšířená paměťová mřížka WEKA boří paměťovou bariéru umělé inteligence, dramaticky rozšiřuje paměť GPU a optimalizuje efektivitu tokenů. Tato inovace zásadně transformuje ekonomiku tokenů umělé inteligence a umožňuje rychlejší inovace a nižší náklady bez obětování výkonu.“
Rob Davis, viceprezident pro síťové technologie pro ukládání dat ve společnosti NVIDIA, dále zdůraznil důležitost této integrace: „Podniky nasazující agentní umělou inteligenci a modely uvažování vyžadují bezprecedentní efektivitu a škálovatelnost. Kombinace technologií NVIDIA a WEKA zajišťuje, že agenti umělé inteligence mohou přistupovat k datům a zpracovávat je s bezkonkurenční rychlostí a přesností během inference.“
dostupnost
- Referenční architektura NCP od společnosti WEKA pro systémy NVIDIA Blackwell bude k dispozici v březnu.
- Funkce WEKA Augmented Memory Grid bude pro zákazníky WEKA Data Platform obecně dostupná na jaře 2025.
Amazon