Na targach SC24 w Atlancie firma WEKA zaprezentowała pierwsze w branży wydajne rozwiązanie pamięci masowej, zaprojektowane specjalnie dla superukładu NVIDIA Grace CPU. Opracowane we współpracy z firmami NVIDIA, Arm i Supermicro, rozwiązanie to wykorzystuje oprogramowanie platformy danych WEKA, aby zapewnić niezrównaną gęstość wydajności i energooszczędność w zastosowaniach związanych ze sztuczną inteligencją (AI) i obliczeniami o wysokiej wydajności (HPC) w przedsiębiorstwach. Rozwiązanie to wykorzystuje rdzenie Arm Neoverse V2, karty sieciowe NVIDIA ConnectX-7 oraz BlueField-3 SuperNIC, a jego działanie opiera się na najnowocześniejszym serwerze pamięci masowej Supermicro, co pozwala sprostać rosnącym wyzwaniom związanym z dostępem do danych, przestrzenią i ograniczeniami zasilania w nowoczesnych centrach danych.
Napędzanie kolejnej generacji innowacji w dziedzinie sztucznej inteligencji
Procesor NVIDIA Grace CPU Superchip integruje możliwości flagowego serwera dwuprocesorowego x86-64 w jednym module, wyposażonym w 144 rdzenie Arm Neoverse V2. Taka konstrukcja zapewnia dwukrotnie większą efektywność energetyczną niż tradycyjne serwery x86. W połączeniu z kartami sieciowymi NVIDIA ConnectX-7 i BlueField-3 SuperNIC, oferując przepustowość do 400 Gb/s, rozwiązanie zapewnia szybką sieć o niskim opóźnieniu, niezbędną w przypadku obciążeń AI i HPC. Te udoskonalenia w połączeniu z architekturą zero-copy platformy danych WEKA eliminują wąskie gardła wejścia/wyjścia i znacząco redukują opóźnienia w potokach AI.
W połączeniu z natywną architekturą AI platformy danych WEKA, ta możliwość pozwala organizacjom przyspieszyć przepływy pracy związane ze sztuczną inteligencją nawet 10-krotnie, skracając czas potrzebny do uzyskania pierwszego tokena i zwiększając ogólną wydajność procesów przetwarzania danych związanych ze sztuczną inteligencją.
Architektura pamięci LPDDR5X procesora Grace, o przepustowości do 1 TB/s, eliminuje wąskie gardła, zapewniając płynny przepływ danych. Platforma danych WEKA, wykorzystująca architekturę rozproszoną i technologię pomijania jądra, obsługuje szybsze trenowanie modeli, skrócony czas epok i wyższą prędkość wnioskowania, co czyni ją idealnym rozwiązaniem do skalowania obciążeń AI w przedsiębiorstwach.
To rozwiązanie oferuje niespotykaną dotąd efektywność energetyczną, a platforma WEKA zwiększa wydajność stosu GPU od 10 do 50 razy . Dzięki redukcji kopii danych i wykorzystaniu elastyczności chmury, platforma zmniejsza zapotrzebowanie na infrastrukturę danych od 4 do 7 razy, redukując emisję dwutlenku węgla nawet o 260 ton CO2e na petabajt rocznie i obniżając koszty energii nawet 10-krotnie. Dzięki efektywności energetycznej procesora Grace CPU Superchip organizacje mogą realizować cele zrównoważonego rozwoju, jednocześnie zwiększając wydajność sztucznej inteligencji.
Transformacja centrów danych dla sztucznej inteligencji przedsiębiorstw
Współpraca firm WEKA, NVIDIA, Arm i Supermicro podkreśla wspólną wizję tworzenia wysokowydajnych i energooszczędnych rozwiązań dostosowanych do centrów danych nowej generacji. Nilesh Patel, dyrektor ds. produktów w WEKA, podkreślił transformacyjny potencjał tego partnerstwa, podkreślając, jak rozwiązanie przyspiesza przetwarzanie zadań w zakresie sztucznej inteligencji (AI) i przetwarzania o wysokiej wydajności (HPC), jednocześnie skracając czas uzyskiwania użytecznych wniosków i rozwiązując problem rosnącego zużycia energii w centrach danych.
Serwer pamięci masowej Supermicro ARS-121L-NE316R charakteryzuje się:
- 16 zatok na dyski SSD NVMe Gen5 E3.S zapewniające wysoką wydajność pamięci masowej.
- Trzy gniazda sieciowe PCIe Gen 5 obsługujące maksymalnie dwa moduły NVIDIA ConnectX-7 lub BlueField-3 SuperNIC i jeden adapter sieciowy OCP 3.0.
- Projekt zoptymalizowany pod kątem sztucznej inteligencji, analizy danych i aplikacji chmurowych o dużej skali.
Ivan Goldwasser, dyrektor ds. procesorów centrów danych w firmie NVIDIA, pochwalił rozwiązanie za bezproblemową integrację układu NVIDIA Grace CPU Superchip z platformą WEKA, co usprawnia obsługę obciążeń AI wymagających dużej ilości danych. Patrick Chiu, starszy dyrektor ds. zarządzania produktami pamięci masowej w firmie Supermicro, opisał serwer pamięci masowej Supermicro ARS-121L-NE316R Petascale jako pierwszy serwer zoptymalizowany pod kątem pamięci masowej, wykorzystujący układ NVIDIA Grace Superchip, dostosowany do wysokowydajnych obciążeń pamięci masowej, takich jak sztuczna inteligencja, analiza danych i hiperskalowalne aplikacje chmurowe.
Dostępność:
Rozwiązanie do przechowywania danych WEKA i Supermicro, wykorzystujące superchipy NVIDIA Grace CPU, będzie dostępne w sprzedaży na początku 2025 roku.
Amazon