HPE wprowadza ulepszony stos sztucznej inteligencji z chmurą prywatną, pakietem SDK pamięci masowej Alletra i obsługą procesorów graficznych Blackwell

Firma HPE wprowadziła serię aktualizacji w swoim portfolio rozwiązań NVIDIA AI Computing by HPE. Udoskonalenia te mają na celu lepsze wsparcie pełnego cyklu rozwoju sztucznej inteligencji, od pozyskiwania danych i szkolenia, po wnioskowanie w czasie rzeczywistym i zarządzanie operacyjne. HPE koncentruje się na pełnym cyklu życia sztucznej inteligencji w infrastrukturze przedsiębiorstwa. Najnowsze aktualizacje odzwierciedlają nacisk na elastyczność, skalowalność i gotowość deweloperów, zaczynając od nowych możliwości w HPE Private Cloud AI.

Nowe możliwości w HPE Private Cloud AI mają na celu zmniejszenie tarcia wśród programistów

HPE Private Cloud AI, kompleksowe rozwiązanie opracowane we współpracy z firmą NVIDIA, wprowadza centralną aktualizację. Platforma umożliwia organizacjom uruchamianie generatywnej sztucznej inteligencji (GenAI) i zadań agentowych lokalnie lub w środowiskach hybrydowych, a teraz będzie obsługiwać aktualizacje modelu gałęzi funkcji z NVIDIA AI Enterprise.

Oznacza to, że programiści mogą testować nowe frameworki AI, mikrousługi i zestawy SDK bez wpływu na stabilne modele produkcyjne – podejście, które odzwierciedla podejście powszechnie stosowane we współczesnym rozwoju oprogramowania. Zapewnia to bezpieczniejsze środowisko do eksperymentowania, zachowując jednocześnie solidność wymaganą dla sztucznej inteligencji na skalę korporacyjną.

Rozwiązanie HPE Private Cloud AI będzie również obsługiwać projekt zatwierdzony przez NVIDIA Enterprise AI Factory. To połączenie zapewnia organizacjom łatwiejszą ścieżkę do tworzenia rozwiązań AI z wykorzystaniem sprawdzonych projektów referencyjnych firmy NVIDIA, ułatwiając niezawodne i spójne skalowanie.

Nowy zestaw SDK dla Alletra Storage usprawnia przepływy pracy danych dla agentowej sztucznej inteligencji

Firma HPE wprowadza również nowy zestaw narzędzi programistycznych (SDK) dla systemu Alletra Storage MP X10000, zaprojektowany do współpracy z platformą danych AI firmy NVIDIA. Ten zestaw SDK ułatwia organizacjom łączenie infrastruktury danych z narzędziami AI firmy NVIDIA.

Głównym celem jest pomoc w zarządzaniu nieustrukturyzowanymi danymi (np. dokumentami, obrazami czy filmami), które często wymagają czyszczenia i porządkowania przed wykorzystaniem w projektach AI. Zestaw SDK obsługuje takie zadania, jak tagowanie danych przydatnymi informacjami, organizowanie ich w celu szybszego wyszukiwania oraz przygotowywanie do trenowania i wnioskowania modeli AI.

Wykorzystuje również technologię RDMA (Remote Direct Memory Access) w celu przyspieszenia transferu danych pomiędzy pamięcią masową a procesorami GPU, co przekłada się na lepszą wydajność podczas obsługi dużych obciążeń związanych ze sztuczną inteligencją.

Ponadto modułowa konstrukcja Alletra X10000 pozwala organizacjom na niezależne skalowanie pamięci masowej i wydajności, co pozwala im dostosować konfigurację do konkretnych potrzeb projektu. Łącząc te narzędzia, HPE i NVIDIA dążą do zapewnienia organizacjom bardziej efektywnych sposobów dostępu i przetwarzania danych, zarówno w systemach lokalnych, jak i w środowiskach chmurowych.

Serwery HPE zajmują czołowe miejsca w testach porównawczych AI

Serwer HPE ProLiant Compute DL380a Gen12 niedawno zajął czołowe miejsca w 10 testach porównawczych MLPerf Inference: Datacenter v5.0. Testy te oceniały wydajność w różnych wymagających modelach sztucznej inteligencji, w tym GPT-J do zadań językowych, Llama2-70B do generatywnej sztucznej inteligencji na dużą skalę, ResNet50 do klasyfikacji obrazów i RetinaNet do wykrywania obiektów. Wysoka wydajność w testach odzwierciedla obecną konfigurację serwera, która obejmuje wydajne procesory graficzne NVIDIA H100 NVL, H200 NVL i L40S.

Bazując na tej dynamice, HPE planuje rozszerzyć możliwości serwera, oferując konfiguracje z maksymalnie 10 kartami graficznymi NVIDIA RTX PRO 6000 Blackwell Server Edition, począwszy od 4 czerwca. Oczekuje się, że ten dodatek jeszcze bardziej zwiększy przydatność serwera w zastosowaniach sztucznej inteligencji w przedsiębiorstwach, takich jak wnioskowanie multimodalne, sztuczna inteligencja oparta na symulacji (często nazywana fizyczną sztuczną inteligencją), dostrajanie modeli oraz zaawansowane projektowanie lub przepływy pracy związane z mediami.

Serwer DL380a Gen12 oferuje dwie opcje chłodzenia, które umożliwiają obsługę obciążeń o wysokim zapotrzebowaniu: tradycyjne chłodzenie powietrzem i bezpośrednie chłodzenie cieczą (DLC). Konfiguracja DLC opiera się na wieloletnim doświadczeniu HPE w zakresie zarządzania temperaturą, aby zapewnić stabilność i wydajność systemu podczas długotrwałych operacji wymagających dużej mocy obliczeniowej.

Serwer jest wyposażony w mechanizm zarządzania HPE Integrated Lights Out (iLO) 7, obejmujący zabezpieczenia na poziomie sprzętowym oparte na technologii Silicon Root of Trust. Jest to jedna z pierwszych platform serwerowych zaprojektowanych z myślą o gotowości do kryptografii postkwantowej i spełnia standard FIPS 140-3 poziomu 3 – zaawansowany certyfikat bezpieczeństwa kryptograficznego.

W zakresie zarządzania rozwiązanie HPE Compute Ops Management oferuje zautomatyzowane narzędzia cyklu życia, które monitorują stan systemu, wcześnie sygnalizują potencjalne problemy i dostarczają informacji o zużyciu energii za pomocą analiz opartych na sztucznej inteligencji.

Oprócz DL380a, HPE wykazało się również siłą w całej swojej ofercie serwerów. Serwer ProLiant Compute DL384 Gen12, wyposażony w dwuprocesorowe procesory graficzne NVIDIA GH200 NVL2, zajął pierwsze miejsce w czterech testach MLPerf v5.0, w tym w modelach wielkoskalowych, takich jak Llama2-70B i Mixtral-8x7B. Z kolei serwer HPE Cray XD670, wyposażony w 8 procesorów graficznych NVIDIA H200 SXM, zwyciężył w 30 scenariuszach testowych, obejmujących duże modele językowe i zadania AI oparte na wizji. Systemy HPE zajęły pierwsze miejsce w ponad 50 kategoriach testów, oferując niezależną walidację możliwości swojej infrastruktury AI.

OpsRamp rozszerza się o nową klasę GPU do obserwowalności infrastruktury

W obszarze operacyjnym, HPE rozszerza wsparcie dla swojego oprogramowania OpsRamp, aby zarządzać środowiskami wykorzystującymi nadchodzące procesory graficzne NVIDIA RTX PRO 6000 Blackwell. To rozszerzenie umożliwia zespołom IT zachowanie przejrzystości infrastruktury AI, od wykorzystania procesorów graficznych i obciążeń termicznych, po wykorzystanie pamięci i pobór mocy.

Oprogramowanie zapewnia pełną obserwację stosu w hybrydowych środowiskach AI i pozwala zespołom proaktywnie automatyzować reakcje, optymalizować harmonogramowanie zadań i zarządzać alokacją zasobów w oparciu o trendy historyczne. Wraz ze wzrostem inwestycji przedsiębiorstw w AI, narzędzia do obserwacji i optymalizacji zyskują na znaczeniu dla niezawodnego i ekonomicznego wdrażania AI.

Dostępność:

Wsparcie dla funkcji NVIDIA AI Enterprise w HPE Private Cloud AI spodziewane jest latem. Pakiet SDK HPE Alletra Storage MP X10000 , obejmujący obsługę bezpośredniego dostępu do pamięci w infrastrukturze akcelerowanej przez NVIDIA, również ma być dostępny latem 2025 roku. Serwer HPE ProLiant Compute DL380a Gen12 , skonfigurowany z procesorami graficznymi NVIDIA RTX PRO 6000 Blackwell Server Edition, będzie dostępny w sprzedaży od 4 czerwca 2025 roku. Oprogramowanie HPE OpsRamp będzie dostępne wraz z premierą RTX PRO 6000, aby wspierać zarządzanie i optymalizację.

Dzięki tym aktualizacjom wydaje się, że HPE podejmuje kroki w celu dalszego wzmocnienia swojego portfolio infrastruktury AI, koncentrując się na tworzeniu skalowalnych, łatwych w zarządzaniu środowisk, które mogą obsługiwać pełen zakres obciążeń AI bez nadmiernego komplikowania operacji.