W niezwykle wymagającej dziedzinie sztucznej inteligencji (AI) w przedsiębiorstwach, giganci technologiczni nieustannie ścigają się o kolejną znaczącą innowację sprzętową. Firma Dell Technologies niedawno zaprezentowała serwer Dell PowerEdge XE9680 dla generatywnej AI i prezentuje go w najnowszym raporcie . Serwer PowerEdge XE9680, zaprojektowany specjalnie z myślą o obsłudze zadań związanych ze sztuczną inteligencją, to nie tylko nowy uczestnik tego wyścigu – to potencjalny lider.
Zagłębiając się w raport, przyjrzeliśmy się, w jaki sposób to potężne narzędzie zmienia oblicze sztucznej inteligencji i dlaczego może być tajną bronią Twojej firmy, która pomoże Ci podbić granice sztucznej inteligencji.
Dell PowerEdge XE9680 dla generatywnej sztucznej inteligencji
Dell PowerEdge XE9680 to serwer rackowy o dużej gęstości GPU, zaprojektowany z myślą o wysokowydajnych aplikacjach z zakresu sztucznej inteligencji. Wyposażony jest w dwa procesory Intel Xeon Scalable czwartej generacji, każdy z maksymalnie 56 rdzeniami, i może być wyposażony w osiem procesorów graficznych NVIDIA HGX H100 lub NVIDIA HGX A100; wszystkie połączone technologią NVIDIA NVLink.
Serwer PowerEdge XE9680 obsługuje szybkość DIMM do 4800 MT/s i posiada 32 gniazda DIMM DDR5, a maksymalna pojemność pamięci RAM wynosi 4 TB. Oferuje do 8 2.5-calowych dysków SSD NVMe o maksymalnej pojemności 122.88 TB. Serwer oferuje również szereg funkcji bezpieczeństwa, takich jak kryptograficznie podpisane oprogramowanie sprzętowe, szyfrowanie danych w stanie spoczynku (DRE), bezpieczny rozruch i wiele innych. Zarządzany jest za pośrednictwem wbudowanego systemu iDRAC9 i obsługuje różnorodne narzędzia do zarządzania oraz integracje. Serwer mieści się w obudowie rack 6U i waży 107 kg (235.89 funta).
Specyfikacja Dell PowerEdge XE9680
Serwer PowerEdge XE9680 został zaprojektowany z myślą o obsłudze obciążeń AI o dużym zapotrzebowaniu na pamięć. Dzięki technologii NVLink procesory graficzne (GPU) uzyskują dostęp do ogromnej ilości pamięci z innych procesorów graficznych w systemie, zapewniając szybki dostęp do współdzielonych zasobów. Ta znaczna pojemność pamięci powinna przełożyć się na wyższą wydajność, bardziej złożone modele oraz możliwość pracy z większymi, bardziej szczegółowymi zbiorami danych, zwiększając dokładność i użyteczność dzięki wykorzystaniu modeli o większych parametrach.
Model:
Możliwości procesora:
Właściwości fizyczne:
Obsługa pamięci:
|
Możliwości we/wy:
Optymalizacja GPU:
Możliwości sztucznej inteligencji:
Wsparcie napędu:
|
Modele generowania obrazu: nauka o sztuce
Marzyłeś kiedyś o tym, żeby malować jak Van Gogh albo szkicować jak Da Vinci, ale skończyć z patyczakami, które nie zrobiłyby wrażenia nawet na przedszkolaku? Wejdź do świata modeli generowania obrazu (IGM), maszynowego odpowiednika utalentowanego artysty, bez ekscentryczności i beretów.
Modele IGM to podzbiór modeli uczenia maszynowego zaprojektowanych do tworzenia nowych obrazów. Modele IGM wpisują się w szerszą dziedzinę modelowania generatywnego, która polega na rozumieniu i replikacji wzorców danych. Jednak zamiast generować liczby czy tekst, modele te zajmują się tworzeniem wizualizacji. W ostatnich miesiącach IGM-y stały się tematem medialnym, generując wszystko – od nowych dzieł sztuki po niesamowicie realistyczne ludzkie twarze.
Modele te znalazły zastosowanie we wszystkim, od sztuki i rozrywki, przez reklamę, po badania naukowe. Tworzą obrazy komórek do diagnostyki medycznej, symulują przestrzeń kosmiczną i generują selfie tak realistyczne, że można się w nich pogubić. Wraz z rozwojem tych modeli rosną wymagania dotyczące ich szybkiego uruchamiania.
Dell PowerEdge XE9680 dla generatywnej sztucznej inteligencji: zasilanie krawędzi stabilnej dyfuzji
Metody dyfuzyjne, generujące nowe obrazy podczas wnioskowania, zazwyczaj opierają się na ogromnych klastrach GPU działających synchronicznie i wymagają znacznego czasu wykonania. Jednak raport firmy Dell ujawnia, że dzięki serwerowi Dell PowerEdge XE9680 te generatywne operacje AI można znacznie przyspieszyć.
Pozwala to na wygenerowanie dziesiątek, a nawet setek obrazów o rozsądnej rozdzielczości w zaledwie kilka sekund. Dell podkreśla, że dzięki wykorzystaniu możliwości serwera Dell PowerEdge XE9680 dla Generative AI, duże obrazy o wysokiej rozdzielczości (Dell użył rozdzielczości 2,096 x 2,096) można wygenerować z jednego komunikatu tekstowego w ciągu kilku sekund.
XE9680 wygenerowany z tekstem zachęty = „Portret szczęśliwego psa, zbliżenie,”
W dokumencie tym dokonano oceny opóźnienia generowania obrazu w modelu przetwarzania tekstu na obraz HuggingFace Diffusers na serwerze PowerEdge XE9680, biorąc pod uwagę rozmiar partii i zmienność rozdzielczości obrazu. Serwer XE9680 mógł generować obrazy o rozdzielczości do 2,048 x 2,048.
Wraz ze wzrostem rozmiarów partii rosło również zapotrzebowanie infrastruktury na pamięć. W związku z tym ogromne rozmiary partii były możliwe do osiągnięcia przy użyciu obrazów o niższej rozdzielczości (np. 256 x 256). Jednak ze względu na ograniczenia pamięci, obrazy o bardzo wysokiej rozdzielczości (np. 2,048 x 2,048) mogły generować partię o rozmiarze tylko jednego.
Czas generowania obrazu wsadowego PowerEdge XE9680
Skupienie się na generowaniu wsadowym obrazów o rozdzielczości 256 x 256 i 512 x 512 pokazuje potężne możliwości serwera Dell PowerEdge XE9680 w zakresie generatywnej sztucznej inteligencji (Generative AI) generującego wiele obrazów w ciągu kilku sekund. Ta możliwość przyspiesza ocenę, szybkie dostrajanie i dalszą analizę niezbędną w cyklach projektowania kreatywnego. Wyniki te pokazują, jak partie 32 obrazów o rozdzielczości 512 x 512 mogą być generowane za pomocą pakietu HuggingFace Diffusers na serwerze Dell PowerEdge XE9680 w mniej niż 10 sekund. Co więcej, partie 64 obrazów o rozdzielczości 256 x 256 mogą być tworzone w mniej niż 5 sekund na tej samej platformie, co umożliwia szybkie prototypowanie i kreatywne cykle projektowania dla firm i profesjonalistów.
Testy generowania obrazu
W analizie zawartej w dokumencie, serwer Dell PowerEdge XE9680 został oceniony pod kątem testów opóźnień generowania obrazu opracowanych przez Lambda. W tym porównaniu wykorzystano pojedynczy procesor graficzny NVIDIA H100 z 80 GB pamięci RAM w serwerze Dell PowerEdge XE9680 oraz test porównawczy NVIDIA H100 GPU Stable Diffusion opublikowany przez zespół ML Labs w Lambda.
Opóźnienie generowania obrazu Dell PowerEdge XE9680
Badanie wykazało, że serwer XE9680 przewyższył wyniki benchmarków Lambda, osiągając około dwukrotnie większą przepustowość. Wyniki Della przedstawiono w tym samym formacie co Lambda, wykorzystując dane z badania GPU NVIDIA H100 w identycznych warunkach zdefiniowanych programowo. Jedyną różnicą był sprzęt: Lambda korzystała z procesora graficznego NVIDIA H100 w formacie PCIe, podczas gdy serwer Dell PowerEdge XE9680 korzystał z procesora graficznego HGX, co może wyjaśniać pewne różnice w wydajności.
Wpływ modeli generowania obrazu na biznes
Generowanie obrazu za pomocą technologii Stable Diffusion umożliwia profesjonalistom z branży kreatywnej szybkie prototypowanie i udoskonalanie ich prac, na przykład poprzez zwiększenie efektywności strategii marketingowych i reklamowych oraz skrócenie czasu wprowadzania produktów na rynek. Specjaliści z takich dziedzin jak architektura, reklama, marketing, kreatywność, film, efekty specjalne, fotografia i sztuka już wdrożyli tę technologię.
Generatywne technologie sztucznej inteligencji, takie jak stabilna dyfuzja (Stable Diffusion), mogą przynieść transformacyjne zmiany w działalności przedsiębiorstw, zwłaszcza gdy szybkość ma kluczowe znaczenie. W projektowaniu i rozwoju produktów modele te pozwalają na szybkie generowanie wizualnych prototypów, umożliwiając zespołom projektowym ocenę i udoskonalanie koncepcji w czasie rzeczywistym. Przyspiesza to proces projektowania i skraca czas wprowadzania produktów na rynek.
Jedna z najciekawszych koncepcji pochodzi z branży handlu detalicznego. Sztuczna inteligencja mogłaby szybko generować realistyczne obrazy różnych konfiguracji produktów lub opcji kolorystycznych w oparciu o preferencje klienta, na przykład: „Pokaż mi ten fotel, ale w kolorze czerwonym” lub „Jak wyglądałaby ta sofa z nadrukiem w panterkę”. W firmach z branży nieruchomości i budownictwa generatywna sztuczna inteligencja mogłaby szybko tworzyć wizualizacje nowych budynków lub projektów remontowych, wspomagając planowanie i prezentacje sprzedażowe.
W obszarze szkoleń i edukacji w przedsiębiorstwie, obrazy generowane przez sztuczną inteligencję mogą być wykorzystywane do tworzenia realistycznych scenariuszy programów szkoleniowych dla pracowników, co przekłada się na poprawę efektów nauczania. Szybkość generowania obrazów może znacząco poprawić elastyczność działania firm, umożliwiając im skuteczniejsze reagowanie na zmiany rynkowe, potrzeby klientów i wymagania wewnętrzne.
Myśli końcowe
Dell PowerEdge XE9680 to wydajny serwer o imponujących możliwościach, który z łatwością radzi sobie z wymagającymi obciążeniami AI (przynajmniej na razie). Chociaż XE9680 jest skierowany do dynamicznie rozwijającego się rynku AI, istnieją inne interesujące zastosowania tego wydajnego urządzenia w analityce i przetwarzaniu danych. Warto zauważyć, że XE9680 stanowi podstawę projektu Helix firmy Dell , usługi, która pomaga organizacjom szybciej wdrażać projekty AI.
Amazon