Im hochriskanten Bereich der Unternehmens-KI liefern sich die Tech-Titanen einen unerbittlichen Wettlauf um die Enthüllung der nächsten bedeutenden Hardware-Innovation. Dell Technologies hat kürzlich den Dell PowerEdge XE9680 für generative KI vorgestellt und ist Ich habe es in einem aktuellen Whitepaper dargelegt. Der PowerEdge
Im hochriskanten Bereich der Unternehmens-KI liefern sich die Tech-Titanen einen unerbittlichen Wettlauf um die Enthüllung der nächsten bedeutenden Hardware-Innovation. Dell Technologies hat kürzlich den Dell PowerEdge XE9680 für generative KI vorgestellt und ist Ich habe es in einem aktuellen Whitepaper dargelegt. Der PowerEdge
Bei der Durchsicht des Whitepapers haben wir untersucht, wie dieses Kraftpaket die KI-Landschaft neu definiert und warum es möglicherweise die Geheimwaffe Ihres Unternehmens ist, um die KI-Grenze zu erobern.
Dell PowerEdge XE9680 für generative KI
Das Dell PowerEdge XE9680 ist ein GPU-dichter Rackserver, der für Hochleistungsanwendungen im Bereich der künstlichen Intelligenz entwickelt wurde. Es ist mit zwei skalierbaren Intel Xeon Prozessoren der 4. Generation mit jeweils bis zu 56 Kernen ausgestattet und kann entweder mit acht NVIDIA HGX H100 oder acht NVIDIA HGX A100 GPUs ausgestattet werden; alles verbunden mit der NVIDIA NVLink-Technologie.
Der PowerEdge XE9680 unterstützt DIMM-Geschwindigkeiten von bis zu 4800 MT/s und verfügt über 32 DDR5-DIMM-Steckplätze mit einer maximalen RAM-Kapazität von 4 TB. Es bietet bis zu 8 x 2.5-Zoll-NVMe-SSD-Laufwerke zur Speicherung mit einer maximalen Kapazität von 122.88 TB. Der Server umfasst außerdem eine Reihe von Sicherheitsfunktionen, wie z. B. kryptografisch signierte Firmware, Data-at-Rest-Verschlüsselung (DRE), Secure Boot und mehr. Es wird über das eingebettete iDRAC9-System verwaltet und unterstützt eine Vielzahl von Verwaltungstools und Integrationen. Der Server ist in einem 6U-Rack-Formfaktor untergebracht und wiegt 235.89 Pfund. (107 kg).
Technische Daten des Dell PowerEdge XE9680
Der PowerEdge XE9680 ist für die Bewältigung von KI-Workloads mit enormem Speicherbedarf konzipiert. Dank NVLink erhalten die GPUs Zugriff auf eine große Speichermenge von anderen GPUs im System und ermöglichen so einen Hochgeschwindigkeitszugriff auf gemeinsam genutzte Ressourcen. Diese erhebliche Speicherkapazität sollte zu höherer Leistung, komplexeren Modellen und der Möglichkeit führen, mit größeren, detaillierteren Datensätzen zu arbeiten und die Genauigkeit und den Nutzen durch die Nutzung größerer Parametermodelle zu verbessern.
Modell:
Prozessorfunktionen:
Physikalische Eigenschaften:
Speicherunterstützung:
|
I/O-Fähigkeiten:
GPU-Optimierung:
Fähigkeiten der künstlichen Intelligenz:
Laufwerksunterstützung:
|
Bilderzeugungsmodelle: Die Wissenschaft der Kunst
Haben Sie sich jemals gewünscht, Sie könnten wie Van Gogh malen oder wie Da Vinci skizzieren, aber am Ende Strichmännchen haben, die nicht einmal einen Kindergartenkind beeindrucken würden? Betreten Sie die Welt der Image Generation Models (IGMs), das maschinelle Lernäquivalent eines großartigen Künstlers, ohne Exzentrizität und Baskenmützen.
IGMs sind eine Teilmenge von Modellen des maschinellen Lernens, die darauf ausgelegt sind, die Erstellung neuer Bilder zu bewältigen. IGMs fallen in den breiteren Bereich der generativen Modellierung, bei der es um das Verstehen und Replizieren von Datenmustern geht. Anstatt Zahlen oder Text zu generieren, geht es diesen Modellen jedoch darum, visuelle Elemente zu erstellen. In den letzten Monaten haben IGMs für Schlagzeilen gesorgt, die von neuen Kunstwerken bis hin zu unheimlich realistischen menschlichen Gesichtern reichten.
Diese Modelle haben Eingang in alles gefunden, von Kunst und Unterhaltung bis hin zu Werbung und wissenschaftlicher Forschung. Sie erstellen Bilder von Zellen für die medizinische Diagnose, simulieren den Weltraum und erstellen Selfies, die so realistisch sind, dass Sie sie selbst angeln können. Mit der Weiterentwicklung dieser Modelle steigen auch die Anforderungen an deren schnelle Ausführung.
Dell PowerEdge XE9680 für generative KI: Stromversorgung am Rande der stabilen Diffusion
Diffusionsmethoden hängen bei der Generierung neuer Bilder während der Inferenz typischerweise von riesigen GPU-Clustern ab, die synchron arbeiten, und erfordern eine umfangreiche Hardware-Laufzeit. Aus dem Whitepaper von Dell geht jedoch hervor, dass mit dem Dell PowerEdge XE9680-Server diese generativen KI-Vorgänge erheblich beschleunigt werden können.
Dies ermöglicht die Erstellung von Dutzenden bis Hunderten einigermaßen aufgelösten Bildern in nur wenigen Sekunden. Dell weist darauf hin, dass durch die Nutzung der Fähigkeiten des Dell PowerEdge
XE9680 generiert mit Textaufforderung = „Porträt eines glücklichen Hundes, Nahaufnahme“
Das Whitepaper Bewertet die Bildgenerierungslatenz für das Text-zu-Bild-Modell HuggingFace Diffusers auf dem PowerEdge XE9680-Server unter Berücksichtigung von Stapelgrößen- und Bildauflösungsschwankungen. Der XE9680-Server könnte Bilder mit Auflösungen von bis zu 2,048 x 2,048 erzeugen.
Mit steigenden Batch-Größen stiegen auch die Speicheranforderungen an die Infrastruktur. Daher waren große Stapelgrößen mit Bildern mit niedrigerer Auflösung (z. B. 256 x 256) erreichbar. Aufgrund von Speicherbeschränkungen konnten Bilder mit sehr hoher Auflösung (z. B. 2,048 x 2,048) jedoch nur eine Stapelgröße von eins erzeugen.
PowerEdge XE9680 Batch-Image-Generierungszeiten
Die Konzentration auf die Stapelbildgenerierung von Bildern mit Auflösungen von 256 x 256 und 512 x 512 zeigt die leistungsstarken Fähigkeiten des Dell PowerEdge XE9680 für die generative KI, die innerhalb von Sekunden mehrere Bilder generiert. Diese Funktion beschleunigt die Evaluierung, schnelle Abstimmung und weitere Evaluierung, die für kreative Designzyklen erforderlich sind. Diese Ergebnisse zeigen, wie mit dem HuggingFace Diffusers-Paket auf dem Dell PowerEdge XE32-Server in weniger als 512 Sekunden Stapel von 512 Bildern mit einer Auflösung von 9680 x 10 generiert werden können. Darüber hinaus können mit derselben Plattform Stapel von 64 Bildern mit einer Auflösung von 256 x 256 in weniger als 5 Sekunden erstellt werden, was schnelle Prototyping- und kreative Designzyklen für Unternehmen und Profis ermöglicht.
Benchmarks zur Bildgenerierung
In der Analyse des Whitepapers wurde der Dell PowerEdge XE9680-Server anhand der von Lambda festgelegten Latenz-Benchmarks für die Bildgenerierung bewertet. Dieser Vergleich umfasste eine einzelne NVIDIA H100-GPU mit 80 GB RAM auf dem Dell PowerEdge XE9680-Server und den NVIDIA H100 GPU Stable Diffusion Benchmark, der vom ML Labs-Team bei Lambda veröffentlicht wurde.
Latenz bei der Bildgenerierung des Dell PowerEdge XE9680
Die Studie zeigte, dass der XE9680 die Benchmarks von Lambda übertraf und etwa den doppelten Durchsatz erreichte. Die Ergebnisse von Dell werden im gleichen Format wie die von Lambda präsentiert, wobei Daten aus der NVIDIA H100-GPU-Studie unter identischen softwaredefinierten Bedingungen verwendet werden. Der einzige Unterschied war die Hardware: Lambda verwendete eine NVIDIA H100-GPU mit PCIe-Formfaktor, während der Dell PowerEdge XE9680-Server einen HGX-Formfaktor verwendete, was einige Leistungsunterschiede erklären könnte.
Geschäftsauswirkungen von Bilderzeugungsmodellen
Die Bildgenerierung durch Stable Diffusion ermöglicht es Kreativprofis, ihre Arbeit schnell zu prototypisieren und zu verfeinern, um beispielsweise die Effizienz von Marketing- und Werbestrategien zu steigern und die Zeit bis zur Markteinführung zu verkürzen. Fachleute aus Bereichen wie Architektur, Werbung, Marketing, Kreativität, Film, Spezialeffekte, Fotografie und Kunst haben diese Technologie bereits übernommen.
Generative KI-Technologien wie Stable Diffusion können transformative Veränderungen im Unternehmensbetrieb bewirken, insbesondere wenn Geschwindigkeit entscheidend ist. Bei der Produktgestaltung und -entwicklung können diese Modelle schnell visuelle Prototypen generieren und es Designteams ermöglichen, Konzepte in Echtzeit zu bewerten und zu verfeinern. Dies beschleunigt den Designprozess und verkürzt die Zeit bis zur Markteinführung.
Eines der interessantesten Konzepte kommt aus dem Einzelhandel. KI könnte schnell realistische Bilder verschiedener Produktkonfigurationen oder Farboptionen basierend auf Kundenpräferenzen generieren, wie zum Beispiel „Zeigen Sie mir diesen Stuhl, aber in Rot“ oder „Wie würde dieses Sofa mit Leopardenmuster aussehen.“ Für Immobilien- und Bauunternehmen könnte generative KI schnell Visualisierungen von Neubauten oder Umbauprojekten erstellen und so die Planung und Verkaufspräsentationen unterstützen.
Im Bereich der Aus- und Weiterbildung innerhalb eines Unternehmens können KI-generierte Bilder verwendet werden, um realistische Szenarien für Mitarbeiterschulungsprogramme zu erstellen und so die Lernergebnisse zu verbessern. Die Geschwindigkeit der Bilderzeugung kann die Agilität von Unternehmen erheblich verbessern und es ihnen ermöglichen, effektiver auf Marktveränderungen, Kundenbedürfnisse und interne Anforderungen zu reagieren.
Abschließende Gedanken
Der Dell PowerEdge XE9680 ist ein Hochleistungsserver mit beeindruckenden Fähigkeiten, der anspruchsvolle KI-Workloads (zumindest vorerst) problemlos bewältigen kann. Während der XE9680 auf den trendigen KI-Markt ausgerichtet ist, könnte es für eine so leistungsstarke Box auch andere interessante Anwendungsfälle in der Analyse und Datenverarbeitung geben. Es ist zu beachten, dass der XE9680 untermauert Dells Projekt Helix, ein Dienst, der Organisationen dabei hilft, ihre KI-Projekte schneller online zu stellen.
Beteiligen Sie sich an StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
