Supermicro hat neue Serverangebote angekündigt, die die neuesten HGX H200-GPUs von NVIDIA (mit H200 Tensor Core-GPUs) beinhalten und erhebliche Fortschritte im Bereich der generativen KI und des LLM-Trainings bringen sollen.
Das Unternehmen bereitet die Veröffentlichung von KI-Plattformen vor, die sowohl 8U- als auch 4U-Universal-GPU-Systeme umfassen und vollständig für die Unterstützung des HGX H200 mit 8-GPU- und 4-GPU-Konfigurationen ausgestattet sind. Diese Systeme verfügen durch die Einführung der HBM3e-Technologie über eine verbesserte Speicherbandbreite, die im Vergleich zu früheren Generationen eine nahezu doppelt so große Kapazität und eine 1.4-mal höhere Bandbreite bietet. Es wird erwartet, dass dieser Sprung in der Hardwarefähigkeit den wachsenden Anforderungen an komplexere Rechenaufgaben in der KI-Forschung und -Entwicklung gerecht wird.
Darüber hinaus kündigte Supermicro einen High-Density-Server mit NVIDIA HGX H100 8-GPU-Systemen in einem flüssigkeitsgekühlten 4U-System an, das die neuesten Kühltechnologien des Unternehmens beinhaltet. Supermicro behauptet, es sei der branchenweit kompakteste Hochleistungs-GPU-Server und weist darauf hin, dass dieses System die bisher höchste Dichte an KI-Trainingskapazität in einer einzigen Rack-Einheit ermöglicht und dazu beiträgt, Kosten- und Energieeffizienz sicherzustellen.
Die Partnerschaft mit NVIDIA hat es Supermicro ermöglicht, an der Spitze des KI-Systemdesigns zu stehen und optimierte Lösungen für KI-Training und HPC-Workloads bereitzustellen. Das Engagement des Unternehmens für schnelle Innovation zeigt sich in seiner Systemarchitektur, die eine schnelle Markteinführung technologischer Fortschritte ermöglicht. Die neuen KI-Systeme verfügen über die Verbindungstechnologie von NVIDIA wie NVLink und NVSwitch, um extrem schnelle Datenübertragungen mit 900 GB/s zu unterstützen, und bieten bis zu 1.1 TB HBM3e-Speicher pro Knoten, wodurch die Leistung für die parallele Verarbeitung von KI-Algorithmen optimiert wird.
Supermicro bietet eine vielfältige Auswahl an KI-Servern, darunter die weit verbreiteten 8U- und 4U-Universal-GPU-Systeme. Diese Systeme mit Vier-Wege- und Acht-Wege-NVIDIA-HGX-H100-GPUs sind jetzt für die neuen H200-GPUs (die über 41 GB Speicher mit einer Bandbreite von 4.8 TB/s verfügen) bereit und ermöglichen so eine noch schnellere Trainingszeit für größere Sprachen Modelle.
Supermicro wird das 4U Universal GPU System auf der kommenden SC23 vorstellen.
Amazon