Das neue NVIDIA GB200 NVL72-System setzt durch die Verbindung von 72 Blackwell-GPUs und 36 Grace-CPUs neue Maßstäbe für das KI-Systemdesign.
NVIDIA Grace Blackwell Compute Tray
NVIDIA wird seine neuesten Innovationen auf der kommenden Hot Chips 2024-Konferenz vorstellen und dort seine Fortschritte bei der Rechenzentrumsleistung und Energieeffizienz präsentieren. Während sich der Billionen-Dollar-Markt für Rechenzentrums-Computing weiterentwickelt, werden die Ingenieure von NVIDIA Entwicklungen der NVIDIA Blackwell-Plattform, Flüssigkeitskühlungslösungen und KI-Agenten für das Chipdesign präsentieren.
Während der Konferenz wird NVIDIA hervorheben, wie die NVIDIA Blackwell Die Plattform vereint mehrere Chips, darunter die Blackwell GPU, die Grace CPU, die BlueField DPU und die CUDA-Software, um die nächste Generation der KI branchenübergreifend anzutreiben. Laut NVIDIA setzt das neue GB200 NVL72-System, eine flüssigkeitsgekühlte Rack-Scale-Lösung mit mehreren Knoten, neue Maßstäbe für das KI-Systemdesign, indem es 72 Blackwell GPUs und 36 Grace CPUs verbindet. Dieses System ermöglicht beispiellose Inferenz mit geringer Latenz für generative KI-Workloads mit bis zu 30-mal schnellerer Inferenz für große Sprachmodelle (LLMs).
„Seien Sie bereit für Blackwell“
„NVIDIA Blackwell ist die ultimative Full-Stack-Computing-Herausforderung“, sagte Dave Salvator von NVIDIA heute in einem Blogbeitrag. „Indem wir diese fortschrittlichen Technologien vereinen, definieren wir den Standard für KI und beschleunigte Rechenleistung neu und verbessern gleichzeitig die Energieeffizienz erheblich.“
NVIDIA Quantum InfiniBand-Switch
Über die Chip-Innovation hinaus konzentriert sich NVIDIA auch auf Kühltechnologien, die Rechenzentren neu definieren könnten. Ein Schwerpunkt der Diskussionen wird die Flüssigkeitskühlung sein, die zu einem Schlüsselelement bei der Unterstützung großer KI-Workloads wird. Ali Heydari, Director of Data Center Cooling and Infrastructure bei NVIDIA, wird hybride Flüssigkeitskühlungslösungen vorstellen, die in bestehende luftgekühlte Rechenzentren nachgerüstet werden können.
NVIDIA Spectrum-Netzwerk-Switch mit 800 Gbit
Zusätzlich zu diesen Hardware-Fortschritten erweitert NVIDIA die Grenzen des KI-gestützten Designs. Mark Ren, Director of Design Automation Research bei NVIDIA, wird Einblicke geben, wie KI-Modelle und agentenbasierte Systeme das Halbleiterdesign verändern. Diese KI-Tools steigern die Produktivität der Ingenieure, indem sie Aufgaben wie Zellclusteroptimierung und -debugging automatisieren und so das Chipdesign effizienter machen. „KI-Agenten eröffnen neue Möglichkeiten, indem sie komplexe Aufgaben autonom ausführen, die zuvor manuelle Eingriffe erforderten“, sagte Ren.
NVIDIA NVLink-Switch
Hot Chips 2024 findet vom 25. bis 27. August an der Stanford University und online statt. Die Teilnehmer können tiefere Einblicke in die neuesten Durchbrüche von NVIDIA erwarten und erfahren, wie diese die Zukunft der KI- und Rechenzentrumstechnologie prägen.
Weitere Informationen zu den Ankündigungen von NVIDIA Blackwell bei Hot Chips 2024 finden Sie unter Offizielle Website von NVIDIA.
Beteiligen Sie sich an StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
