Intel Vision erweckt Gaudi 3 zum Leben

Im Mittelpunkt von Intels Vision steht eine wichtige Prognose: Die Unternehmensinvestitionen in GenAI werden sich von 40 Milliarden US-Dollar im Jahr 2024 auf beeindruckende 151 Milliarden US-Dollar im Jahr 2027 vervierfachen. Doch trotz dieses Optimismus ist der Weg zur Unternehmenseinführung mit Hindernissen gesäumt.

Intel ist fest entschlossen, diese Herausforderungen anzugehen, indem es skalierbare, sichere End-to-End-GenAI-Lösungen bereitstellt, die die kritischsten KI-Hürden bewältigen – von Sicherheits- und Integrationskomplexitäten bis hin zu Kostenbedenken. Mit einem unerschütterlichen Fokus auf die Ermöglichung der Transformation entwickelt Intel eine umfassende KI-Strategie für Unternehmen und verfolgt einen offenen, ökosystembasierten Ansatz in seiner gesamten Produktlinie, von KI-PCs über Edge-Computing bis hin zum Rechenzentrum.

Die Show stehlen: Intel Gaudi 3 Accelerator

Im Mittelpunkt von Intels Vision steht die Enthüllung des Intel Gaudi 3 AI-Beschleunigers, der an die bewährte Leistung und Effizienz seines Vorgängers, des Intel Gaudi 2 AI-Beschleunigers, anknüpft. Der Gaudi 3 bietet Kunden die Flexibilität offener Community-basierter Software und branchenüblicher Ethernet-Netzwerke und stellt einen bedeutenden Fortschritt in der Systemskalierbarkeit dar.

Der auf GenAI-Leistung und -Effizienz ausgelegte Gaudi 3 bietet beeindruckende Verbesserungen gegenüber seinem Vorgänger. Mit 4-facher KI-Rechenleistung für BF16, einer 1.5-fachen Speichererweiterung und der 2-fachen Netzwerkbandbreite verspricht es eine beispiellose Produktivität für KI-Training und Inferenz auf großen Sprachmodellen (LLMs) und multimodalen Modellen.

Justin Hotard, Executive Vice President und General Manager der Data Center and AI Group bei Intel, unterstreicht die Bedeutung von Gaudi 3 für die Bewältigung der sich entwickelnden Landschaft des KI-Marktes. Er unterstreicht die Nachfrage nach größerer Auswahl bei Unternehmen und betont die überzeugende Kombination aus Preisleistung, Skalierbarkeit und Time-to-Value-Vorteil von Gaudi 3.

In kritischen Sektoren wie dem Finanzwesen, der Fertigung und dem Gesundheitswesen erweitern Unternehmen rasch die Zugänglichkeit von KI und gehen von der experimentellen zur vollständigen Umsetzung generativer KI-Projekte (GenAI) über. Intel betrachtet den Gaudi 3-Beschleuniger als entscheidend für die Erfüllung dieser Anforderungen, da er Vielseitigkeit durch offene Community-basierte Software und Standard-Ethernet-Netzwerke bietet, um KI-Systeme und -Anwendungen flexibel zu skalieren.

Die maßgeschneiderte Architektur des Gaudi 3 ist auf effiziente KI-Berechnungen im großen Maßstab zugeschnitten, wird in einem 5-Nanometer-Verfahren hergestellt und ist mit den wichtigsten Funktionen ausgestattet:

• KI-spezifische Rechen-Engine: Ausgestattet mit einer heterogenen Rechen-Engine, die 64 KI-spezifische und programmierbare Tensor-Prozessorkerne (TPCs) und acht Matrix-Multiplikations-Engines (MMEs) umfasst, zeichnet sich der Gaudi 3 durch die Handhabung komplexer Matrixoperationen aus, die für Deep-Learning-Algorithmen von grundlegender Bedeutung sind.
• Speicherschub für LLM-Kapazitätsanforderungen: Mit ausreichend Speicherkapazität, Bandbreite und integriertem statischen Direktzugriffsspeicher (SRAM) verarbeitet der Gaudi 3 große GenAI-Datensätze effizient und verbessert so die Arbeitslastleistung und die Kosteneffizienz des Rechenzentrums.
• Effiziente Systemskalierung für Enterprise GenAI: Durch die Integration von vierundzwanzig 200-Gigabit-Ethernet-Ports ermöglicht der Gaudi 3 eine flexible und auf offenen Standards basierende Vernetzung, was eine effiziente Skalierung zur Unterstützung großer Rechencluster ermöglicht und gleichzeitig die Abhängigkeit von einem Anbieter beseitigt.
• Offene Branchensoftware für Entwicklerproduktivität: Die Gaudi-Software integriert das PyTorch-Framework und bietet optimierte Hugging Face-Community-basierte Modelle, wodurch die Entwicklerproduktivität verbessert und die Modellportierung über Hardwaretypen hinweg vereinfacht wird.
• Gaudi 3 PCIe: Die Gaudi 3 PCIe-Zusatzkarte führt einen neuen Formfaktor in die Produktlinie ein und bietet hohe Effizienz und geringeren Stromverbrauch, ideal für Arbeitslasten wie Feinabstimmung, Inferenz und Retrieval-Augmented Generation (RAG).

Der Gaudi 3-Beschleuniger wird voraussichtlich erhebliche Leistungsverbesserungen für Trainings- und Inferenzaufgaben auf führenden GenAI-Modellen liefern und ist bereit, KI und Hochleistungsrechnen (HPC) zu revolutionieren. Es wird eine entscheidende Rolle in Falcon Shores, Intels GPU der nächsten Generation, spielen und das geistige Eigentum von Intel Gaudi und Intel Xe mit einer einzigen GPU-Programmierschnittstelle basierend auf der Intel oneAPI-Spezifikation integrieren.

Intel Gaudi 3 vs. NVIDIA

Während der Eröffnungssitzung stand Pat Gelsinger, CEO von Intel, im Mittelpunkt, um den Intel Gaudi 3 AI-Beschleuniger vorzustellen. Es wird erwartet, dass Gaudi 3 bei den Parametern Llama50 100B und 2B und GPT-7 13B eine um 3 Prozent schnellere Trainingszeit im Vergleich zu NVIDIA H175 bietet. Darüber hinaus kann der Gaudi 3-Beschleuniger im Vergleich zu NVIDIA H50 einen um 40 Prozent höheren Inferenzdurchsatz und eine um 7 Prozent bessere Inferenzleistungseffizienz bei Llama 70B- und 180B-Parametern und Falcone 200B-Parametermodellen erzeugen. Darüber hinaus hat Gaudi 3 bei Llama 30B- und 200B-Parametern und Falcon 7B-Parametermodellen eine um 70 Prozent schnellere Inferenzierung als NVIDIA H180 gezeigt.

Mit beeindruckenden Leistungskennzahlen bietet Gaudi 3 im Vergleich zu Branchenalternativen einen bemerkenswerten 50 Prozent besseren Inferenzdurchsatz und eine 60 Prozent bessere Energieeffizienz.

Gaudi 3 wird von Top-OEMs wie Dell Technologies, Supermicro, Lenovo und HPE unterstützt und mit Funktionen wie der Unterstützung von PCIe-Karten erweitert. Damit erweist sich Gaudi XNUMX als GPU mit enormem Potenzial in der KI-Landschaft.

Intel Xeon 6 Prozessoren

Zusätzlich zum Intel Gaudi 3-Beschleuniger stellte Intel mit neuen Intel Xeon 6-Prozessoren Updates zu seinen Produkten und Dienstleistungen der nächsten Generation in allen Segmenten der Unternehmens-KI bereit.

Intel Intel hat eine neue Marke für seine Prozessoren der nächsten Generation für Rechenzentren, Cloud und Edge eingeführt. Für Effizienz sorgen Intel Xeon 6 Prozessoren mit neuen Efficient-Cores (E-Core). Gleichzeitig wird Intel Xeon 6 mit Performance-Kernen (P-Core) eine erhöhte KI-Leistung bieten und bald nach den E-Core-Prozessoren auf den Markt kommen.

Intel Die Intel® Modelle.