Auf dem RAISE Summit in Paris stellte DDN Infinia 2.4 vor, die neueste Version seiner KI-Datenplattform für produktive KI-Anwendungen, groß angelegte Inferenz und souveräne KI-Implementierungen. Das Update erweitert die Funktionen für Unternehmen um Mandantenfähigkeit, Governance, Identitätsmanagement und neue POSIX-Unterstützung und optimiert gleichzeitig den Datenzugriff für GPU-beschleunigte KI-Infrastrukturen.
Mit zunehmender Reife von KI-Implementierungen in Unternehmen, die über das Modelltraining hinausgehen, verlagern sich die Prioritäten der Infrastruktur hin zu einer verbesserten Inferenzeffizienz, reduzierten Kosten pro Token und einer maximalen GPU-Auslastung. DDN positioniert Infinia 2.4 als Unternehmensdatenplattform, die Organisationen dabei unterstützen soll, KI-Systeme effizienter zu betreiben, indem Speicherengpässe beseitigt und der Betrieb in gemeinsam genutzten Umgebungen vereinfacht wird.
Die neue Version optimiert zudem den Einsatz von KI-Fabriken auf Basis von NVIDIA DSX und orientiert sich dabei an NVIDIAs Omniverse DSX-Architektur für KI-Fabriken im Gigascale-Bereich. Durch die Verbesserung des Datendurchsatzes und der GPU-Auslastung sowie die Vereinfachung des Infrastrukturmanagements werden höhere Leistung erzielt. Laut DDN können diese Verbesserungen die Inferenzleistung beschleunigen und die Rentabilität der Milliardeninvestitionen von Unternehmen in GPU-Infrastruktur steigern.
DDN-CEO und Mitgründer Alex Bouzari erklärte, der Fokus der Branche verlagere sich von der GPU-Beschaffung hin zu Kennzahlen für die operative Effizienz wie Inferenzleistung, GPU-Auslastung und Kosten pro Token. Er fügte hinzu, dass KI-Implementierungen in Unternehmen eine Infrastruktur erfordern, die Leistung, Governance und Sicherheit vereint, um den Wert von KI-Investitionen zu maximieren.
Fokus auf Inferenzleistung
Inferenz hat sich bei vielen KI-Implementierungen in Unternehmen zum größten Kostenfaktor entwickelt, da Organisationen verstärkt auf Retrieval-Augmented Generation (RAG), KI-Copiloten, agentenbasierte KI und autonome Anwendungen setzen. Infinia 2.4 wurde entwickelt, um die Effizienz der Inferenz durch latenzarmen Datenzugriff, leistungsstarken Objektspeicher und Datendienste zu verbessern, die eine optimale Auslastung der Beschleuniger gewährleisten.
Zu den wichtigsten Plattformverbesserungen gehören:
- Hochleistungsfähige verteilte KV-Cache-Beschleunigung
- Zugriff auf KI-Datensätze und Modellartefakte im Submillisekundenbereich
- Unterstützung hoher Parallelität für mandantenfähige Inferenzumgebungen
- Optimierungen für RAG, Vektordatenbanken, agentenbasierte KI und umfangreiche Inferenz-Workloads
- Verbesserte GPU-Auslastung zur Reduzierung des Infrastrukturaufwands
Laut DDN sollen diese Funktionen die Reaktionszeiten verbessern und gleichzeitig die Kosten pro Token für KI-Produktionsdienste senken.
Erweiterte Unternehmensfunktionen
Ein wesentlicher Schwerpunkt von Infinia 2.4 liegt auf der Unterstützung gemeinsam genutzter KI-Infrastrukturen für Unternehmen. Die Plattform bietet Funktionen, die laut DDN von vielen Cloud-Partnern von NVIDIA, Anbietern von Managed-AI-Diensten und KI-Plattformen für Unternehmen benötigt werden, darunter erweiterte Mandantenfähigkeit, Identitätsintegration, Quotenkontrolle, Governance-Steuerung und eine stärkere operative Trennung zwischen Mandanten.
Diese Erweiterungen ermöglichen es mehreren Organisationen, Geschäftseinheiten oder souveränen KI-Umgebungen, eine gemeinsame Infrastruktur zu nutzen und gleichzeitig die operative Trennung sicher aufrechtzuerhalten.
Erste POSIX-Unterstützung
Infinia 2.4 bietet zudem eingeschränkte POSIX-Unterstützung und erweitert damit die Anwendungskompatibilität über Objektspeicher hinaus. Die erste Version enthält qualifizierte POSIX-Clients für Red Hat Enterprise Linux und Ubuntu, dokumentierte Bereitstellungshinweise und definierte Durchsatzzusagen. Diese Funktion ermöglicht zusätzliche KI- und datenintensive Workloads bei gleichbleibender Performance-Architektur der Plattform.
S3-Kompatibilität
Bestehende Installationen können auf Infinia 2.4 aktualisiert werden, ohne dass Anwendungen, die auf Amazon S3-APIs basieren, angepasst werden müssen. Laut DDN bleibt die Plattform mit aktuellen S3-Umgebungen und SDKs kompatibel und bietet gleichzeitig die neuesten Verbesserungen in Leistung und Skalierbarkeit.
Strategie für eine umfassendere KI-Infrastruktur
Die Veröffentlichung unterstreicht DDNs kontinuierlichen Fokus auf KI-Lösungen für Unternehmen, Hyperscale-Infrastruktur, Inferenzplattformen und Initiativen für staatliche KI. Laut Unternehmen wird seine Technologie in KI-Infrastrukturen eingesetzt und unterstützt Organisationen wie NVIDIA, xAI, Salesforce, Mistral, SK Telecom, Yotta sowie zahlreiche Regierungs- und Forschungseinrichtungen. Dort dient sie der Verbesserung der Ressourcennutzung, der Beschleunigung der Modellbereitstellung und der Unterstützung umfangreicher KI-Operationen.
Amazon