Palantir und NVIDIA haben eine eigenständige KI-Plattform für Lieferkettenprozesse entwickelt und testen sie zunächst innerhalb der eigenen Lieferkette von NVIDIA, die 1.3 Millionen Teile für jedes Vera-Rubin-Rack bereitstellen muss. Die Plattform integriert offene NVIDIA-Nemotron-Modelle in Palantir Foundry und dessen KI-Plattform (AIP), die auf der Palantir-Ontologie basiert. Ziel ist es, Planern Transparenz entlang der gesamten Lieferkette zu ermöglichen, Engpässe frühzeitig zu erkennen und die operative Entscheidungsfindung, die bisher auf manuellen Einschätzungen beruhte, zu systematisieren. Die Implementierung bei NVIDIA beginnt mit der Materialzuweisung: Die Entscheidungen darüber, welche Teile wohin kommen, bestimmen, wie schnell ein Rack vom Wafer bis zum ersten Token transportiert wird.
NVIDIAs Lieferkette als erster Kunde
Ein KI-System im Rack-Format benötigt Rechenleistung, Speicher, Netzwerkkomponenten, Stromversorgung, Kühlung und mechanische Bauteile, die von Tausenden von Zulieferern und einem globalen Fertigungsnetzwerk gleichzeitig bereitgestellt werden müssen. Laut NVIDIA ist die Lieferkette von Vera Rubin doppelt so groß wie die von Grace Blackwell. Die neue Plattform bietet den Lieferkettenteams von NVIDIA eine Art gemeinsame Kommandozentrale, die bereits bei der Ressourcenallokation beginnt. So können Engpässe frühzeitig erkannt, Alternativen schneller bewertet und Materialien basierend auf den Auswirkungen auf die gesamte Produktion zugeteilt werden.
„Lieferketten sind das Betriebssystem der physischen Wirtschaft, und KI-Fabriken gehören zu den komplexesten Systemen, die je gebaut wurden“, sagte Jensen Huang, Gründer und CEO von NVIDIA. „Von Wafern und Komponenten über die Fertigung und Systeme bis hin zur Auslieferung an Kunden – Hunderte von Unternehmen und Billionen von Dollar globaler Wirtschaftsaktivität fließen zusammen, um die KI-Infrastruktur bereitzustellen.“ Palantir-Mitgründer und CEO Alex Karp formulierte es noch deutlicher: „NVIDIA verfügt wohl über die wertvollste, komplexeste und vielschichtigste Lieferkette der Welt.“ Die beiden Unternehmen gaben ihre operative Zusammenarbeit im Bereich KI erstmals im vergangenen Oktober auf der GTC DC bekannt ; diese Partnerschaft führt nun zu einem implementierten System.
Nach dem Training: Nemotron, cuOpt und ein Mensch im Regelkreis
Palantir-Kunden trainieren Nemotron -Open-Modelle mit ihren eigenen Betriebsdaten in Foundry und AIP. Die Datenaufbereitung und -erweiterung erfolgt mithilfe der NVIDIA NeMo Data Libraries. In AIP übernimmt NVIDIA cuOpt die Optimierung und Szenarioplanung. So können Teams Lieferengpässe modellieren, Alternativen abwägen und die betrieblichen Auswirkungen einer Allokationsentscheidung vor der endgültigen Entscheidung einsehen. Das trainierte Modell empfiehlt Maßnahmen, erläutert die Abwägungen und weist aufkommende Risiken hin. Die endgültige Entscheidung liegt bei den Supply-Chain-Experten. Palantir Autopilot, integriert mit den NeMo AutoModel- und NeMo RL-Bibliotheken, schließt den Kreislauf, indem jede Empfehlung, jede Planungsmaßnahme und jedes Produktionsergebnis in die Modellverbesserung zurückfließt. Dadurch, so die Unternehmen, bleibt das operative Wissen erhalten und geht nicht verloren, wenn Mitarbeiter das Unternehmen verlassen.
NVIDIAs technischer Bericht über die eigene Implementierung verdeutlicht, wie ressourcenschonend das Modell ist. Das Produktionsmodell ist Nemotron 3.5 Lightning, ein Mixture-of-Experts-Modell mit 30 Milliarden Parametern, bei dem pro Durchlauf etwa 3 Milliarden Parameter aktiv sind. Es wurde dem größeren Nemotron 3 Ultra für agentenbasierte Workflows vorgezogen. Das Post-Training erfolgte mit LoRa-Adaptern, wobei die Basisgewichte eingefroren wurden, und war innerhalb weniger Minuten auf zwei B200-GPUs abgeschlossen. Im internen Benchmark von NVIDIA für Allokationsentscheidungen erreichte das nachtrainierte Lightning-Modell eine Genauigkeit von 86.7 Prozent – 31.2 Punkte mehr als das nicht optimierte Nemotron 3 Ultra und 69.2 Punkte mehr als seine eigenen Basisgewichte. Diese Zahlen basieren zwar auf NVIDIAs eigenen Daten, untermauern aber die Vorteile des Ansatzes: Ein kleines, offenes Modell, in das die unternehmensspezifischen Entscheidungen integriert wurden, ist einem wesentlich größeren, allgemeinen Modell bei der Lösung des jeweiligen Problems überlegen.
Souverän durch Design
Da die Daten aus der Lieferkette von NVIDIA stammen, läuft die Implementierung auf NVIDIA-Referenzarchitekturen und der gemeinsam entwickelten Palantir Sovereign AI Operating System Reference Architecture (SAIOS), die von Dell Technologies und Cisco unterstützt wird. Proprietäre Daten, Modellgewichte und Inferenzprozesse verbleiben in einer einzigen kontrollierten Umgebung. Die Plattform kann On-Premises mit Cisco oder Dell oder in Colocation- und Cloud-Umgebungen mit Rackspace und Nebius bereitgestellt werden. Palantir und NVIDIA beabsichtigen, die Erkenntnisse aus der NVIDIA-Implementierung auf Kunden in den Bereichen Landwirtschaft, Fertigung, Pharmazie, Einzelhandel, Energie, Gesundheitswesen, Automobilindustrie, Luft- und Raumfahrt sowie im öffentlichen Sektor auszuweiten und werden die Plattform und ihre Branchenanwendungen auf der AIPCon 11 von Palantir präsentieren.
Amazon