Palantir et NVIDIA ont développé une architecture d'IA souveraine pour la gestion de la chaîne d'approvisionnement et la déploient en premier lieu au sein même de la chaîne d'approvisionnement de NVIDIA, celle qui doit acheminer 1.3 million de composants pour chaque rack Vera Rubin. Cette architecture intègre les modèles ouverts de NVIDIA Nemotron à Palantir Foundry et à sa plateforme d'intelligence artificielle (AIP), basée sur l'ontologie Palantir. L'objectif ? Offrir aux planificateurs une visibilité complète sur la chaîne, identifier les contraintes en amont et formaliser le jugement opérationnel qui, jusqu'à présent, reposait sur l'intuition humaine. Le déploiement chez NVIDIA commence par l'allocation des matériaux : les décisions relatives à l'emplacement des composants déterminent la vitesse de production d'un rack, de la plaquette au premier jeton.
La chaîne d'approvisionnement de NVIDIA en tant que premier client
Un système d'IA à l'échelle d'un rack nécessite que les composants de calcul, de mémoire, de réseau, d'alimentation, de refroidissement et mécaniques soient livrés simultanément par des milliers de fournisseurs et un réseau de production mondial. NVIDIA précise que la chaîne d'approvisionnement de Vera Rubin est deux fois plus importante que celle de Grace Blackwell. Cette nouvelle architecture offre aux équipes de la chaîne d'approvisionnement de NVIDIA ce que les entreprises appellent un centre de pilotage partagé, depuis les décisions d'allocation jusqu'à l'identification plus précoce des contraintes, l'évaluation plus rapide des alternatives et l'allocation des matériaux en fonction de l'impact sur la production de bout en bout.
« Les chaînes d'approvisionnement sont le système d'exploitation de l'économie physique, et les usines d'IA figurent parmi les systèmes les plus complexes jamais conçus », a déclaré Jensen Huang, fondateur et PDG de NVIDIA. « Des plaquettes et composants à la fabrication, en passant par les systèmes et la livraison au client, des centaines d'entreprises et des milliers de milliards de dollars d'activité économique mondiale convergent pour fournir l'infrastructure d'IA. » Alex Karp, cofondateur et PDG de Palantir, a été plus direct : « NVIDIA possède sans doute la chaîne d'approvisionnement la plus précieuse, la plus complexe et la plus sophistiquée au monde. » Les deux entreprises ont annoncé pour la première fois leur collaboration opérationnelle en matière d'IA lors de la GTC DC en octobre dernier ; ce partenariat aboutit à un système déployé.
Nemotron post-entraîné, cuOpt et un humain dans la boucle
Les clients de Palantir post-entraînent les modèles ouverts Nemotron sur leurs propres données opérationnelles au sein de Foundry et d'AIP, en utilisant les bibliothèques de données NVIDIA NeMo pour les préparer et les enrichir. Dans AIP, NVIDIA cuOpt gère l'optimisation et la planification de scénarios, permettant ainsi aux équipes de modéliser les contraintes d'approvisionnement, d'évaluer les compromis et de visualiser l'impact opérationnel d'une décision d'allocation avant de la prendre. Le modèle post-entraîné recommande des actions, explique les compromis et signale les risques émergents, tandis que les experts de la chaîne d'approvisionnement conservent le pouvoir de décision final. Palantir Autopilot, intégré aux bibliothèques NeMo AutoModel et NeMo RL, boucle la boucle en réinjectant chaque recommandation, action du planificateur et résultat de production dans l'amélioration du modèle. C'est ainsi, selon les entreprises, que les connaissances opérationnelles sont préservées au lieu d'être perdues lors des départs.
La documentation technique de NVIDIA concernant son propre déploiement illustre la légèreté du modèle. Le modèle de production est Nemotron 3.5 Lightning, un modèle de mélange d'experts de 30 milliards de paramètres, dont environ 3 milliards sont actifs par passe. Il a été préféré au Nemotron 3 Ultra, plus volumineux, pour les flux de travail automatisés. Après l'entraînement, des adaptateurs LoRa ont été utilisés, les poids de base étant figés. L'exécution s'est déroulée en quelques minutes sur deux GPU B200. Sur le benchmark interne de NVIDIA pour la prise de décision d'allocation, le modèle Lightning post-entraîné a obtenu une précision de 86.7 %, soit 31.2 points de plus que le Nemotron 3 Ultra non optimisé et 69.2 points de plus que ses propres poids de base. Ces résultats, obtenus avec les données de NVIDIA, démontrent la pertinence de cette approche : un petit modèle ouvert, intégrant les décisions propres à l'organisation, surpasse un modèle général beaucoup plus volumineux face au problème de cette organisation.
Souverain par conception
Les données étant issues de la chaîne d'approvisionnement de NVIDIA, le déploiement s'appuie sur les architectures de référence NVIDIA et sur l'architecture de référence du système d'exploitation d'IA souveraine (SAIOS) développée conjointement par Palantir et prise en charge par Dell Technologies et Cisco. Les données propriétaires, les pondérations des modèles et l'inférence restent confinés dans un environnement unique et contrôlé. La solution peut être déployée sur site chez Cisco ou Dell, ou en colocation et dans le cloud chez Rackspace et Nebius. Palantir et NVIDIA prévoient d'étendre l'expertise acquise grâce au déploiement de NVIDIA à des clients des secteurs de l'agriculture, de l'industrie, de la pharmacie, de la distribution, de l'énergie, de la santé, de l'automobile, de l'aérospatiale et du gouvernement. Ils présenteront la solution et ses applications sectorielles lors de la conférence AIPCon 11 de Palantir.
Amazon