Palantir 和 NVIDIA 共同构建了一套用于供应链运营的自主人工智能技术栈,并首先在 NVIDIA 自身的供应链中运行。这条供应链需要为每个 Vera Rubin 晶圆架准备 1.3 万个零件。该技术栈将 NVIDIA Nemotron 开放模型集成到 Palantir Foundry 及其基于 Palantir 本体的人工智能平台 (AIP) 中,旨在让规划人员能够全面了解整个供应链,及早发现制约因素,并将目前仍依赖于人工判断的运营决策进行编码。NVIDIA 的部署从物料分配开始,即决定哪些零件应该放在哪里,这直接影响着晶圆架从晶圆到首枚芯片的流转速度。
英伟达的供应链是第一位的客户
机架级人工智能系统需要计算、内存、网络、电力、冷却和机械部件等各方面资源,这些资源需要来自数千家供应商和全球制造网络的协同供应。NVIDIA 表示,Vera Rubin 的供应链规模是 Grace Blackwell 的两倍。新的技术栈为 NVIDIA 的供应链团队提供了一个共享指挥中心,从资源分配决策开始,使他们能够更早地识别制约因素,更快地评估替代方案,并根据端到端生产影响来分配物料。
英伟达创始人兼首席执行官黄仁勋表示:“供应链是实体经济的操作系统,而人工智能工厂则是迄今为止最复杂的系统之一。从晶圆和组件到制造、系统和客户交付,数百家公司和数万亿美元的全球经济活动汇聚一堂,共同构建人工智能基础设施。” Palantir联合创始人兼首席执行官Alex Karp则更加直言不讳地指出:“英伟达拥有全球最有价值、最错综复杂、最精密的供应链。” 两家公司于去年10月在GTC DC大会上首次宣布了在人工智能领域的合作;而此次合作正是将这一合作成果应用于实际系统的体现。
经过训练的Nemotron、cuOpt和人机交互
Palantir 的客户在 Foundry 和 AIP 系统中,利用 NVIDIA NeMo 数据库准备和扩充自身运营数据,对Nemotron开放模型进行后训练。在 AIP 系统中,NVIDIA cuOpt 负责优化和场景规划,使团队能够在做出分配决策之前,模拟供应限制、权衡利弊并了解其对运营的影响。后训练模型会推荐行动方案、解释权衡取舍并标记潜在风险,而供应链专家则保留最终决策权。Palantir Autopilot 与 NeMo AutoModel 和 NeMo RL 库集成,通过将每项推荐、规划器操作和生产结果反馈到模型改进中,形成闭环。Palantir 表示,正是这种方式确保了运营知识的保存,避免人员流动造成的知识流失。
NVIDIA 对其自身部署的技术文档清晰地展示了该模型的轻量级特性。生产环境中的模型是 Nemotron 3.5 Lightning,这是一个拥有 3 亿参数的混合专家模型,每次训练大约激活 30 亿个参数。NVIDIA 选择 Lightning 而非更大的 Nemotron 3 Ultra 来处理智能体工作流程。训练后,NVIDIA 使用 LoRa 适配器,冻结了基础权重,并在两块 B200 GPU 上仅用几分钟就完成了训练。在 NVIDIA 的内部分配决策基准测试中,训练后的 Lightning 模型准确率达到了 86.7%,比未经调优的 Nemotron 3 Ultra 高出 31.2 分,比其自身基础权重高出 69.2 分。这些数据来自 NVIDIA 自身,但足以证明该方法的有效性:一个包含企业自身决策的小型开放模型,在解决企业特定问题时,其性能优于一个规模更大的通用模型。
主权设计
由于数据属于 NVIDIA 的供应链,该部署基于 NVIDIA 参考架构和 Palantir 联合开发的 Sovereign AI Operating System Reference Architecture (SAIOS) 运行,后者由戴尔科技和思科提供支持。专有数据、模型权重和推理过程都保留在单一的受控环境中,该技术栈可以部署在思科或戴尔的本地服务器上,也可以部署在 Rackspace 和 Nebius 的托管和云端服务器上。Palantir 和 NVIDIA 表示,他们计划将从 NVIDIA 部署中获得的经验推广到农业、制造业、制药业、零售业、能源业、医疗保健业、汽车业、航空航天业和政府部门等行业的客户,并将在 Palantir 的 AIPCon 11 大会上展示该技术栈及其行业应用。




Amazon