PalantirとNVIDIAは、サプライチェーン業務向けの独自のAIスタックを構築し、まずNVIDIA自身のサプライチェーン内で運用を開始した。このサプライチェーンでは、Vera Rubinラック1台につき130万個の部品を揃える必要がある。このスタックは、NVIDIA NemotronのオープンモデルをPalantir FoundryとPalantir Ontologyを基盤とする人工知能プラットフォーム（AIP）に統合し、サプライチェーン全体にわたるプランナーの可視性を高め、制約を早期に明らかにし、これまで人々の頭の中にあった運用上の判断をコード化することを目的としている。NVIDIAの導入は、材料の割り当てから始まる。これは、どの部品をどこに配置するかという決定であり、ラックがウェハから最初のトークンに移動する速度を決定する。
NVIDIAのサプライチェーンが最初の顧客となる
ラック規模のAIシステムには、コンピューティング、メモリ、ネットワーク、電源、冷却、機械部品が、数千ものサプライヤーとグローバルな製造ネットワークを通じて同時に納入される必要があり、NVIDIAによると、Vera RubinのサプライチェーンはGrace Blackwellの2倍の規模だという。新しいスタックにより、NVIDIAのサプライチェーンチームは、割り当て決定から始まる、いわゆる共有コマンドセンターを利用できるようになり、制約を早期に特定し、代替案をより迅速に評価し、エンドツーエンドの生産への影響に基づいて資材を割り当てることができる。
「サプライチェーンは物理経済のオペレーティングシステムであり、AIファクトリーはこれまで構築されたシステムの中で最も複雑なシステムの1つです」とNVIDIAの創業者兼CEOのジェンセン・フアンは述べています。「ウェハーやコンポーネントから製造、システム、顧客への配送まで、何百もの企業と数兆ドル規模のグローバル経済活動が結集してAIインフラストラクチャを提供しています。」パランティアの共同創業者兼CEOのアレックス・カープは、さらに率直にこう述べています。「NVIDIAは、おそらく世界で最も価値があり、複雑で入り組んだサプライチェーンを持っています。」両社は昨年10月のGTC DCで初めて共同でAIの運用に取り組んでいることを発表し、これはそのパートナーシップによって実用化されたシステムです。
訓練済みのNemotron、cuOpt、および人間がループに参加する
Palantirの顧客は、 NVIDIA NeMoデータライブラリを使用して準備および拡張を行い、FoundryおよびAIP内で自社の運用データに基づいてNemotronオープンモデルを事後学習します。AIP内では、NVIDIA cuOptが最適化とシナリオプランニングを処理するため、チームは供給制約をモデル化し、トレードオフを検討し、割り当て決定を行う前に運用上の影響を確認できます。事後学習されたモデルは、アクションを推奨し、トレードオフを説明し、新たなリスクを警告しますが、サプライチェーンの専門家が最終決定を下します。NeMo AutoModelおよびNeMo RLライブラリと統合されたPalantir Autopilotは、各推奨事項、プランナーのアクション、および生産結果をモデルの改善にフィードバックすることでループを閉じます。これにより、人材の異動時に運用知識が失われることなく保存されると両社は述べています。
NVIDIAが自社の導入事例について作成した技術文書を見ると、モデル作業がいかに軽量であるかが分かります。本番環境で使用されているモデルは、Nemotron 3.5 Lightningです。これは、300億個のパラメータを持つエキスパート混合モデルで、1回のパスあたり約30億個のパラメータがアクティブになっています。エージェントワークフロー向けに、より大規模なNemotron 3 Ultraではなく、このモデルが選ばれました。トレーニング後には、ベースウェイトを固定したLoRAアダプタを使用し、2台のB200 GPUで数分で完了しました。NVIDIAの社内割り当て決定ベンチマークでは、トレーニング後のLightningモデルの精度は86.7%で、調整されていないNemotron 3 Ultraより31.2ポイント、ベースウェイトより69.2ポイント上回りました。これらはNVIDIAのデータに基づいたNVIDIAの数値ですが、このアプローチの有効性を示しています。つまり、組織独自の決定を組み込んだ小規模なオープンモデルが、その組織の問題に対して、はるかに大規模な汎用モデルよりも優れているということです。
設計による主権
データはNVIDIAのサプライチェーンであるため、この展開はNVIDIAのリファレンスアーキテクチャと、Dell TechnologiesとCiscoがサポートする共同開発のPalantir Sovereign AI Operating System Reference Architecture（SAIOS）上で実行されます。独自のデータ、モデルの重み、推論は単一の統制された環境内に保持され、スタックはCiscoまたはDellのオンプレミス環境、あるいはRackspaceとNebiusのコロケーションおよびクラウド環境に展開できます。PalantirとNVIDIAは、NVIDIAの展開から得られた知見を農業、製造、製薬、小売、エネルギー、ヘルスケア、自動車、航空宇宙、政府機関の顧客に拡大していく意向であり、PalantirのAIPCon 11でスタックとその業界アプリケーションを紹介する予定です。
Amazon