A Palantir e a NVIDIA desenvolveram uma plataforma de IA soberana para operações da cadeia de suprimentos e estão implementando-a inicialmente na própria cadeia de suprimentos da NVIDIA, responsável por alinhar 1.3 milhão de peças para cada rack Vera Rubin. A plataforma integra os modelos abertos do NVIDIA Nemotron ao Palantir Foundry e sua Plataforma de Inteligência Artificial (AIP), baseada na Ontologia Palantir, com o objetivo de proporcionar aos planejadores visibilidade em toda a cadeia, revelando restrições antecipadamente e codificando o julgamento operacional que, até então, dependia apenas da análise manual. A implementação da NVIDIA começa com a alocação de materiais, as decisões sobre quais peças vão para onde, que definem a velocidade com que um rack se move do wafer ao primeiro token.
A cadeia de suprimentos da NVIDIA como o primeiro cliente
Um sistema de IA em escala de rack precisa que computação, memória, rede, energia, refrigeração e peças mecânicas cheguem simultaneamente, vindas de milhares de fornecedores e de uma rede global de manufatura. A NVIDIA afirma que a cadeia de suprimentos da Vera Rubin tem o dobro do tamanho da da Grace Blackwell. Essa nova estrutura oferece às equipes de cadeia de suprimentos da NVIDIA o que as empresas chamam de centro de comando compartilhado, começando pelas decisões de alocação. Assim, elas podem identificar restrições mais cedo, avaliar alternativas mais rapidamente e alocar materiais com base no impacto de ponta a ponta na produção.
“As cadeias de suprimentos são o sistema operacional da economia física, e as fábricas de IA estão entre os sistemas mais complexos já construídos”, disse Jensen Huang, fundador e CEO da NVIDIA. “De wafers e componentes à fabricação, sistemas e entrega ao cliente, centenas de empresas e trilhões de dólares em atividade econômica global se unem para fornecer infraestrutura de IA.” Alex Karp, cofundador e CEO da Palantir, foi mais direto: “A NVIDIA tem, sem dúvida, a cadeia de suprimentos mais valiosa, intrincada e complexa do mundo.” As duas empresas anunciaram pela primeira vez seu trabalho conjunto em IA operacional na GTC DC em outubro passado ; esta parceria é o resultado de um sistema implantado.
Pós-treinamento do Nemotron, cuOpt e um humano no circuito
Os clientes da Palantir treinam modelos abertos do Nemotron com seus próprios dados operacionais dentro do Foundry e do AIP, usando as bibliotecas de dados NVIDIA NeMo para prepará-los e aprimorá-los. No AIP, o NVIDIA cuOpt lida com a otimização e o planejamento de cenários, permitindo que as equipes modelem restrições de suprimentos, ponderem as compensações e visualizem o impacto operacional de uma decisão de alocação antes de tomá-la. O modelo pós-treinado recomenda ações, explica as compensações e sinaliza riscos emergentes, enquanto os especialistas em cadeia de suprimentos tomam a decisão final. O Palantir Autopilot, integrado às bibliotecas NeMo AutoModel e NeMo RL, fecha o ciclo, alimentando cada recomendação, ação do planejador e resultado de produção de volta para o aprimoramento do modelo. É assim que, segundo as empresas, o conhecimento operacional é preservado em vez de perdido quando as pessoas mudam de função.
A descrição técnica da NVIDIA sobre sua própria implementação dá uma ideia de quão leve é o trabalho com o modelo. O modelo de produção é o Nemotron 3.5 Lightning, um modelo de mistura de especialistas com 30 bilhões de parâmetros, com aproximadamente 3 bilhões de parâmetros ativos por passagem, escolhido em detrimento do Nemotron 3 Ultra, maior, para fluxos de trabalho com agentes. O pós-treinamento utilizou adaptadores LoRa com os pesos base congelados e foi finalizado em duas GPUs B200 em poucos minutos. No benchmark interno de decisão de alocação da NVIDIA, o modelo Lightning pós-treinado alcançou 86.7% de precisão, 31.2 pontos percentuais à frente do Nemotron 3 Ultra sem ajustes e 69.2 pontos percentuais à frente de seus próprios pesos base. Esses são os números da NVIDIA com base em seus próprios dados, mas eles comprovam a eficácia da abordagem: um modelo aberto e compacto, com as decisões da própria organização incorporadas ao treinamento, supera um modelo geral muito maior para o problema específico dessa organização.
Soberano por Design
Como os dados fazem parte da cadeia de suprimentos da NVIDIA, a implementação é executada em arquiteturas de referência da NVIDIA e na arquitetura de referência do sistema operacional de IA soberana da Palantir (SAIOS), desenvolvida em conjunto e com suporte da Dell Technologies e da Cisco. Os dados proprietários, os pesos dos modelos e a inferência permanecem em um único ambiente controlado, e a plataforma pode ser implementada localmente com a Cisco ou a Dell, ou em colocation e nuvem com a Rackspace e a Nebius. A Palantir e a NVIDIA afirmam que pretendem estender o conhecimento adquirido com a implementação da NVIDIA para clientes nos setores de agricultura, manufatura, farmacêutico, varejo, energia, saúde, automotivo, aeroespacial e governamental, e apresentarão a plataforma e suas aplicações setoriais na AIPCon 11 da Palantir.
Amazon