Palantir и NVIDIA разработали собственную платформу искусственного интеллекта для управления цепочками поставок и сначала запускают её в рамках собственной цепочки поставок NVIDIA, которая должна обеспечить комплектацию 1.3 миллиона деталей для каждой стойки Vera Rubin. Эта платформа интегрирует открытые модели NVIDIA Nemotron в Palantir Foundry и её платформу искусственного интеллекта (AIP), основанную на онтологии Palantir, с целью обеспечения планировщикам прозрачности всей цепочки, выявления ограничений на ранних этапах и кодификации оперативных решений, которые до сих пор принимались на основе человеческого фактора. Внедрение NVIDIA начинается с распределения материалов — решений о том, какие детали куда поместить, определяющих скорость перемещения стойки от пластины до первого токена.
Цепочка поставок NVIDIA как первого клиента
Для создания стоечной системы искусственного интеллекта необходимы вычислительные мощности, память, сетевое оборудование, электропитание, системы охлаждения и механические компоненты, поставляемые тысячами поставщиков и через глобальную производственную сеть. NVIDIA утверждает, что цепочка поставок Vera Rubin вдвое больше, чем у Grace Blackwell. Новая архитектура предоставляет командам NVIDIA по управлению цепочками поставок то, что компании называют общим командным центром, начиная с принятия решений о распределении ресурсов, что позволяет им выявлять ограничения на ранних этапах, быстрее оценивать альтернативы и распределять материалы на основе их влияния на весь производственный процесс.
«Цепочки поставок — это операционная система физической экономики, а заводы по производству ИИ — одни из самых сложных систем, когда-либо созданных», — сказал Дженсен Хуанг, основатель и генеральный директор NVIDIA. «От кремниевых пластин и компонентов до производства, систем и доставки клиентам — сотни компаний и триллионы долларов глобальной экономической активности объединяются для создания инфраструктуры ИИ». Соучредитель и генеральный директор Palantir Алекс Карп выразился более прямолинейно: «У NVIDIA, пожалуй, самая ценная, сложная и запутанная цепочка поставок в мире». Две компании впервые объявили о своей совместной работе над операционным ИИ на конференции GTC DC в октябре прошлого года ; это партнерство привело к созданию развернутой системы.
Пост-обученный Nemotron, cuOpt и человек в контуре управления
Клиенты Palantir после обучения используют открытые модели Nemotron на собственных операционных данных в Foundry и AIP, применяя библиотеки данных NVIDIA NeMo для их подготовки и расширения. В AIP NVIDIA cuOpt занимается оптимизацией и планированием сценариев, позволяя командам моделировать ограничения поставок, оценивать компромиссы и видеть операционное влияние решения о распределении ресурсов до его принятия. Обученная модель рекомендует действия, объясняет компромиссы и указывает на возникающие риски, в то время как эксперты по цепочке поставок принимают окончательное решение. Palantir Autopilot, интегрированный с библиотеками NeMo AutoModel и NeMo RL, замыкает цикл, передавая каждую рекомендацию, действие планировщика и результат производства обратно в процесс улучшения модели. Именно так, по словам компаний, операционные знания сохраняются, а не теряются при смене персонала.
В техническом описании собственной реализации NVIDIA дается представление о том, насколько нетребовательна работа с моделью. В качестве производственной модели используется Nemotron 3.5 Lightning, модель, объединяющая 30 миллиардов параметров и имеющая примерно 3 миллиарда активных параметров на проход, выбранная вместо более крупной Nemotron 3 Ultra для агентных рабочих процессов. После обучения использовались адаптеры LoRA с замороженными базовыми весами, и процесс завершился на двух графических процессорах B200 за считанные минуты. На внутреннем бенчмарке NVIDIA по принятию решений о распределении ресурсов обученная модель Lightning показала точность 86.7%, что на 31.2 пункта выше, чем у необработанной Nemotron 3 Ultra, и на 69.2 пункта выше, чем у её собственных базовых весов. Это данные NVIDIA, полученные на основе собственных данных, но они подтверждают эффективность подхода: небольшая открытая модель, в которую были заложены собственные решения организации, превосходит гораздо более крупную универсальную модель в решении задач этой организации.
Суверенность по замыслу
Поскольку данные являются частью цепочки поставок NVIDIA, развертывание осуществляется на эталонных архитектурах NVIDIA и совместно разработанной эталонной архитектуре операционной системы искусственного интеллекта Palantir Sovereign AI Operating System Reference Architecture (SAIOS), которую поддерживают Dell Technologies и Cisco. Конфиденциальные данные, веса моделей и результаты вывода остаются в единой управляемой среде, а стек может быть развернут локально у Cisco или Dell, или в центрах обработки данных и облаке у Rackspace и Nebius. Palantir и NVIDIA заявляют о намерении распространить полученные в ходе развертывания NVIDIA данные на клиентов в сельском хозяйстве, производстве, фармацевтике, розничной торговле, энергетике, здравоохранении, автомобильной промышленности, аэрокосмической отрасли и государственном секторе, и продемонстрируют стек и его отраслевые приложения на конференции Palantir AIPCon 11.
Amazon