Tem sido uma semana agitada para a NVIDIA e eles ainda não terminaram. A NVIDIA está lançando um serviço de fundição de IA no Microsoft Azure e é uma nova ferramenta poderosa para empresas que mergulham em IA generativa personalizada.
Aqui está o que o serviço de fundição de IA da NVIDIA está trazendo para a mesa:
- Modelos NVIDIA AI Foundation: estes são os blocos de construção da IA.
- Estrutura e ferramentas NVIDIA NeMo: o kit de ferramentas para ajustar sua IA.
- Serviços de supercomputação de IA em nuvem NVIDIA DGX: a potência para transformar seus sonhos de IA em realidade.
Esses elementos permitem que as empresas criem seus próprios modelos de IA para coisas como pesquisa inteligente e criação de conteúdo, tudo com tecnologia do software NVIDIA AI Enterprise.
Modelos personalizados para aplicativos generativos alimentados por IA
O serviço AI Foundry da NVIDIA pode personalizar modelos para aplicações generativas baseadas em IA em diversos setores, incluindo software empresarial, telecomunicações e mídia. Quando os modelos personalizados estão prontos para implantação, as empresas podem usar uma técnica chamada geração aumentada por recuperação (RAG) para conectar seus modelos aos dados corporativos e acessar novos insights.
O serviço da NVIDIA não é apenas para exibição; é prático. Os líderes do setor SAP SE, Amdocs e Getty Images já estão criando modelos personalizados com este serviço. As indústrias, desde software até telecomunicações, agora podem criar aplicativos de IA que atendam às suas necessidades. A SAP está usando-o para seu copiloto de IA, Joule, e a Amdocs está aprimorando sua estrutura amAIz para soluções de IA de telecomunicações.
O CEO da NVIDIA, Jensen Huang, destaca a capacidade do serviço de adaptar a IA usando dados exclusivos de uma empresa. E Satya Nadella, CEO da Microsoft, está empenhado em impulsionar a inovação em IA no Azure com a ajuda da NVIDIA.
Nemotron-3 8B
A NVIDIA oferece uma variedade de modelos AI Foundation, incluindo a versátil família Nemotron-3 8B, disponível nos catálogos Azure AI e NVIDIA NGC. Esses modelos estão prontos para uso multilíngue e diversas aplicações. Otimizados para NVIDIA para computação acelerada, modelos de comunidade como os modelos Llama 2 da Meta também estão disponíveis no NVIDIA NGC e chegarão em breve ao catálogo de modelos de IA do Azure.
Nuvem NVIDIA DGX chega ao Azure Marketplace
A supercomputação NVIDIA DGX Cloud AI agora está no Azure Marketplace. Alugue o que você precisa, dimensione facilmente e aproveite o software NVIDIA AI Enterprise para personalização rápida do LLM. Ele oferece instâncias que os clientes podem alugar, com escala para milhares de GPUs NVIDIA Tensor Core, e vem com software NVIDIA AI Enterprise, incluindo NeMo, para acelerar a personalização do LLM.
Com o NVIDIA AI Enterprise integrado ao Azure Machine Learning, os usuários obtêm uma plataforma de IA estável e segura. Também está disponível no Azure Marketplace, oferecendo uma variedade de possibilidades de desenvolvimento e implantação de IA.
O serviço de fundição de IA da NVIDIA no Azure não é apenas uma atualização; é uma abordagem inovadora para o desenvolvimento de IA personalizada.
NVIDIA e Microsoft Amp Up Azure com recursos avançados de IA
A Microsoft está aprimorando seu jogo de IA no Azure, introduzindo novas máquinas virtuais baseadas em H100 e planejando a adição futura da GPU H200 Tensor Core. Anunciada na conferência Ignite, a nova série NC H100 v5 VM é pioneira em computação em nuvem, apresentando GPUs NVIDIA H100 NVL. Essas VMs oferecem um grande impacto com duas GPUs H100 baseadas em PCIe conectadas por NVIDIA NVLink, fornecendo quase 4 petaflops de computação de IA e 188 GB de memória HBM3 de alta velocidade. A GPU H100 NVL é poderosa, oferecendo até 12x o desempenho no GPT-3 175B em comparação com modelos anteriores, perfeita para inferência e cargas de trabalho de treinamento convencionais.
Integrando GPU NVIDIA H200 Tensor Core ao Azure
A Microsoft planeja integrar a GPU NVIDIA H200 Tensor Core ao Azure no próximo ano. Esta atualização foi projetada para lidar com inferência de modelos maiores sem aumento de latência, o que é ideal para LLMs e modelos de IA generativos. O H200 se destaca por seus 141 GB de memória HBM3e e largura de banda de memória de pico de 4.8 TB/s, superando significativamente o H100.
Além disso, a Microsoft está expandindo suas ofertas aceleradas pela NVIDIA com o NCC H100 v5, uma nova VM confidencial. Essas VMs confidenciais do Azure, equipadas com GPUs NVIDIA H100 Tensor Core, garantem a confidencialidade e integridade dos dados e dos aplicativos durante o uso. Este recurso de segurança aprimorado, combinado com os recursos de aceleração do H100, estará disponível em breve em uma prévia privada.
Esses avanços da NVIDIA e da Microsoft marcam um salto significativo na computação em nuvem e nos recursos de IA do Azure, oferecendo potência e segurança sem precedentes para cargas de trabalho de IA exigentes.
NVIDIA impulsiona digitalização automotiva com novos mecanismos de simulação na nuvem Omniverse
A NVIDIA está intensificando seu jogo na indústria automotiva ao apresentar dois novos mecanismos de simulação no Omniverse Cloud: o mecanismo de simulação de fábrica virtual e o mecanismo de simulação de veículo autônomo (AV). Hospedado no Microsoft Azure, o Omniverse Cloud está transformando a forma como as empresas automotivas lidam com o ciclo de vida de seus produtos, mudando de processos físicos manuais para sistemas digitais baseados em software e aprimorados por IA.
Mecanismo de simulação de fábrica virtual: uma virada de jogo para montadoras
Este mecanismo é um kit de ferramentas para equipes de planejamento de fábrica se conectarem e colaborarem em conjuntos de dados industriais de grande escala em tempo real. Ele permite que as equipes de design construam fábricas virtuais e compartilhem seu trabalho de maneira integrada. Isto aumenta a qualidade e o rendimento da produção e economiza tempo e dinheiro significativos, evitando alterações pós-construção.
Os principais recursos incluem compatibilidade com softwares existentes, como Autodesk Factory Planning e NX da Siemens, melhorando a colaboração em várias plataformas. A T-Systems e a SoftServe já utilizam esse mecanismo para desenvolver aplicativos personalizados de fábrica virtual.
Motor de simulação AV: revolucionando o desenvolvimento de veículos autônomos
O mecanismo de simulação AV foi projetado para fornecer simulação de sensores de alta fidelidade, crucial para o desenvolvimento de arquiteturas AV de próxima geração. Ele permite que os desenvolvedores testem sistemas autônomos em um ambiente virtual, integrando camadas da pilha de veículos, como percepção, planejamento e controle.
Este mecanismo é crucial para o desenvolvimento de arquiteturas AV unificadas avançadas, exigindo simulação de dados de sensores de alta qualidade. A NVIDIA integra seus pipelines de simulação de sensores DRIVE Sim e Isaac Sim neste mecanismo, fornecendo simulações realistas para câmeras, radares, lidars e outros sensores.
Acelerando a transformação digital
O mecanismo de simulação de fábrica já está disponível no Azure Marketplace, oferecendo sistemas NVIDIA OVX e software Omniverse gerenciado. O mecanismo de simulação de sensor está definido para ser lançado em breve. Além disso, as empresas podem implementar o Omniverse Enterprise em máquinas virtuais Azure otimizadas, agilizando ainda mais o processo de digitalização no setor automotivo.
Os novos mecanismos de simulação da NVIDIA no Omniverse Cloud marcam um passo significativo na digitalização automotiva, oferecendo ferramentas poderosas para planejamento de fábrica virtual e desenvolvimento AV.
AI Revolution chega ao Windows 11: o grande salto da NVIDIA com GPUs RTX
A NVIDIA está remodelando o cenário do Windows 11, aproveitando o poder das GPUs RTX para trazer uma nova dimensão às experiências de jogadores, criadores e usuários comuns de PC. Com uma base de usuários de mais de 100 milhões de PCs Windows equipados com GPUs RTX, as inovações mais recentes da NVIDIA estão preparadas para elevar a produtividade e a criatividade a novos patamares.
Na vanguarda desses desenvolvimentos está a introdução de dois novos motores de simulação no Omniverse Cloud – a fábrica virtual e os motores de simulação de veículos autônomos (AV). Hospedados no Microsoft Azure, esses mecanismos estão revolucionando o ciclo de vida dos produtos da indústria automotiva, fazendo a transição de processos manuais tradicionais para sistemas digitais eficientes e aprimorados por IA.
Em uma atualização significativa, o software de código aberto da NVIDIA, TensorRT-LLM, foi configurado para melhorar o desempenho de inferência de IA. Esta atualização estenderá o suporte a novos modelos de linguagem de grande porte, tornando cargas de trabalho complexas de IA mais acessíveis em desktops e laptops equipados com GPUs RTX a partir de 8 GB de VRAM. Esse aprimoramento é uma virada de jogo, especialmente com a futura compatibilidade do TensorRT-LLM para Windows com a API de bate-papo da OpenAI. Essa integração significa que muitos projetos e aplicativos de desenvolvedores agora podem ser executados localmente em PCs RTX, permitindo que os usuários mantenham dados confidenciais com segurança em seus PCs com Windows 11, longe da nuvem.
A NVIDIA também está apresentando o AI Workbench, um kit de ferramentas abrangente projetado para agilizar o processo de desenvolvimento para criadores. Esta plataforma simplifica a criação, teste e personalização de modelos de IA generativos pré-treinados e LLMs, permitindo que os desenvolvedores gerenciem com eficiência seus projetos de IA e adaptem modelos para casos de uso específicos.
Em colaboração com a Microsoft, a NVIDIA está aprimorando o DirectML, que promete acelerar modelos básicos de IA como o Llama 2. Essa colaboração amplia o escopo para implantação entre fornecedores e estabelece um novo padrão de referência em padrões de desempenho.
O próximo lançamento do TensorRT-LLM v0.6.0 é outro avanço, prometendo desempenho de inferência até cinco vezes mais rápido. Também suportará LLMs populares adicionais, incluindo Mistral 7B e Nemotron-3 8B. Esses modelos estarão acessíveis em GPUs GeForce RTX séries 30 e 40 com 8 GB de RAM ou mais, disponibilizando recursos avançados de IA até mesmo nos dispositivos Windows mais portáteis.
Para apoiar esses avanços, a NVIDIA está disponibilizando a nova versão do TensorRT-LLM e modelos otimizados em seu repositório GitHub e ngc.nvidia.com.
Com essas inovações, a NVIDIA não está apenas aprimorando a experiência do PC para sua vasta base de usuários; está abrindo caminho para uma nova era na computação aprimorada por IA no Windows 11, marcando um momento crucial na interseção da tecnologia e da vida cotidiana.
Amazon