NVIDIA heeft een strategische samenwerking met Google Cloud aangekondigd om agentische AI te introduceren bij bedrijven. Deze samenwerking stelt bedrijven in staat om de Google Gemini-familie van AI-modellen lokaal te gebruiken via NVIDIA's Blackwell HGX- en DGX-platformen en NVIDIA Confidential Computing voor verbeterde gegevensbeveiliging.
Naleving en beveiliging mogelijk maken met NVIDIA Blackwell
Het NVIDIA Blackwell-platform, geïntegreerd met Google Distributed Cloud, stelt on-premises datacenters in staat om te voldoen aan wettelijke vereisten en wetgeving inzake datasoevereiniteit. Bedrijven kunnen compliance garanderen en tegelijkertijd de operationele efficiëntie behouden door de toegang tot gevoelige informatie, zoals patiëntendossiers, financiële transacties en vertrouwelijke overheidsgegevens, te beperken. Bovendien beschermt NVIDIA Confidential Computing gevoelige code binnen de Gemini-modellen tegen ongeautoriseerde toegang en mogelijke datalekken.
Sachin Gupta, Vice President en General Manager of Infrastructure and Solutions bij Google Cloud, benadrukte dat de samenwerking bedrijven in staat stelt om op een veilige manier het volledige potentieel van agentic AI te benutten, door de prestaties en vertrouwelijke computermogelijkheden van NVIDIA Blackwell te combineren met operationele eenvoud.
Dubbellaagse beveiliging
Vertrouwelijk computergebruik met NVIDIA Blackwell biedt bedrijven de technische zekerheid dat gebruikersprompts naar de Application Programming Interface (API) van de Gemini-modellen en de voor finetuning gebruikte gegevens veilig blijven. Deze dubbellaagse beveiliging beschermt tegen ongeautoriseerde toegang of manipulatie, waardoor bedrijven vol vertrouwen kunnen innoveren met Gemini-modellen, terwijl de privacy van hun gegevens gewaarborgd blijft.
Het on-premises dilemma
Ondanks de vooruitgang in multimodaal redeneren – het integreren van tekst, afbeeldingen, code en andere gegevenstypen om complexe problemen op te lossen – hebben bedrijven met strenge beveiligings- of datasoevereiniteitsvereisten te maken gehad met uitdagingen bij de implementatie van deze technologieën. Deze samenwerking pakt deze uitdagingen aan door Google Cloud tot een van de eerste aanbieders te maken die vertrouwelijke computing-mogelijkheden biedt voor het beveiligen van agentische AI-workloads in alle omgevingen, zowel cloudgebaseerd als hybride.
Deze oplossing, aangestuurd door het NVIDIA HGX B200-platform met Blackwell GPU's en NVIDIA Confidential Computing, stelt klanten in staat hun AI-modellen en data te beschermen en tegelijkertijd baanbrekende prestaties en energie-efficiëntie te behalen. Bedrijven kunnen nu de databeveiliging en modelintegriteit handhaven zonder in te leveren op innovatie.
AI-observatie en -beveiliging voor agentische AI
Het schalen van agentische AI in productie vereist robuuste observatie en beveiliging om betrouwbare prestaties en naleving te garanderen. Om dit aan te pakken, heeft Google Cloud de GKE Inference Gateway geïntroduceerd, ontworpen om de implementatie van AI-inferentieworkloads te optimaliseren door middel van geavanceerde routing en schaalbaarheid. Door integratie met NVIDIA Triton Inference Server en NVIDIA NeMo Guardrails biedt de gateway intelligente load balancing die de prestaties verbetert en de servicekosten verlaagt. Het maakt ook gecentraliseerde modelbeveiliging en -beheer mogelijk.
Google Cloud is van plan de observatiemogelijkheden voor agentische AI-workloads te verbeteren door NVIDIA Dynamo te integreren, een open-sourcebibliotheek die is ontworpen om AI-modellen met redenering in AI-fabrieken te bedienen en te schalen. Deze toekomstgerichte aanpak zorgt ervoor dat bedrijven hun agentische AI-applicaties vol vertrouwen kunnen schalen, met behoud van beveiliging en compliance.
Amazon