Firma NVIDIA ogłosiła strategiczne partnerstwo z Google Cloud, aby wprowadzić agentową sztuczną inteligencję do przedsiębiorstw. Współpraca ta umożliwia firmom lokalne wykorzystanie rodziny modeli sztucznej inteligencji Google Gemini za pośrednictwem platform Blackwell HGX i DGX firmy NVIDIA oraz technologii NVIDIA Confidential Computing w celu zwiększenia bezpieczeństwa danych.
Włączanie zgodności i bezpieczeństwa z NVIDIA Blackwell
Platforma NVIDIA Blackwell, zintegrowana z Google Distributed Cloud, umożliwia lokalnym centrom danych spełnianie wymogów regulacyjnych i przepisów o suwerenności danych. Przedsiębiorstwa mogą zapewnić zgodność z przepisami, zachowując jednocześnie wydajność operacyjną, ograniczając dostęp do poufnych informacji, takich jak dokumentacja medyczna, transakcje finansowe i tajne dane rządowe. Ponadto, NVIDIA Confidential Computing zabezpiecza poufny kod w modelach Gemini, chroniąc go przed nieautoryzowanym dostępem i potencjalnymi naruszeniami bezpieczeństwa danych.
Sachin Gupta, wiceprezes i dyrektor generalny ds. infrastruktury i rozwiązań w Google Cloud, podkreślił, że dzięki partnerstwu przedsiębiorstwa będą mogły bezpiecznie wykorzystać pełen potencjał sztucznej inteligencji opartej na agentach, łącząc wydajność i poufne możliwości obliczeniowe NVIDIA Blackwell z prostotą operacyjną.
Dwuwarstwowe zabezpieczenia
Poufne przetwarzanie z technologią NVIDIA Blackwell zapewnia przedsiębiorstwom techniczną gwarancję bezpieczeństwa komunikatów użytkownika do interfejsu API modeli Gemini oraz danych wykorzystywanych do precyzyjnego dostrajania. To dwuwarstwowe zabezpieczenie chroni przed nieautoryzowanym dostępem lub manipulacją, umożliwiając przedsiębiorstwom bezpieczne wprowadzanie innowacji z modelami Gemini przy jednoczesnym zachowaniu prywatności danych.
Dylemat lokalny
Pomimo postępów w rozumowaniu multimodalnym – integrującym tekst, obrazy, kod i inne typy danych w celu rozwiązywania złożonych problemów – przedsiębiorstwa o rygorystycznych wymaganiach dotyczących bezpieczeństwa lub suwerenności danych napotkały trudności we wdrażaniu tych technologii. Partnerstwo to rozwiązuje te problemy, czyniąc Google Cloud jednym z pierwszych dostawców oferujących poufne możliwości obliczeniowe do zabezpieczania agentowych obciążeń AI we wszystkich środowiskach, zarówno chmurowych, jak i hybrydowych.
Oparte na platformie NVIDIA HGX B200, z procesorami graficznymi Blackwell i technologią NVIDIA Confidential Computing, rozwiązanie to umożliwia klientom ochronę modeli i danych AI, zapewniając jednocześnie przełomową wydajność i energooszczędność. Przedsiębiorstwa mogą teraz zachować bezpieczeństwo danych i integralność modeli bez kompromisów w zakresie innowacyjności.
Obserwowalność i bezpieczeństwo sztucznej inteligencji dla agentów AI
Skalowanie agentowej sztucznej inteligencji (AI) w środowisku produkcyjnym wymaga solidnej obserwowalności i bezpieczeństwa, aby zapewnić niezawodną wydajność i zgodność. Aby temu sprostać, Google Cloud wprowadziło bramę wnioskowania GKE, zaprojektowaną w celu optymalizacji wdrażania obciążeń wnioskowania AI poprzez zaawansowane routing i skalowalność. Dzięki integracji z serwerem wnioskowania NVIDIA Triton i rozwiązaniami NVIDIA NeMo Guardrails, brama zapewnia inteligentne równoważenie obciążenia, co zwiększa wydajność i obniża koszty obsługi. Umożliwia również scentralizowane zarządzanie i zabezpieczanie modeli.
W przyszłości Google Cloud planuje zwiększyć obserwowalność zadań związanych z agentową sztuczną inteligencją (AI) poprzez integrację NVIDIA Dynamo, biblioteki open source zaprojektowanej do obsługi i skalowania modeli wnioskowania AI w fabrykach AI. To przyszłościowe podejście gwarantuje przedsiębiorstwom możliwość skalowania aplikacji AI opartych na agentach, przy jednoczesnym zachowaniu bezpieczeństwa i zgodności z przepisami.
Amazon