Firma Cisco zaprezentowała nowy projekt infrastruktury AI na skalę korporacyjną, zaprojektowany z myślą o odblokowaniu zadań AI opartych na agentach, z uwzględnieniem bezpieczeństwa, szybkości i zarządzania. Ogłoszona usługa rozszerza Cisco Secure AI Factory o rozwiązania firmy NVIDIA, aby objąć nią nowe zastosowania, w szczególności przyspieszenie potoków generacji rozszerzonej o pobieranie (RAG). Umożliwia to szybszą ekstrakcję i pobieranie danych, umożliwiając agentom AI bezpieczny dostęp do potrzebnych informacji w czasie rzeczywistym.
Elementy konstrukcyjne sztucznej inteligencji agentowej
Podstawą tej architektury są moduły Cisco AI POD, które są teraz ściśle zintegrowane z VAST InsightEngine, kluczowym komponentem systemu operacyjnego VAST Data AI. Moduły te przekształcają surowe dane przedsiębiorstwa w zestawy danych gotowe na sztuczną inteligencję, wykorzystując referencyjny projekt NVIDIA AI Data Platform w celu usprawnienia wydajności i wdrażania.
W tych systemach POD, portfolio serwerów UCS firmy Cisco, oparte na procesorach graficznych NVIDIA RTX PRO 6000 Blackwell Server Edition, zapewnia wysokowydajne obliczenia dostosowane do aplikacji AI nowej generacji. Serwery Cisco RTX PRO należą do pierwszych systemów, w których wdrożono referencyjny projekt platformy danych AI firmy NVIDIA, co wzmacnia pozycję Cisco jako dostawcy infrastruktury AI gotowego do wdrożenia w przedsiębiorstwach.
Po stronie sieciowej, wysokowydajna sieć Ethernet Cisco zapewnia bezproblemowe połączenie między węzłami obliczeniowymi i węzłami danych. W połączeniu z akceleracją obliczeniową NVIDIA i oprogramowaniem AI, ten zunifikowany stos redukuje opóźnienia, umożliwiając modelom AI i agentom szybszą interakcję z danymi biznesowymi.
Jeremy Foster, starszy wiceprezes i dyrektor generalny Cisco Compute, podkreślił potencjał transformacyjny sztucznej inteligencji opartej na agentach, zaznaczając, że współpraca Cisco z firmami NVIDIA i VAST odegrała kluczową rolę w stworzeniu architektury wspierającej kolejny rozdział wdrażania sztucznej inteligencji w przedsiębiorstwach.
Justin Boitano, wiceprezes ds. sztucznej inteligencji w przedsiębiorstwach w firmie NVIDIA, dodał, że przyszłość sztucznej inteligencji opartej na agentach zależy od bezpiecznego dostępu do danych przedsiębiorstwa w celu zapewnienia kontekstu i uziemienia podczas wnioskowania. Podkreślił, że współpraca ta jest sposobem na stworzenie ujednoliconej platformy do skalowalnego wdrażania agentów AI.
John Mao, prezes ds. sojuszy strategicznych w VAST Data, nazwał integrację VAST InsightEngine z platformami AI POD firmy Cisco „przełomowym osiągnięciem”. Mao dodał, że ta współpraca oznacza początek nowej ery bezpiecznych, współpracujących agentów AI działających na niespotykaną dotąd skalę, szczególnie w przypadku pierwszego zintegrowanego projektu zoptymalizowanego pod kątem przyspieszenia RAG.
Zaspokajanie potrzeb infrastruktury AI przedsiębiorstw
Sztuczna inteligencja oparta na agentach stawia przed przedsiębiorstwami wyjątkowe wyzwania infrastrukturalne. Przedsiębiorstwa dążą do wdrożenia agentów AI, którzy będą wchodzić w interakcje z ludźmi i innymi agentami, aby rozwiązywać złożone, wieloetapowe problemy. Aby to umożliwić, infrastruktura musi zapewniać:
- Zmniejszone opóźnienie w potokach RAG, skracając czas pobierania danych z minut do sekund, co pozwala na uzyskanie reakcji sztucznej inteligencji niemal w czasie rzeczywistym.
- Skalowalność dzięki projektowaniu, dzięki czemu wiele agentów i obciążeń może działać równolegle, zapewniając dużą przepustowość — umożliwiając zaawansowane rozumowanie i dynamiczne uczenie się na skalę przedsiębiorstwa.
- Bezpieczeństwo i zarządzanie są wpisane w architekturę, w tym kontroli dostępu opartej na rolach, funkcji zgodności i gotowości do audytu, co gwarantuje ochronę poufnych danych, a jednocześnie napędza innowacje w dziedzinie sztucznej inteligencji.
Łącząc obliczenia, sieć, pamięć masową i zarządzanie w ramach ujednoliconego rozwiązania, Secure AI Factory firmy Cisco zapewnia przedsiębiorstwom zaufane ramy do wdrażania agentowej sztucznej inteligencji na dużą skalę.
Dostępność:
Moduły Cisco AI POD z VAST InsightEngine, oparte na platformie danych NVIDIA AI Data Platform, są już dostępne w Cisco. Konstrukcja zoptymalizowana pod kątem RAG jest pierwszym z szerszej serii modułów AI Service POD zaprojektowanych z myślą o obsłudze zróżnicowanych zastosowań korporacyjnych w różnych branżach.
Amazon