Podczas konferencji Mistral AI NOW Summit firma VAST Data przedstawiła swoje partnerstwo z Mistral AI i Mistral Compute, szczegółowo opisując wspólne działania mające na celu wdrożenie w Europie fabryk sztucznej inteligencji akcelerowanych przez NVIDIA. Współpraca ta łączy trzy podstawowe warstwy niezbędne do produkcji sztucznej inteligencji: akcelerowane obliczenia NVIDIA, modele pionierskie Mistral oraz system operacyjny VAST AI jako ujednoliconą platformę danych.
W centrum wdrożenia znajduje się zakrojona na szeroką skalę implementacja systemów NVIDIA GB300 NVL72, stanowiących jedno z miejsc o największej gęstości zagęszczenia tej architektury w Europie. Mistral Compute będzie obsługiwać infrastrukturę w ramach swojej platformy chmurowej AI, natomiast VAST zapewni warstwę danych, która zarządza dostępem do danych, ich przepływem, zarządzaniem i wydajnością w całym środowisku.
Platforma danych dla obciążeń produkcyjnych AI
VAST pozycjonuje swój system operacyjny AI jako podstawową warstwę danych dla fabryk AI, zaprojektowaną z myślą o obsłudze kompleksowych przepływów pracy bez fragmentacji typowej dla potoków wielosystemowych. W środowisku Mistral Compute platforma zapewnia wspólną architekturę danych, obejmującą szkolenie, wnioskowanie, wyszukiwanie i wdrożenie w przedsiębiorstwie. Eliminuje to potrzebę duplikowania zestawów danych i zmniejsza obciążenie operacyjne związane z odizolowanym przechowywaniem i przenoszeniem danych.
Platforma została zaprojektowana z myślą o obsłudze pełnego zakresu typów danych i stanów środowiska wykonawczego wymaganych przez nowoczesne obciążenia AI. Obejmuje to dane ustrukturyzowane i nieustrukturyzowane, takie jak pliki i tabele, a także wektory, pamięć podręczną klucz-wartość, strumienie zdarzeń i trwałą pamięć agenta. Funkcje te są dostępne w środowiskach rozproszonych, zapewniając spójną wydajność i dostęp niezależnie od lokalizacji.
Rozszerzenie na badania, chmurę i przedsiębiorstwa
Partnerstwo wykracza poza pojedyncze wdrożenie i odzwierciedla szerszą integrację w całym cyklu życia sztucznej inteligencji (AI) w Mistral. Platforma VAST jest już wdrożona w środowiskach chmurowych AI wykorzystywanych przez Mistral AI do trenowania i badań modeli, wspierając rozwój i obsługę własnych modeli, w tym Voxtral, Ministral i Codestral. Dzięki VAST DataSpace zespoły Mistral mogą działać w wielu środowiskach chmurowych, korzystając z ujednoliconej przestrzeni nazw, co eliminuje konieczność przeprojektowywania potoków danych podczas przenoszenia obciążeń.
Firma Mistral Compute, obecnie partner NVIDIA Cloud , wdrożyła system operacyjny VAST AI jako główną platformę danych dla zarządzanych usług chmurowych AI. System jest obecnie w fazie produkcyjnej, obsługując zarówno wewnętrzne obciążenia Mistral, jak i wdrożenia skierowane do klientów. Dodanie infrastruktury GB300 NVL72 rozszerza to środowisko, aby obsługiwać operacje fabryczne AI na większą skalę.
Wsparcie sztucznej inteligencji i kontroli danych w przedsiębiorstwie
Wraz z wprowadzaniem swoich modeli do środowisk korporacyjnych, zapotrzebowanie na integrację modeli z danymi przedsiębiorstwa przy jednoczesnym zachowaniu wydajności i kontroli nad nimi wzrasta. VAST zapewnia wspólną warstwę operacyjną, która łączy modele z zbiorami danych przedsiębiorstwa, umożliwiając spójny dostęp do danych i kontrolę nad nimi w ramach procesów szkoleniowych i wnioskowania.
Architektura została zaprojektowana z myślą o spełnieniu wymagań dotyczących lokalizacji, zarządzania i izolacji danych, które są coraz bardziej krytyczne dla europejskich przedsiębiorstw i organizacji sektora publicznego. Dzięki utrzymaniu jednolitej bazy danych w obszarze badań, chmury i wdrożeń korporacyjnych, platforma umożliwia organizacjom zachowanie kontroli nad sposobem przechowywania, dostępu i wykorzystywania danych w przepływach pracy związanych ze sztuczną inteligencją.
Pozycjonowanie na rzecz europejskiej suwerenności w zakresie sztucznej inteligencji
Wdrożenie odzwierciedla szerszy nacisk na regionalną infrastrukturę AI i suwerenność danych. Dzięki integracji zasobów obliczeniowych, modeli i platformy danych w europejskim środowisku, rozwiązanie zapewnia ramy do tworzenia i uruchamiania zaawansowanych systemów AI z lokalną kontrolą.
W tym modelu warstwa danych staje się głównym punktem sterowania operacjami AI, regulując przepływ danych między systemami szkoleniowymi, wnioskowania i produkcyjnymi. Rola VAST jako ujednoliconej platformy danych pozycjonuje ją jako kluczowy element umożliwiający Mistral Compute dostarczanie zarówno wysokowydajnej infrastruktury AI, jak i możliwości zarządzania wymaganych w przypadku zastosowań regulowanych i korporacyjnych.
Amazon