Firma Cloudian ogłosiła ogólną dostępność platformy Cloudian HyperScale AI Data Platform – gotowego rozwiązania, które ściśle odpowiada potrzebom klientów w zakresie wdrażania sztucznej inteligencji w przedsiębiorstwach. Rozwiązanie, oparte na referencyjnym projekcie NVIDIA AI Data Platform, przekształca dekady wiedzy instytucjonalnej przechowywanej w dokumentach, plikach PDF, obrazach i arkuszach kalkulacyjnych w natychmiastowo dostępne informacje za pośrednictwem znanego interfejsu w stylu chatbota. Celem jest umożliwienie organizacjom wdrożenia środowisk AI klasy produkcyjnej, zgodnych z przepisami, w ciągu kilku dni, a nie miesięcy, zachowując jednocześnie pełną kontrolę nad swoimi danymi.
Rozwiązanie dylematu wdrożenia sztucznej inteligencji w przedsiębiorstwie
Większość korporacyjnych programów AI napotyka na znany problem. Aby działać szybko, często polegają one na współdzielonych lub publicznych środowiskach chmurowych, które mogą nie być zgodne z wewnętrznymi wymogami bezpieczeństwa, suwerennością danych ani wymogami regulacyjnymi. Aby zachować kontrolę, sięgają po niestandardowe, lokalne rozwiązania, które wymagają współpracy z wieloma dostawcami, wielomiesięcznej integracji i niejasnych ścieżek do mierzalnej wartości biznesowej.
Jednocześnie większość wiedzy przedsiębiorstw jest nadal praktycznie niewidoczna dla systemów AI. Cloudian cytuje powszechnie przytaczaną wartość, zgodnie z którą około 80% wiedzy instytucjonalnej znajduje się w nieustrukturyzowanej treści, takiej jak dokumenty, raporty, e-maile, obrazy i dzienniki operacyjne. Treści te często obejmują dekady i zawierają kluczowe informacje o procesach, kontekst klienta oraz historię regulacji. Bez praktycznego sposobu ich pozyskiwania i wyszukiwania, wdrożenia AI mają trudności z osiągnięciem wymiernych rezultatów.
Platforma danych AI HyperScale została zaprojektowana tak, aby wyeliminować ten kompromis. Łączy ona moc obliczeniową, pamięć masową, sieć i oprogramowanie w zintegrowaną infrastrukturę, która jest gotowa do działania w ciągu kilku dni i została zaprojektowana specjalnie z myślą o zastosowaniach AI w dokumentach przedsiębiorstw. Zamiast konieczności znaczącej migracji danych lub skomplikowanych prac integracyjnych, system jest wdrażany lokalnie lub w kontrolowanych środowiskach, co pozwala organizacjom przechowywać dane w miejscu ich przechowywania, jednocześnie udostępniając je obciążeniom AI.
Platforma wykorzystuje sprawdzone rozwiązania NVIDIA AI Blueprints dla korporacyjnej sztucznej inteligencji dokumentów, które zapewniają referencyjne przepływy pracy i wstępnie zweryfikowane komponenty do przetwarzania dokumentów, generowania rozszerzonego wyszukiwania (RAG) i powiązanych zadań. Zmniejsza to ryzyko w porównaniu z projektami na zamówienie i pozwala na zakotwiczenie wdrożeń w powtarzalnych architekturach.
Justin Boitano, wiceprezes ds. produktów AI dla przedsiębiorstw w firmie NVIDIA, jasno określa tę potrzebę. Podkreślił, że przekształcanie danych przedsiębiorstwa w analizy AI wymaga czegoś więcej niż skalowalnej pamięci masowej, dodając, że wymaga ściśle zintegrowanego, wysokowydajnego stosu infrastruktury, który można dostosować do wymagań przedsiębiorstwa. Wskazuje na platformę Cloudian HyperScale AI Data Platform, zbudowaną w oparciu o infrastrukturę, sieć i oprogramowanie NVIDIA AI, jako sposób na bezpieczne udostępnianie krytycznej wiedzy, uproszczenie implementacji i zwiększenie możliwości AI wraz ze wzrostem wolumenu danych.
Natychmiastowy wpływ na biznes dzięki przewidywalnej ekonomii
Platforma została zaprojektowana z myślą o dostarczaniu możliwości sztucznej inteligencji (AI) dla przedsiębiorstw, bez tradycyjnych kompromisów w zakresie wydajności i kosztów, które charakteryzowały wczesne wdrożenia AI. W warstwie pamięci masowej Cloudian łączy natywną dla S3 pamięć masową obiektów z akceleracją RDMA dla operacji S3. To połączenie ma na celu wyeliminowanie spadku wydajności, który zwykle wiąże się z pamięcią masową obiektów w scenariuszach AI i wektorowych baz danych wrażliwych na opóźnienia.
Cloudian informuje, że S3 z akceleracją RDMA zapewnia do 8 razy szybszą wydajność wektorowej bazy danych niż rozwiązania oparte na procesorach, które opierają się na tradycyjnym przechowywaniu plików. Dla klientów oznacza to, że osadzenia, wyszukiwanie podobieństw i operacje pobierania mogą obsługiwać odpowiedzi w czasie rzeczywistym dla tysięcy równoczesnych użytkowników bez konieczności przechodzenia na niestandardowe, niestandardowe stosy pamięci masowej.
Analiza ekonomiczna jest równie istotna dla technicznych zespołów sprzedaży i architektów. Oferując platformę HyperScale AI Data Platform jako lokalne, zintegrowane urządzenie, Cloudian dostosowuje wydatki na infrastrukturę AI do przewidywalnych nakładów inwestycyjnych (CapEx), zamiast zmiennych i często nieprzewidywalnych kosztów operacyjnych (OpEx) w chmurze. Rozwiązanie zostało zaprojektowane w celu wyeliminowania typowych kosztów chmury AI, takich jak opłaty za wnioskowanie za token i wysokie koszty przechowywania danych w chmurze, które mogą być o rzędy wielkości wyższe niż w przypadku gęstych wdrożeń lokalnych.
Ponieważ platforma jest natywna dla S3 i zbudowana na Cloudian HyperStore, może przetwarzać i analizować dane w środowiskach lokalnych, architekturach hybrydowych i lokalizacjach rozproszonych. Ta elastyczność pozwala organizacjom zachować dane w miejscu ich przechowywania, jednocześnie wprowadzając je do przepływów pracy AI, zamiast wymuszać masową migrację do jednej chmury lub zastrzeżonej platformy. Dla wielu regulowanych przedsiębiorstw ta możliwość jest kluczowa dla zachowania suwerenności danych i spełnienia wewnętrznych wymogów zarządzania.
Sztuczna inteligencja w dokumentach przedsiębiorstwa
Platforma danych HyperScale AI koncentruje się na korporacyjnej sztucznej inteligencji (IDA). Wbudowany model aplikacji oparty na sztucznej inteligencji (IDA) został zaprojektowany tak, aby udostępniać wiedzę zgromadzoną przez dekady w instytucjach poprzez konwersacyjne zapytania w języku naturalnym. Doświadczenie użytkownika jest celowo podobne do interfejsu czatu dla użytkowników indywidualnych, ale opiera się na dokumentach i zasadach obowiązujących w danej organizacji.
Na przykład w opiece zdrowotnej platforma może służyć do wyszukiwania informacji w dokumentacji medycznej pacjentów, protokołach klinicznych i wewnętrznych wytycznych, zachowując jednocześnie zgodność z ustawą HIPAA i innymi przepisami dotyczącymi prywatności. Ponieważ dane nigdy nie opuszczają kontrolowanego środowiska organizacji, zespoły ds. zgodności i audytów mają wgląd w to, gdzie przechowywane są informacje i jak uzyskiwany jest do nich dostęp.
W sektorze usług finansowych instytucje mogą przeszukiwać dokumenty regulacyjne, wewnętrzne polityki, oceny ryzyka i repozytoria umów bez konieczności przesyłania poufnych informacji zewnętrznym dostawcom sztucznej inteligencji. Możliwość przechowywania treści regulacyjnych i danych klientów w określonych granicach, przy jednoczesnym korzystaniu z nowoczesnych technologii wspomagających wyszukiwanie, stanowi kluczowy argument sprzedażowy dla świadomych ryzyka nabywców.
Z technicznego punktu widzenia, projekt ten eliminuje znaczną część złożoności związanej z budowaniem procesów przetwarzania dokumentów, indeksowaniem, wektoryzacją i przepływami pracy związanymi z wyszukiwaniem. Zamiast projektować ten stos od podstaw, klienci polegają na projekcie referencyjnym zawartym w platformie i koncentrują się na dostrajaniu, kontroli dostępu i zarządzaniu.
Poza dokumentami, wideo i analityką
Cloudian pozycjonuje platformę danych AI HyperScale jako fundament, który z czasem będzie obsługiwał wiele projektów aplikacji AI, a nie tylko przypadki użycia skoncentrowane na dokumentach. Plan działania obejmuje obsługę analizy wideo, szczególnie w środowiskach takich jak hale produkcyjne, magazyny, centra logistyczne i place budowy, gdzie inteligencja wideo w czasie rzeczywistym lub zbliżonym do rzeczywistego może zwiększyć bezpieczeństwo, jakość i wydajność operacyjną.
Nadchodzące projekty będą koncentrować się na analizie strumieni wideo pod kątem wykrywania aktywności i anomalii oraz monitorowania operacyjnego, z wykorzystaniem tej samej zintegrowanej infrastruktury. Przyszłe aplikacje będą również obejmować szerszą analitykę danych i dodatkowe funkcje sztucznej inteligencji (AI) dla przedsiębiorstw, dostarczane za pośrednictwem tego samego stosu sprzętowego i programowego. To podejście oparte na jednej platformie upraszcza proces zaopatrzenia i zarządzania cyklem życia, ponieważ klienci nie muszą wdrażać oddzielnych rozwiązań punktowych dla każdego nowego obciążenia AI.
Architektura platformy i podstawa sprzętowa
Konfiguracja podstawowa platformy danych AI HyperScale opiera się na projekcie referencyjnym serwera NVIDIA RTX PRO. System ten został zaprojektowany z myślą o obciążeniach AI i może być skonfigurowany z maksymalnie ośmioma procesorami graficznymi NVIDIA RTX PRO 6000 Blackwell Server Edition, co zapewnia znaczną akcelerację w procesie trenowania, precyzyjnego dostrajania i wnioskowania na dużych, nieustrukturyzowanych zbiorach danych.
Za moc obliczeniową odpowiadają dwa procesory Intel Xeon serii 6900, zapewniające wystarczającą moc obliczeniową do orkiestracji, wstępnego przetwarzania danych i usług płaszczyzny sterowania. Platforma zawiera również jednostki przetwarzania danych NVIDIA BlueField-3, które mogą odciążyć procesory hosta z zadań sieciowych, bezpieczeństwa i pamięci masowej, a także karty sieciowe NVIDIA Spectrum-X Ethernet SuperNIC, które zapewniają łączność o wysokiej przepustowości i niskim opóźnieniu, niezbędną w przypadku obciążeń wymagających dużej ilości danych i sztucznej inteligencji.
Po stronie pamięci masowej platforma wykorzystuje Cloudian HyperStore z nośnikami opartymi na NVMe, aby zapewnić pamięć masową o wysokiej przepustowości i niskich opóźnieniach, zgodną ze standardem S3. Zintegrowany protokół RDMA dla łączności S3 redukuje obciążenie protokołu i umożliwia obciążeniem AI i wektorów dostęp do danych obiektowych z opóźnieniem zbliżonym do lokalnego systemu blokowego lub plików, zachowując jednocześnie korzyści skalowalności pamięci masowej obiektów.
Architektura została zaprojektowana z myślą o bezproblemowym skalowaniu od terabajtów do eksabajtów w miarę wzrostu zapotrzebowania na dane. Ta możliwość skalowania jest niezbędna dla klientów, którzy chcą rozpocząć od projektów AI o ograniczonym zakresie, ale mają jasną ścieżkę do globalnego wdrożenia bez konieczności przeprojektowywania infrastruktury.
Michael Tso, prezes Cloudian, podkreśla, że organizacje potrzebują platform AI, które wpisują się w istniejące ramy bezpieczeństwa i zgodności, zamiast wymuszać na nich adaptację. Zauważa, że HyperScale AI zapewnia bezpieczny dostęp do wiedzy instytucjonalnej za pośrednictwem znanego interfejsu chatbota, jednocześnie zachowując kontrolę nad danymi w organizacji i skracając czas wdrożenia z miesięcy do dni.
Dostępność:
Platforma danych Cloudian HyperScale AI jest już dostępna na całym świecie za pośrednictwem certyfikowanego ekosystemu partnerów kanałowych Cloudian.
Każdy system obejmuje wsparcie Cloudian HyperCare, które zapewnia usługi zdalnego zarządzania i całodobową pomoc techniczną.
Amazon