Konferencja NAB 2024 rozpoczęła się z ogromnym rozmachem, a dziesiątki tysięcy uczestników zgromadziły się w Las Vegas Convention Center, aby zapoznać się z najnowszymi technologiami dla profesjonalistów z branży mediów i rozrywki. Przez lata istnienia NAB jeden cel się nie zmienił – pliki cyfrowe zyskują na znaczeniu, a zespoły potrzebują do nich szybszego dostępu zarówno w centrach danych, jak i w terenie. Na szczęście technologia poczyniła kluczowe postępy, takie jak wprowadzenie dysków SSD o pojemności 61.44 TB, które mogą rozwiązać złożoność zadań związanych z obciążeniami M&E.
Praca nad filmem lub programem telewizyjnym wiąże się z innym obciążeniem pamięci masowej niż to, które zazwyczaj obserwuje się w centrum danych. Zespoły na planie potrzebują natychmiastowego dostępu do surowego materiału filmowego w celu odtwarzania, wstępnej wizualizacji efektów wizualnych w czasie rzeczywistym, kontroli ciągłości i transkodowania. To ostatnie jest najbardziej wymagające pod względem pamięci masowej. Nierzadko zdarza się, że materiał filmowy jest przetwarzany szybciej niż w czasie rzeczywistym, a jednocześnie przesyłany jest nowy materiał z kamer. Następnie te ogromne pliki i ich mniejsze odpowiedniki proxy muszą zostać przetransportowane z powrotem do postprodukcji, gdzie mogą zostać wczytane do systemów długoterminowego przechowywania i udostępnione zespołowi postprodukcyjnemu.
CheetahRAID RAPTOR do przechowywania danych na planie
Aby pomóc profesjonalistom kreatywnym w tym trwającym przedsięwzięciu, CheetahRAID skonfigurował idealny serwer brzegowy do przechowywania danych na planie. CheetahRAID RAPTOR to wytrzymały serwer 2U o małej głębokości, wyposażony w trzy pojemniki na dyski, każdy mieszczący cztery dyski SSD. Po zakończeniu zdjęć pojemniki można wyjąć i wysłać do hali postprodukcyjnej w celu szybkiego przetworzenia. W tym projekcie każdy pojemnik zawiera cztery dyski SSD Solidigm P5336 o pojemności 61.44 TB , co zapewnia niesamowitą gęstość zapisu. To prawie 250 TB surowej pamięci flash na pojemnik.
Rozwiązanie wykorzystuje kartę RAID Graid SR-1010 z procesorem graficznym i towarzyszącym jej oprogramowaniem, aby zapewnić szybki dostęp do pamięci masowej. Jest to kluczowe, ponieważ karta Graid przejmuje większość zadań związanych z zarządzaniem RAID od procesora serwera, uwalniając go do bardziej krytycznych zadań. Dzięki procesorowi AMD EPYC 7003 w serwerze CheetahRAID, ich dostępność do wykonywania zadań aplikacyjnych jest niezwykle istotna.
Serwer jest wyposażony w kartę sieciową NVIDIA 100 GbE, co umożliwia współdzielenie pamięci masowej z profesjonalnymi stacjami roboczymi. Do testów połączyliśmy dwie stacje robocze HP Z4 Rack G5 , każdą z kartą sieciową 100 GbE podłączoną bezpośrednio do serwera. Powinno to umożliwić osiągnięcie teoretycznej przepustowości około 12.5 GB/s dla każdej stacji roboczej. Co niewiarygodne, każdy system ma do dyspozycji prawie trzy czwarte petabajta pamięci masowej.
Aby niezawodnie zapewnić tak dużą prędkość na każdej stacji roboczej, konieczny jest jednak solidny protokół, który poradzi sobie nie tylko z przenoszeniem danych, ale także z przenoszeniem ich na tak dużą skalę. W tym celu system wykorzystuje technologię Fusion File Share firmy Tuxera. Fusion File Share umożliwia serwerowi pamięci masowej CheetahRAID, opartemu na systemie Linux, udostępnianie udziałów SMB stacjom roboczym. Jest on znacznie szybszy niż oryginalna implementacja serwera SMB w systemie Linux, czyli Samba. I nie chodzi tu tylko o przepustowość; proces edycji jest znacznie bardziej wrażliwy na opóźnienia, gdzie nawet drobne problemy mogą spowodować awarię programów do edycji.
Dlaczego Fusion File Share?
Fusion File Share firmy Tuxera to wydajny, skalowalny, rozproszony system plików, który zapewnia dostęp do danych niestrukturalnych lub opartych na plikach przez sieć. Zapewnia obsługę protokołu SMB (Server Message Block) firmy Microsoft w publicznych rozwiązaniach chmurowych PaaS (Platform-as-a-Service), rozwiązaniach pamięci masowej definiowanej programowo (SDS), aplikacjach HPC (High Performance Computing) oraz pamięci masowej podłączonej do sieci (NAS) klasy korporacyjnej. Fusion oferuje wszystkie zaktualizowane funkcje bezpieczeństwa i SMB, aby sprostać wymagającym potrzebom organizacji.
Rozwiązanie Fusion File Share firmy Tuxera wyróżnia się jako alternatywa dla tradycyjnych rozwiązań serwerowych dla małych i średnich firm (SMB), takich jak Samba, zaprojektowanych z myślą o wysokiej wydajności i skalowalności. Jego modułowa i wielowątkowa architektura zwiększa przepustowość wejścia/wyjścia, minimalizuje obciążenie procesora, zmniejsza zużycie pamięci i obsługuje jednoczesne zarządzanie wieloma połączeniami. Wykorzystując wielokanałowość SMB, kompresję i protokół SMB over RDMA (Remote Direct Memory Access), Fusion skutecznie eliminuje typowe wąskie gardła, oferując rozwiązanie, w którym wysoka przepustowość, niskie opóźnienia i efektywne wykorzystanie zasobów są priorytetem. RDMA over Converged Ethernet (RoCE), czyli SMB Direct, pozwala również na całkowite pominięcie przetwarzania procesora przez pakiety danych, co dodatkowo zmniejsza opóźnienia i obciążenie procesora, a tym samym poprawia ogólną wydajność.
Skalowalność Fusion to jedna z jego kluczowych zalet. Funkcja skalowania współdzielonych plików umożliwia dynamiczne dostosowywanie węzłów serwerów plików i serwerów SMB do zmieniających się potrzeb firm. Uzupełnieniem jest solidna struktura odporności na błędy, obejmująca transparentne przełączanie awaryjne i ciągłą dostępność, zapewniająca nieprzerwane działanie usługi nawet podczas awarii serwerów lub prac konserwacyjnych. Co więcej, obsługa najnowszego protokołu SMB 3.1.1, a także wcześniejszych wersji, zapewnia szeroką kompatybilność i interoperacyjność w różnych konfiguracjach sieciowych.
Rozwiązanie Fusion File Share oferuje usprawnione i bezpieczne podejście do zarządzania danymi. Ułatwia planowanie pojemności dzięki obsłudze limitów, zapewnia szczegółowe audyty użytkowników i dzienniki dostępu oraz umożliwia dynamiczną konfigurację udziałów bez restartów systemu. Obsługuje wiele mechanizmów uwierzytelniania, w tym Kerberos, LDAP i NTLM, a także płynnie integruje się z listą kontroli dostępu systemu Windows (ACL) i usługą Active Directory, co zwiększa bezpieczeństwo i ułatwia zarządzanie. Ten kompleksowy zestaw funkcji pozycjonuje rozwiązanie Fusion firmy Tuxera jako wysoce niezawodny i wydajny wybór dla organizacji poszukujących najwyższej wydajności i skalowalności rozwiązań serwerowych dla małych i średnich firm.
Wydajność udostępniania plików Samba vs. Fusion
Serwer pamięci masowej CheetahRAID RAPTOR został zbudowany na bazie jednoprocesorowej płyty głównej AMD EPYC Gen3, z 24-rdzeniowym procesorem 7443P i 256 GB pamięci RAM DDR4. Serwer posiada trzy obudowy, w których znajdują się cztery dyski SSD (łącznie 12 dysków SSD). W każdej obudowie znajdują się cztery dyski SSD Solidigm P5336 o pojemności 61.44 TB. Dyski te korzystają z bezpośredniego połączenia NVMe z płytą główną za pośrednictwem natywnych kart rozszerzeń NVMe.
Serwer korzysta z Graid SupremeRAID SR-1010 do zarządzania macierzą RAID. Do przesyłania danych przez sieć zastosowano dwuportową kartę NVIDIA Connect-X 6 Dx 100 GbE. Karta oferuje do 200 GB przepustowości na obu portach, co daje nam do 20 GB/s w całej sieci. Serwer pamięci masowej działa pod kontrolą systemu Ubuntu 22.04.4 LTS.
W naszym środowisku testowym wykorzystaliśmy dwie stacje robocze HP Z4 Rack G5 jako loadgeny. Każdy system był wyposażony w 16-rdzeniowy procesor Intel Xeon W5-2465X i 128 GB pamięci RAM DDR5. Oferują one również karty graficzne NVIDIA RTX 5000 Ada oraz karty sieciowe NVIDIA ConnectX-6 Dx 100GbE, co pozwala na przekształcenie ich w potężne maszyny do edycji wideo. Systemy zostały skonfigurowane z systemem Windows Server 2022. Warto zauważyć, że HP nie obsługuje bezpośrednio systemu Windows Server ani kart sieciowych 100GbE, ale żadna z nich nie stanowiła problemu podczas testów.
Szybka sieć łączy je z systemem CheetahRAID Raptor za pośrednictwem łączy 100 GbE, zapewniając każdemu klientowi połączenie z współdzieloną pamięcią masową o przepustowości 10 GB/s. Dzięki 12 dyskom SSD Solidigm P5336 QLC o pojemności 61.44 TB w puli pamięci masowej Graid mogliśmy udostępnić każdemu hostowi ogromny wolumin o pojemności 613 TB.
Aby zmierzyć korzyści płynące z oprogramowania Fusion firmy Tuxera, porównaliśmy sekwencyjną przepustowość odczytu i zapisu na poziomie 1 MB oraz opóźnienie każdego klienta komunikującego się jednocześnie z hostem pamięci masowej CheetahRAID. Użyliśmy czterech zadań FIO na każdym kliencie, z których każde mierzyło wydajność pliku o rozmiarze 50 GB. Łącznie dało to 400 GB zajmowanego miejsca. Nasz punkt odniesienia został zmierzony przy użyciu Samby w wersji 4.15.13 w porównaniu z Fusion przez TCP, a następnie ponownie z Fusion wykorzystującym odciążenie RDMA.
Bazowa przepustowość odczytu Samba dla każdej stacji roboczej HP Z4 Rack G5 wyniosła 4 GB/s i 3.8 GB/s, co daje łącznie 7.8 GB/s. Przy obciążeniu sekwencyjnym odczytem zmierzyliśmy 2.4 GB/s i 2.6 GB/s, co daje łącznie 5 GB/s. Średnie opóźnienie odczytu wyniosło 17.23 ms, a średnie opóźnienie zapisu 26.6 ms.
Przejście na oprogramowanie Tuxera Fusion miało ogromny wpływ, bez konieczności wprowadzania zmian po stronie klienta. Analizując protokół TCP, zmierzyliśmy odpowiednio 11.1 GB/s i 11.1 GB/s dla każdego klienta, co dało nam 22.2 GB/s przepustowości odczytu. Był to limit połączenia 100 GbE z każdym hostem. Przepustowość zapisu wyniosła odpowiednio 5.7 GB/s i 5.8 GB/s, co dało łącznie 11.5 GB/s. Średnie opóźnienie odczytu wyniosło 6 ms, a opóźnienie zapisu 11.65 ms.
Oprócz protokołu TCP, Fusion File Share firmy Tuxera obsługuje również protokół RDMA. Zmierzyliśmy protokół Fusion RDMA, który dał nam przepustowość odczytu na poziomie 11.6 GB/s i 11.6 GB/s do każdego hosta, czyli 23.2 GB/s. Przepustowość zapisu wyniosła 5 GB/s i 5.2 GB/s, czyli łącznie 10.2 GB/s. Opóźnienie odczytu w tej konfiguracji wyniosło 5.8 ms, a opóźnienie zapisu 13.2 ms.
Porównanie Samby z Fusion wykazało ogromne korzyści dla klientów Windows. Przepustowość odczytu wzrosła prawie trzykrotnie, a opóźnienie wyniosło zaledwie 33% tego, co oferowała Samba. Przepustowość zapisu również wzrosła 2.3-krotnie, a opóźnienie wyniosło zaledwie 44% tego, co zmierzyliśmy w Sambie.
| Protokół | metryczny | Client1 | Client2 | Cena produktu z VAT: |
|---|---|---|---|---|
| Samba | Odczyt przepustowości | 4GB / s | 3.8GB / s | 7.8GB / s |
| Opóźnienie odczytu | 16.77ms | 17.68ms | 17.23ms | |
| Zapis przepustowości | 2.4GB / s | 2.6GB / s | 5GB / s | |
| Opóźnienie zapisu | 27.5ms | 25.7ms | 26.6ms | |
| Fusion TCP | Odczyt przepustowości | 11.1GB / s | 11.1GB / s | 22.2GB / s |
| Opóźnienie odczytu | 6ms | 6ms | 6ms | |
| Zapis przepustowości | 5.7GB / s | 5.8GB / s | 11.5GB / s | |
| Opóźnienie zapisu | 11.8ms | 11.5ms | 11.65ms | |
| Fuzja RDMA | Odczyt przepustowości | 11.6GB / s | 11.6GB / s | 23.2GB / s |
| Opóźnienie odczytu | 5.8ms | 5.8ms | 5.8ms | |
| Zapis przepustowości | 5GB / s | 5.2GB / s | 10.2GB / s | |
| Opóźnienie zapisu | 13.4ms | 13ms | 13.2ms |
Ogromne dyski SSD dotrzymują kroku M&E
Masywne dyski SSD, takie jak Solidigm P5336 o pojemności 61.44 TB, przynoszą znaczące korzyści branży medialnej i rozrywkowej, gdzie szybkość i niezawodność są kluczowe dla obsługi dużych plików, takich jak filmy wysokiej rozdzielczości, złożone grafiki i rozbudowane ścieżki dźwiękowe. W przeciwieństwie do tradycyjnych dysków twardych (HDD), dyski SSD oferują krótszy czas dostępu do danych, wyższą prędkość odczytu/zapisu oraz większą liczbę operacji wejścia/wyjścia na sekundę. Ta przewaga wydajnościowa pozwala na bardziej efektywną edycję, renderowanie i przetwarzanie, znacznie skracając czas ładowania i pracy z dużymi plikami multimedialnymi. Brak ruchomych części w dyskach SSD zwiększa ich niezawodność i trwałość, czyniąc je mniej podatnymi na awarie mechaniczne i utratę danych (co jest szczególnie istotne w przypadku cennych treści multimedialnych).
Zastosowanie gęstych dysków SSD w środowiskach produkcji i postprodukcji multimediów usprawnia przepływy pracy, umożliwiając edycję w czasie rzeczywistym, gradację kolorów i przetwarzanie efektów bez utraty jakości i wydajności. Dyski te bezproblemowo obsługują wiele strumieni wideo 4K, eliminując potrzebę stosowania plików proxy lub symboli zastępczych o niskiej rozdzielczości. Co więcej, kompaktowy rozmiar dysków SSD w połączeniu z ich dużą pojemnością upraszcza zarządzanie danymi, umożliwiając przechowywanie całych projektów na jednym dysku lub w niewielkiej macierzy, co ułatwia dostęp do dużych wolumenów danych i zarządzanie nimi.
Oprócz zalet w zakresie wydajności i pojemności, ogromne dyski SSD przyczyniają się do tworzenia bardziej sprzyjającego środowiska produkcyjnego dzięki cichej pracy, niższej emisji ciepła i energooszczędności. Cechy te są szczególnie przydatne w gęsto zabudowanych lub mobilnych pomieszczeniach montażowych, gdzie minimalizacja hałasu i chłodzenie odgrywają istotną rolę. Efektywność energetyczna dysków SSD nie tylko obniża koszty operacyjne, ale także zapewnia chłodniejsze i cichsze środowisko pracy, zwiększając ogólną produktywność i komfort pracy specjalistów z branży medialnej. W istocie, ogromne dyski SSD zmieniają oblicze branży medialnej i rozrywkowej, umożliwiając szybsze, bardziej niezawodne i wydajne procesy produkcyjne, które mogą dotrzymać kroku rosnącemu zapotrzebowaniu na wysokiej jakości treści cyfrowe.
Bridge Digital jest wielkim fanem
Podczas naszych własnych testów z platformą CheetahRAID zaobserwowaliśmy imponujące korzyści w zakresie obciążeń M&E. Chcieliśmy jednak poznać opinię przedstawicieli branży, aby sprawdzić, czy nasze wyniki pokrywają się z wynikami osób, które zajmują się zarządzaniem danymi na planie zdjęciowym. Skontaktowaliśmy się z naszym przyjacielem Richiem Murrayem, założycielem i prezesem Bridge Digital.
Bridge Digital to firma specjalizująca się w procesach obróbki cyfrowego wideo oraz technologiach, które usprawniają ich działanie.
Pomagają twórcom i właścicielom treści cyfrowych budować infrastrukturę do efektywnego tworzenia, zarządzania, dystrybucji i monetyzacji zasobów wideo. Rozwiązania Bridge Digital obejmują cały proces tworzenia mediów cyfrowych — od pobrania do finalnej dostawy.
Richie zauważa: „Wydajność, kompatybilność i łatwość obsługi to najwyższe priorytety naszych klientów. Właśnie to rozwiązanie łączy w sobie. Przenośność danych, jaką zapewnia system CheetahRAID, jest bezkonkurencyjna w branży, a jednocześnie nie oznacza utraty szybkości i niezawodności sprzętu mniej przyjaznego dla środowiska”.
Richie dodał: „Fusion File Share jest wydajniejszy i w pełni kompatybilny z istniejącymi, sieciowymi stacjami roboczymi do pracy kreatywnej. Co więcej, potężne dyski SSD Solidigm w połączeniu z implementacją RAID firmy Graid potwierdzają tezę, że „to rozwiązanie jest lepsze niż suma jego części”. To połączone rozwiązanie jest niezwykle atrakcyjne dla nowoczesnych obciążeń M&E”.
Wniosek
Szybkość sekwencyjna w systemie Tuxera Fusion File Share doskonale sprawdza się przy szybkim zgrywaniu i weryfikacji materiału, zwłaszcza podczas nagrywania wieloma kamerami. Szybkie przechowywanie danych nie jest obce użytkownikom na planie, a sama prędkość nie robi dużego wrażenia, ale możliwość pracy w sieci i jednoczesnego zgrywania danych z wielu systemów bez spowalniania to szczególny rodzaj przepływu pracy, w którym Tuxera Fusion sprawdza się znakomicie.
Zazwyczaj na planie czynnikiem ograniczającym nie jest pamięć masowa, lecz nośniki kamery, a to wąskie gardło staje się problematyczne, zwłaszcza gdy liczba kamer zaczyna przekraczać 100%. Nierzadko zdarza się, że wiele systemów jednocześnie przekazuje dane z kilku kart na niezależne dyski, które następnie muszą zostać skonsolidowane albo na planie na identycznej parze dysków głównych, albo w hali postprodukcyjnej na ich serwerach.
Możliwość połączenia wielu systemów z tą samą pulą pamięci masowej Tuxera Fusion i jednoczesnego odciążania bez spowalniania pracy to ogromna oszczędność czasu. Co ważniejsze, standardowy serwer NAS miałby problem z efektywnym skalowaniem współdzielonej pamięci masowej dla wielu klientów, gdyby korzystał z Samby, umożliwiając jednoczesne odciążanie, transkodowanie, zarządzanie, przeglądanie i kontrolę jakości.
Chociaż omówiliśmy korzyści, jakie to rozwiązanie oferuje na planie, kluczowe jest również zrozumienie, że wszystko to charakteryzuje się minimalną złożonością. Serwer CheetahRAID, dyski SSD Solidigm QLC, zarządzanie RAID Graid Technologies oraz protokół Tuxera są bardzo łatwe do skonfigurowania w podstawowej instalacji systemu Linux. Całe rozwiązanie powstaje w ciągu kilku minut, a nie godzin, i łączy najlepsze w swojej klasie technologie dla profesjonalistów z branży mechanicznej i elektrycznej.
Amazon