Karty SmartNIC radykalnie zmienią centrum danych

Ze wszystkich technologii w centrach danych, żadna nie rozwija się szybciej niż łączność sieciowa. 20 lat temu sieci 1GbE były uważane za egzotyczne, a infrastruktura wymagana do ich obsługi (np. karty sieciowe, przełączniki i kable) była droga i rzadka. Trzy lata temu sieci 10GbE były najnowocześniejsze, ale teraz sieci 20, 40, a nawet 100GbE stały się standardem w centrach danych. Sieć nie tylko stała się szersza, ale także bardziej zaawansowana dzięki dodaniu elementów takich jak wirtualizacja, sieci definiowane programowo (SDN), sieci nakładkowe i inne technologie, które dziesięć lat temu nawet nie były przewidywane, a teraz są powszechne i obciążają zasoby serwerów w centrach danych.

**Dowiedz się więcej o kartach SmartNIC i komponowalnym centrum danych w Xilinx Adapt ***

W przypadku sieci powyżej 10 GbE, zaczynamy dostrzegać wąskie gardła procesora w serwerach, ponieważ pakiety sieciowe są przekazywane do procesora w celu przetworzenia. W sieciach 25 GbE, mierzalny procent czasu procesora jest poświęcany na przetwarzanie pakietów sieciowych. Aby rozwiązać ten problem, opracowaliśmy techniki przesunięcia niektórych funkcji sieciowych z procesora na kontroler interfejsu sieciowego (NIC). Urządzenia, które mogą sobie z tym poradzić, nazywamy SmartNIC ( odciążającymi) (offloading ).

W tym artykule wyjaśnimy, czym jest SmartNIC, jaką wartość wnosi do centrum danych i dlaczego warto zacząć się nim interesować i w niego inwestować. Na koniec przyjrzymy się szczególnie innowacyjnemu SmartNIC – Xilinx SN1000.

Czym jest SmartNIC?

Przeniesienie operacji sieciowych z procesora na kartę sieciową (NIC) jest priorytetem głównych dostawców usług chmurowych, którzy nieustannie dążą do zwiększenia wydajności w centrum danych. Nie ma sztywnej reguły co do tego, jakie wymagania należy spełnić, aby karta sieciowa została uznana za inteligentną ; jednak co najmniej powinna ona obsługiwać niektóre funkcje płaszczyzny sterowania dostępne w przełącznikach wirtualnych oraz niektóre funkcje wirtualizacji funkcji sieciowych (NFV), takie jak zapora sieciowa, wykrywanie i zapobieganie włamaniom, inspekcja hostów i szyfrowanie, a także zadania płaszczyzny danych, takie jak jakość usług sieciowych (QoS) oraz raportowanie i monitorowanie przepływu.

Co wpływa na popularność kart SmartNIC?

Chmury publiczne i hiperskalery napędzały innowacje w centrach danych przez ostatnią dekadę i będą to robić nadal w dającej się przewidzieć przyszłości. Technologia, z której korzystają, ostatecznie trafia do centrów danych przedsiębiorstw, podobnie jak w przypadku kart sieciowych SmartNIC. Z perspektywy czasu, karty SmartNIC po prostu przenoszą funkcje sieciowe tam, gdzie powinny być od początku: z powrotem na kartę sieciową, zamiast marnować przepustowość procesora i płyty głównej.

Łatwo sobie wyobrazić, ile ruchu sieciowego jest odrzucane lub zawracane z powrotem do sieci, nie dodając żadnej wartości do systemu/procesora, który musi sobie z nim radzić – po prostu dlatego, że funkcje NFV i inne funkcje są implementowane z wykorzystaniem procesora tradycyjnego serwera, a nie na poziomie karty sieciowej. Każdy cykl procesora, który można odciążyć, zwalnia go i pozwala serwerowi na wydajną pracę.

Aby zilustrować korzyści, jakie może przynieść karta SmartNIC, weźmy na przykład tak prosty przypadek, jak atak typu „rozproszona odmowa usługi” (DDoS). Chociaż ataki DDoS zdarzają się rzadko w nowoczesnych centrach danych, to jednak współpraca karty SmartNIC z atakiem DDoS pozwoliłaby procesorowi systemu kontynuować wydajną pracę, zamiast sortować, klasyfikować i odrzucać pakiety. Bardziej współczesnym przykładem byłoby połączenie karty SmartNIC z enkapsulacją pakietów sieciowych wykorzystywanych przez sieci nakładkowe, a nie przez procesor systemu.

Dlaczego Xilinx jest liderem w technologii SmartNIC

Wraz z rozwojem wszystkich nowych technologii, istnieją firmy, które plasują się w czołówce. Firmy te zazwyczaj są pełne pasji i skupione na technologii. Poświęcają swoją energię na pokonanie niezliczonych przeszkód, które uniemożliwiałyby wejście nowej technologii na rynek. Taką firmą jest Xilinx.

Firma Xilinx ma długą historię innowacyjności w dziedzinie nowych technologii. Na przykład, wynalazła układ FPGA (Field-Programmable Gate Array) i jest uważana za lidera w tej technologii. Wprowadzenie na rynek nowej technologii, takiej jak SmartNIC, nie jest tanim przedsięwzięciem, a przy przychodach przekraczających 3 miliardy dolarów w 2020 roku, firma dysponuje środkami finansowymi, aby to zrobić. Wymaga to jednak również solidnej wiedzy inżynieryjnej i zarządzania – i ponownie, Xilinx posiada jedno i drugie.

W kwietniu 2019 roku firma Xilinx zawarła umowę przejęcia firmy Solarflare Communications, wcześniejszego producenta rozwiązań sieciowych o ultraniskim opóźnieniu i akceleracji aplikacji, a także lidera w technologii SmartNIC. Później tego samego roku firma Xilinx zaprezentowała jednoprocesorową kartę sieciową SmartNIC 100G opartą na układzie FPGA, opartą na technologiach Solarflare i Xilinx. Ta karta SmartNIC łączyła układ FPGA firmy Xilinx, układ SoC (System on a Chip) oraz platformę adaptacyjnej akceleracji obliczeniowej (ACAP) z technologią Solarflare, tworząc nowe, konwergentne rozwiązanie SmartNIC, które stało się modelem Xilinx SN1000.

Xilinx ALVEO SN1000

Karta sieciowa Xilinx SN1000 to fizyczna karta sieciowa FHHL PCIe x16 (Gen 4 x8 lub Gen 3 x16) z dwoma miedzianymi lub optycznymi portami 100 GbE. Posiada 16-rdzeniowy procesor Cortex-A72 i układ FPGA z ponad milionem tablic LUT. Tablica LUT to w zasadzie sposób, w jaki układ FPGA buduje swoją logikę; im więcej tablic LUT posiada układ FPGA, tym jest wydajniejszy i bardziej elastyczny. Karta ma łącznie 12 GB pamięci RAM DDR4, z czego 4 GB przeznaczone jest na procesor ARM, a 8 GB na układ FPGA. To rozwiązanie sprzętowe pozwala karcie SN1000 na obsługę 4 milionów połączeń stanowych i przetwarzanie 100 milionów pakietów na sekundę (PPS).

Do budowy układów SmartNIC można wykorzystać układy scalone ASIC (Application-Special Integrated Circuits), FPGA i SoC. Układy ASIC mogą być wydajne, jednak mają ograniczoną elastyczność i trudno jest dodawać do nich dodatkowe funkcje. Chociaż układy SoC są niezwykle elastyczne, brakuje im szybkości układów ASIC i FPGA.

Aby zapewnić elastyczność i wydajność w swoim SN1000 SmartNIC, firma Xilinx wykorzystuje wydajny układ SoC do obsługi funkcji płaszczyzny sterowania ze względu na jego wrodzoną elastyczność, a ze względu na wydajność łączy go z układem FPGA do obsługi funkcji płaszczyzny danych. Główną zaletą stosowania układu FPGA w porównaniu z układem ASIC jest możliwość przeprogramowania układu FPGA w przypadku opracowywania i/lub potrzeby nowej funkcjonalności, podczas gdy wdrożenie nowego układu ASIC w praktyce może zająć rok lub dłużej.

Tworzenie kodu dla układu FPGA nie jest sprawą trywialną, a firma Xilinx oferuje doskonałe narzędzia, które w tym pomagają. Korzystając z zestawu narzędzi programistycznych i deweloperskich Xilinx, klienci firmy mogą pisać własne aplikacje FPGA w języku programowania wysokiego poziomu, do którego przyzwyczajeni są programiści, zamiast w kodzie sprzętowym, który tradycyjnie był używany do tworzenia aplikacji FPGA.

Firma Xilinx stworzyła również platformę aplikacji , na której można znaleźć rozwiązania opracowane przez firmę Xilinx i firmy zewnętrzne. Takie podejście pozwala nabywcom SN1000 na osiągnięcie szybszego czasu do uzyskania wartości (TTV) poprzez pominięcie cyklu rozwoju. Sklep z aplikacjami oferuje rozwiązania z zakresu wirtualizacji funkcji sieciowych (NFV), bezpieczeństwa sieci, przetwarzania obrazu, uczenia maszynowego (ML) i innych funkcji, które mogą i powinny być realizowane na poziomie SmartNIC.

Aplikacje Xilinx są pakowane w kontenery Docker. Można je bezpłatnie przetestować i użyć, a następnie kupić bezpośrednio w sklepie, płacąc kartą kredytową.

Chociaż karty sieciowe Xilinx SmartNIC są wiodącym produktem, nie oznacza to, że wyprzedzają one trendy na tyle, że uniemożliwiają ich adopcję i użytkowanie. Wręcz przeciwnie, karty sieciowe Xilinx SmartNIC są już wdrażane w konkretnych zastosowaniach w chmurach publicznych, hiperskalerach i nowoczesnych centrach danych. Oto kilka przykładów ich zastosowań: enkapsulacja tunelowania VXLAN i NVGRE, Open Virtual Switch (OVS), Intel DPDK oraz Virtio-net I/O.

Innym ciekawym zastosowaniem kart SmartNIC jest odciążenie funkcji pamięci masowej, takich jak klient pamięci obiektowej Ceph, a NVMe-oF zyskuje na popularności. Co więcej, w przypadku szybkiego handlu, firma Xilinx deklaruje, że ich SmartNIC może osiągnąć opóźnienie rzędu nanosekund w algorytmicznym handlu typu „tick to trade”.

Analityka wideo to kolejny sektor, w którym karty SmartNIC sprawdzają się znakomicie. Ze względu na ilość danych związanych z wideo, przesyłanie ich z powrotem do centralnego repozytorium jest niepraktyczne. Rozwiązaniem są karty SmartNIC stosowane na urządzeniach brzegowych do obsługi funkcji interpretacji wideo, takich jak wykrywanie masek, liczenie i śledzenie osób, a także wirtualne ogrodzenia, ponieważ wymagają one wnioskowania opartego na sztucznej inteligencji, które układy FPGA potrafią obsługiwać szybko i wydajnie.

Dlaczego potrzebujesz kart SmartNIC

Wraz z rozwojem sieci o dużej przepustowości, coraz więcej wymagamy od serwerów w naszych centrach danych. Zbliżamy się do punktu, w którym ze względu na liczbę pakietów sieciowych, które muszą być przetwarzane przy większej przepustowości, serwery mają mniej cykli na wykonywanie opłacalnej pracy. Niektóre badania wykazały, że ponad 20% cykli procesora serwera może być wykorzystane do przetwarzania pakietów w tradycyjnych centrach danych z sieciami o dużej przepustowości. Na przykład, z procesorem 3 GHz, procesor ma około 300 cykli na przetworzenie pakietu 1500 B, aby nadążyć za przepustowością łącza.

Aby procesory mogły wykonywać zadania o wysokiej wartości, do których zostały zaprojektowane, musimy przenieść zbędne funkcje na inne urządzenia, znajdujące się bliżej ich źródła. W tym przypadku odpowiednim urządzeniem do obsługi sieci jest karta sieciowa SmartNIC.

Chociaż karty sieciowe SmartNIC nie są domeną wyłącznie firmy Xilinx, to jednak plasują się one w czołówce tej rozwijającej się technologii. Dzięki połączeniu układu SoC z układem FPGA, firma łączy w sobie łatwość obsługi i elastyczność rozwiązań definiowanych programowo z wydajnością rozwiązań implementowanych sprzętowo. Firma Xilinx wie, że do wykorzystania kart SmartNIC niezbędne są aplikacje, dlatego stworzyła środowisko programistyczne, które pozwala programistom, a nie inżynierom sprzętu, tworzyć aplikacje działające na ich kartach SmartNIC. Użytkownicy poszukujący szybszej oferty TTV mogą skorzystać ze sklepu z aplikacjami, który umożliwia zakup aplikacji innych firm.

Aby nowoczesne centrum danych było konkurencyjne, musi uwolnić swoje serwery od jak największej liczby zbędnych zadań. Zadania te obejmują zapory sieciowe z funkcją stateful, równoważenie obciążenia, IPsec, TLS, NVMe-over-TCP, dostęp do pamięci masowej Virtio.blk, kompresję danych i niezliczoną liczbę innych funkcji, które lepiej obsługuje karta sieciowa SmartNIC.

Dowiedz się więcej na Xilinx Adapt

Xilinx Adapt to wydarzenie cyfrowe, które odbędzie się w dniach 24-25 marca 2021 r. i będzie poświęcone znaczeniu kart SmartNIC w centrach danych, a także ważnym zagadnieniom, takim jak przetwarzanie w chmurze, przechowywanie danych obliczeniowych i komponowalne centra danych. Wstęp jest bezpłatny, a powtórki będą dostępne po wydarzeniu.

Dowiedz się więcej tutaj