Av all teknologi i datacentret är det ingen som utvecklas snabbare än nätverksanslutning. För 20 år sedan ansågs 1GbE-nätverk vara exotiskt, och den infrastruktur som krävdes för att stödja det (t.ex. nätverkskort, switchar och kablar) var dyr och sällsynt. För tre år sedan var 10GbE-nätverk toppmoderna, men nu har 20, 40 och till och med 100GbE-nätverk blivit standard i datacenter. Nätverket har inte bara blivit bredare, det har blivit mer sofistikerat med tillägg av element som virtualisering, mjukvarudefinierat nätverk (SDN), överlagringsnätverk och andra tekniker som inte ens hade tänkt sig för tio år sedan men som nu är vanliga och anstränger resurserna i datacenterservrar.
**Läs mer om SmartNIC och det komponerbara datacentret på Xilinx Adapt ***
När vi arbetar med nätverk över 10 GbE börjar vi se att CPU-flaskhalsar i servrar uppstår när nätverkspaket skickas vidare till processorn för bearbetning. Med 25 GbE-nätverk ägnas en mätbar andel av processorns tid åt att bearbeta nätverkspaket. För att hantera detta problem har vi utvecklat tekniker för att flytta vissa nätverksfunktioner ner från processorn till nätverksgränssnittskontrollern (NIC). Vi kallar de enheter som kan hantera denna avlastning för SmartNIC:er.
I den här artikeln kommer vi att förklara vad en SmartNIC är, värdet som de tillför datacentret och varför du bör börja undersöka och investera i dem. Slutligen ska vi titta på en särskilt innovativ SmartNIC, Xilinx SN1000.
Vad är en SmartNIC?
Att avlasta nätverksoperationer från processorn till ett nätverkskort har varit i fokus för stora molnleverantörer eftersom de alltid strävar efter effektivitet i datacentret. Det finns ingen hård regel för vad som krävs för att ett nätverkskort ska klassas som smart ; dock bör de som ett minimum kunna hantera vissa av kontrollplansfunktionerna som finns i virtuella switchar, och vissa av de funktioner som finns i nätverksfunktionsvirtualisering (NFV), såsom brandvägg, intrångsdetektering och -förebyggande, värdinspektion och kryptering, samt dataplansuppgifter, såsom nätverkskvalitetstjänst (QoS) och flödesrapportering och -övervakning.
Vad är det som driver antagandet av SmartNICs?
Offentliga moln och hyperskalare har drivit datacenterinnovation under det senaste decenniet och kommer att fortsätta att göra det under överskådlig framtid. Tekniken som de använder driver så småningom ner till företagsdatacenter och detsamma gäller SmartNIC. I efterhand placerar SmartNICs helt enkelt nätverksfunktionerna där de borde ha varit i första hand: tillbaka på nätverkskortet snarare än att slösa CPU- och moderkortsbandbredd.
Det är lätt att föreställa sig hur mycket nätverkstrafik som kasseras eller hårnålas tillbaka på nätverket utan att lägga något värde till systemet/processorn som tvingas hantera dem – helt enkelt för att NFV:er och andra funktioner implementeras med en traditionell servers CPU snarare än på NIC-nivå. Varje CPU-cykel som kan avlastas från CPU:n frigör den och låter servern göra produktivt arbete.
För att illustrera hur en SmartNIC kan vara fördelaktig kan vi ta något så enkelt som en DDoS-attack (distributed denial of service). Även om en DDoS är sällsynt i ett modernt datacenter, skulle ett SmartNIC-avtal med en DDoS göra det möjligt för systemets CPU att fortsätta med arbete som är produktivt snarare än att sortera, klassificera och kassera paket. Ett mer modernt exempel skulle vara att ha en SmartNIC-uppgörelse med inkapsling av nätverkspaket som används av överläggsnätverk snarare än av systemets CPU.
Varför Xilinx är ledande inom SmartNIC-teknik
Med all ny teknik finns det företag som placerar sig i framkanten av tekniken. Dessa företag tenderar att vara passionerade och laserfokuserade på teknik. De ägnar sin energi åt målet att övervinna den myriad av hinder som skulle hindra den nya tekniken från att komma in på marknaden. Xilinx är ett sådant företag.
Xilinx har en lång historia av att vara en innovatör inom framväxande teknologier. Till exempel uppfann de den fältprogrammerbara gate arrayen (FPGA) och anses vara ledande inom denna teknik. Att ta ut en ny teknik, som en SmartNIC, till marknaden är inte ett billigt förslag, och med intäkter på över 3 miljarder dollar 2020 har de ekonomiska resurser att göra det. Men det krävs också seriös ingenjörs- och managementkunskap – återigen, Xilinx har båda.
I april 2019 ingick Xilinx ett avtal om att förvärva Solarflare Communications, en tidigare utvecklare av nätverk med ultralåg latens och applikationsacceleration, och en ledare inom SmartNIC-teknik. Senare samma år demonstrerade Xilinx en enkelchips FPGA-baserad 100G SmartNIC baserad på Solarflare- och Xilinx-teknologier. Denna SmartNIC kombinerade Xilinx FPGA, system på ett chip (SoC) och adaptiv beräkningsaccelerationsplattform (ACAP) med Solarflares teknologi för att skapa en ny konvergerad SmartNIC-lösning, som blev Xilinx SN1000.
Xilinx ALVEO SN1000
Xilinx SN1000 är en FHHL PCIe x16 fysisk (Gen 4 x8 eller Gen 3 x16 elektrisk) NIC med dubbla 100GbE koppar eller optiska portar. Den har en 16-kärnig Cortex-A72-processor och en FPGA med över en miljon uppslagstabeller (LUT). En LUT är i grunden hur FPGA bygger upp sin logik; ju fler LUT:er en FPGA har, desto mer kraftfull och flexibel blir den. Kortet har totalt 12 GB DDR4 RAM, med 4 GB dedikerat till Arm-processorn och 8 GB till FPGA. Detta hårdvaruschema översätter till att SN1000 kan ladda 4 miljoner stateful anslutningar och bearbeta 100 miljoner paket per sekund (PPS).
Applikationsspecifika integrerade kretsar (ASICs), FPGAs och SoCs kan användas för att göra SmartNICs. ASIC kan vara prestanda; de har dock begränsad flexibilitet och det är svårt att lägga till ytterligare funktionalitet till dem. Och medan SoC:er är extremt flexibla, saknar de hastigheten hos ASIC:er och FPGA:er.
För att ge både flexibilitet och prestanda i deras SN1000 SmartNIC, använder Xilinx en kraftfull SoC för kontrollplansfunktioner på grund av sin inneboende flexibilitet och parar den med en FPGA för dataplansfunktioner av prestandaskäl. Den primära fördelen med att använda en FPGA framför en ASIC är att en FPGA kan omprogrammeras när ny funktionalitet utvecklas och/eller behövs, medan det kan ta ett år eller längre tid att få en ny ASIC i fält.
Att utveckla kod för en FPGA är inte en trivial sak, och Xilinx har några utmärkta verktyg för att hjälpa till med detta behov. Med hjälp av Xilinx utvecklings- och programmeringsverktyg kan Xilinx-kunder skriva sina egna FPGA-applikationer i ett högnivåprogrammeringsspråk som mjukvaruutvecklare är vana vid, snarare än hårdvarukoden som traditionellt har använts för FPGA-applikationsutveckling.
Xilinx har också utvecklat en applikationsmarknadsplats där lösningar utvecklade av Xilinx och tredje part kan erhållas. Denna metod gör det möjligt för SN1000-köpare att uppnå en snabbare tid till värde (TTV) genom att kringgå utvecklingscykeln. Appbutiken har lösningar för NFV, nätverkssäkerhet, bildbehandling, maskininlärning (ML) och andra funktioner som kan och bör utföras på SmartNIC-nivå.
Xilinx-applikationer är förpackade som dockningscontainrar. De kan utvärderas för användning gratis, och sedan köpas direkt från butiken via ett kreditkort.
Även om Xilinx SmartNICs är en ledande produkt, betyder det inte att de ligger så långt före kurvan att de förhindrar adoption och användning. Tvärtom, Xilinx SmartNICs distribueras redan för att hantera specifika användningsfall i offentliga moln, hyperskalare och moderna datacenter. Några exempel på vad de används till är; VXLAN och NVGRE tunnelinkapsling, Open Virtual Switch (OVS), Intel DPDK och Virtio-net I/O.
Ett annat intressant användningsfall för SmartNICs är att de används för att ladda ner lagringsfunktioner som Ceph-objektlagringsklienten, och NVMe-oF vinner popularitet. Dessutom, för höghastighetshandel, har Xilinx uttalat att deras SmartNIC kan uppnå nano-sekunders latens för "tick to trade" algoritmisk handel.
Videoanalys är en annan sektor där SmartNICs lyser. På grund av mängden data som är involverad i video är det ogenomförbart att skicka tillbaka det till ett centralt arkiv. Som en lösning används SmartNICs på edge-enheter för att hantera videotolkningsfunktioner, såsom maskdetektering, folkräkning och spårning, såväl som virtuella stängsel eftersom dessa kräver den AI-inferens som FPGA kan hantera snabbt och effektivt.
Varför du behöver SmartNICs
Med ökningen av nätverk med hög bandbredd frågar vi mer och mer från servrarna i våra datacenter. Vi kommer till en punkt där, på grund av antalet nätverkspaket som behöver bearbetas med mer nätverksbandbredd, servrar har färre cykler för att utföra lönsamt arbete. Vissa studier har visat att mer än 20 % av en servers CPU-cykler kan användas för paketbearbetning i traditionella datacenter som har nätverk med hög bandbredd. Till exempel, med en 3GHz CPU, har en processor ungefär 300 cykler för att bearbeta ett 1500B paket för att hålla jämna steg med linjehastigheten.
För att frigöra processorer för att utföra det värdefulla arbete som de utformats för att utföra, måste vi ladda bort onödiga funktioner till andra enheter, sådana som är närmare källan. I det här fallet är den rätta enheten för att hantera nätverk en SmartNIC.
Även om SmartNICs inte bara är Xilinx verksamhetsområde, är de placerade i framkant av denna framväxande teknologi. Genom att använda en SoC kombinerad med FPGA kan de få användarvänligheten och flexibiliteten hos en mjukvarudefinierad lösning med prestanda hos en hårdvaruimplementerad lösning. Xilinx vet att applikationer behövs för att utnyttja SmartNICs, så de har skapat en programmeringsmiljö som tillåter datorprogrammerare, snarare än hårdvaruingenjörer, att utveckla applikationerna som körs på deras SmartNIC. För de användare som letar efter ett snabbare TTV-erbjudande, har Xilinx en appbutik för att tillåta att tredjepartsapplikationer kan köpas.
För att ett modernt datacenter ska vara konkurrenskraftigt måste det befria sina servrar från så många onödiga uppgifter som möjligt. Dessa uppgifter inkluderar tillståndsfulla brandväggar, lastbalansering, IPsec, TLS, NVMe-over-TCP, Virtio.blk-lagringsåtkomst, datakomprimering eller den myriad av andra funktioner som hanteras bättre med ett SmartNIC.
Läs mer på Xilinx Adapt
Xilinx Adapt är ett digitalt evenemang den 24-25 mars 2021 som kommer att behandla relevansen av SmartNIC i datacentret tillsammans med viktiga ämnen som molntjänster, beräkningslagring och det komponerbara datacentret. Inträdet är gratis och repriser kommer att göras tillgängliga efteråt.
Amazon