Na akci SC25 v St. Louis se Brian setkal se svým dlouholetým přítelem Markem Klarzynskim, zakladatelem a úřadujícím technickým ředitelem společnosti PEAK:AIO. Pokud sledujete StorageReview, pak možná znáte naše zpravodajství o PEAK:AIO, od pravidelných zpráv přes lékařskou umělou inteligenci až po ochranu zvířat.
Jak Mark vysvětluje, „strávil celý život ve skladu a Briana zná už velmi, velmi dlouho.“ Je to patrné z velmi upřímné a snadné konverzace o hardwaru a softwaru a vývoji obojího.
V tomto opravdu krátkém podcastu Brian a Mark hovoří o vývoji softwaru, serverech Dell PowerEdge a GPU. Mark je nadšený pokrokem v hardwarovém designu, zejména serverem Dell PowerEdge R7725xd , poháněným procesory AMD EPYC.
Tento krátký podcast pokrývá hodně tématu a stojí za to si ho poslechnout na jedno posezení. Pokud si ale nemůžete udělat 20 minut, rozdělili jsme ho na pětiminutové části, abyste si mohli poslechnout cokoli.
0: 00 - 5: 00
- Software PEAK:AIO odemyká extrémní výkon počítače Dell 7725XD.
- Moderní hardware (procesory, NVMe, sítě) je konečně natolik dobrý, že software může „ustoupit z cesty“.
- PEAK:AIO odstranilo desítky let starých funkcí úložiště, aby se přiblížilo holému železu.
- Jejich překvapení: box od Dellu poskytoval mnohem vyšší výkon, než se očekávalo; mysleli si, že testy se mýlí.
- Filozofie: Tvoření věcí jednoduchý a stabilní je složitější než je jen rychle vyrobit.
5: 00 - 10: 00
- PEAK:AIO se rozhodl zůstat nezávislým, než aby se stal součástí produktové řady prominentního dodavatele.
- Spolupracují přímo s výzkumnými týmy (např. modely rakoviny mozku), což je obohacující než jen zrychlování databází.
- Počáteční zaměření: komprimace toho, co dříve vyžadovalo 4–10 úložných uzlů, do jeden výkonný server.
- Tradiční paralelní souborové systémy byly vytvořeny pro 10GbE + HDD; nyní je vyžadována NVMe a masivní šířka pásma PCIe.
- S Los Alamos budují otevřený, moderní NFS tkanina – žádné patentované uzamčení.
10: 00 - 15: 00
- Hardwarový „seznam přání“: více PCIe linek a PCIe Gen 6 pro ještě větší šířku pásma.
- Vize: Servery s grafickými procesory, které jsou modelový box, inferenční box a úložný uzel vše v jednom, přesto součást většího jmenného prostoru.
- Začněte v malém na GPU serveru; když dojde úložiště, přidejte 7725XD a nechte PEAK:AIO automaticky rozšiřovat a vyvažovat.
- Zákazníci chtějí škálovat úložiště pouze tehdy, když se projekty umělé inteligence prokáží jako hodnotné, nekupují si předem obří pole.
- Ekonomika je důležitá: pro nemocnice a podobné rozpočty nelze ospravedlnit úložné pole za 1 milion dolarů za serverem s grafickou kartou za 300 tisíc dolarů.
15: 00 - 20: 00
- Strategie: Použití komoditní servery plus software PEAK:AIO, který nahradí drahá, specializovaná úložná pole.
- Výrobci OEM, jako je Dell, řeší základní hardwarové problémy; PEAK:AIO se zaměřuje na software, stabilitu a výkon.
- Vestavěné monitorování a prediktivní inteligence; roky v terénu bez výpadku jejich platformy.
- Výsledky společného projektu: ~70 milionů IOPS v jednom uzlu a propustnost stovky GB/s – rekordní čísla.
- Další krok: umístěte modely uvnitř úložný uzel (s rezervní kapacitou CPU/GPU), takže k odvození dochází přímo v zařízení, nikoli přes síť.
Amazon