Společnosti Lenovo a NVIDIA spojily síly, aby vyvinuly pokročilou platformu pro umělou inteligenci a počítačové vidění s názvem Lenovo ThinkEdge SE70. Tato platforma byla navržena tak, aby transformovala stávající kamerové infrastruktury do inteligentních automatizovaných prostředí, což z ní činí ideální řešení napříč různými odvětvími.
Lenovo ThinkEdge SE70
ThinkEdge SE70 s nejmodernějším inženýrstvím, průmyslovým designem a konstrukcí je cenným nástrojem, který organizacím pomáhá revolučně změnit způsob využití kamerové infrastruktury. Poskytuje stabilní a robustní platformu pro inovativní aplikace omezené pouze fantazií, což usnadňuje zavádění chytrých řešení v jakémkoli odvětví.
Srdcem ThinkEdge SE70 je modul NVIDIA Jetson Xavier NX, malý technologický prvek s nízkou spotřebou energie, který platformě přináší výkon optimalizovaný pro umělou inteligenci. Systémový design SE70 je obzvláště inovativní a poskytuje flexibilitu nezbytnou pro řešení řady vertikálních potřeb trhu, zejména v oblasti nasazení počítačového vidění.
ThinkEdge SE70 nabízí širokou škálu I/O rozhraní s robustní konstrukcí, která organizacím pomáhá integrovat se s různými periferiemi, průmyslovými zařízeními a síťovými infrastrukturami. To vše dohromady mu pomáhá splňovat rozmanité potřeby úloh edge computingu, pojďme se tedy podívat na možnosti připojení.
SE70 je vybaven obvyklým kombinovaným konektorem pro sluchátka/mikrofon (3.5 mm) a také čtyřmi porty USB 3.2 Gen 1, přičemž druhý jmenovaný umožňuje vysokorychlostní přenos dat. To je klíčové pro připojení externích úložných zařízení, fotoaparátů a dalších periferií, což zefektivňuje přenos a analýzu dat. Slot pro kartu microSD (chráněný silikonovým krytem) poskytuje rozšiřitelnou úložnou kapacitu.
Port HDMI 1.4 poskytuje uživatelům výstup videa ve vysokém rozlišení, takže můžete propojit Lenovo ThinkEdge SE70 s monitory, obrazovkami nebo projektory. Port CAN BUS a 1x DIO (4DIx4DO) je navíc obzvláště důležitý pro průmyslové aplikace, protože umožňuje integraci SE70 s průmyslovými stroji a řídicími systémy. To znamená sběr a analýzu dat v reálném čase pro lepší rozhodování a automatizaci.
Dva sériové porty (RS232/RS422/RS485) umístěné na zadní straně dále zvyšují kompatibilitu se staršími průmyslovými zařízeními a přístroji, což pomáhá zajistit hladkou integraci se staršími stroji, které se mohou stále používat.
Vedle nich se nacházejí dva GbE ethernetové porty (RJ-45, PoE). Podpora PoE je obzvláště užitečná, protože zjednodušuje instalaci a snižuje množství kabelů – což je často důležité pro efektivní nasazení ve všech typech prostředí.
ThinkEdge SE70 je také vybaven portem Micro USB OTG (On-The-Go), který zařízení dále rozšiřuje o další vrstvu všestrannosti. Díky této funkci si SE70 může přímo vyměňovat data s dalšími periferiemi, čímž eliminuje potřebu zprostředkovatele.
Specifikace Lenovo ThinkEdge SE70 po testování
| Procesor | 1x procesor Carmel ARM v8.2 (NVIDIA Carmel ARM v8.2) |
| Operační systém | Ubuntu Linux |
| Pevný disk | 1x 512GB SSD PCIe |
| Bezdrátová síť | 1x Intel® Wireless-AC 9260 2×2 AC; Bluetooth 5.1 nebo vyšší |
| porty | 1x 2 COM porty RS232 Globální audio jack pro sluchátka/mikrofon DIO /CAN sběrnice MCR Gigabitová LAN s POE (802.3af) OTG port, pouze pro flash obraz HDMI 1.4 Vysokorychlostní USB 3.2 Gen 1 Vstup stejnosměrného napájení (konektor s úzkým hrotem nebo Phoenix) |
| Grafika | 1x 384jádrový grafický procesor Nvidia Volta |
| Form Factor | Pasivně chlazené šasi |
| Zahrnutá záruka | 3letá záruka na kurýrní službu/odevzdání s sebou |
Co je platforma NVIDIA Jetson?
Abychom lépe pochopili místo SE70 na trhu, musíme se hlouběji ponořit do základní platformy Jetson. Platforma NVIDIA Jetson je řada vestavěných výpočetních produktů od společnosti NVIDIA, které jsou speciálně navrženy tak, aby přinesly funkce umělé inteligence do autonomních zařízení, strojů a robotů. Jetson zahrnuje unikátní architekturu, která kombinuje vysoce výkonný grafický procesor NVIDIA s procesorem založeným na ARM, což umožňuje stejným nativním výpočetním aplikacím CUDA z datového centra fungovat v kompaktním provedení.
Produktové portfolio NVIDIA Jetson se skládá z různých vestavěných výpočetních modulů určených pro strojové učení a aplikace umělé inteligence. Tyto moduly se dělí na řady Orin, Xavier a TX2 a modely TX2 Nano.
Řada Orin je nejnovější v portfoliu a poskytuje nejvyšší výkon umělé inteligence, od 20 TOPS v sadě Orin Nano Developer Kit až po 275 TOPS v sadě AGX Orin Developer Kit. Řada zahrnuje tři hlavní větve: AGX Orin, Orin NX a Orin Nano. AGX Orin, na vrcholu, nabízí nejvyšší specifikace, včetně 12jádrového 64bitového procesoru Arm Cortex-A78AE v8.2, 2048jádrového grafického procesoru s architekturou NVIDIA Ampere a 64 GB paměti LPDDR5. Možnosti úložiště se v rámci řady liší, přičemž AGX Orin 64GB podporuje externí NVMe a Orin Nano 8GB využívá 16GB eMMC 5.1.
Řada Xavier představuje z hlediska výkonu střední cestu. Například modely AGX Xavier Industrial a AGX Xavier 64GB poskytují značný výkon AI 30, respektive 32 TFLOPS. Všechny modely Xavier používají procesory Arm, přičemž modely AGX disponují 8jádrovými 64bitovými procesory NVIDIA Carmel Arm v8.2. Grafické procesory v řadě Xavier sahají od 128jádrové architektury NVIDIA Maxwell v modelu Xavier NX 8GB až po 512jádrovou architekturu NVIDIA Volta v modelu Xavier NX 16GB.
Všechny modely mají různé možnosti připojení a kódování/dekódování videa a všechny podporují více kamer prostřednictvím konektorů MIPI CSI-2. Mají také různé konfigurace PCIe a USB pro podporu široké škály periferií a případů použití.
Škálovatelnost platformy Jetson je důležité zdůraznit, a to z hlediska výpočetní hustoty, energetické účinnosti a schopností inference umělé inteligence na edge zařízeních. Od základního modelu Jetson Nano se 128 jádry CUDA a 4 GB RAM až po Jetson AGX Xavier s 2048jádrovým grafickým procesorem Ampere a 64 GB RAM pro pokročilou robotiku a aplikace umělé inteligence. Všechny platformy Jetson sdílejí společnou architekturu a software, což vývojářům umožňuje škálovat jejich aplikace napříč různými úrovněmi výkonu a rozpočty na energii.
Jetson SDK, kompletní softwarový stack
Jednou z běžných výzev při používání předem natrénovaných modelů umělé inteligence pro vidění v rámci IP kamer určených pro brownfieldy je škálovatelnost. Právě zde vyniká schopnost umělé inteligence v sadě NVIDIA JetPack Software Development Kit (SDK). Tato schopnost umělé inteligence, využitá v modelu SE70, umožňuje organizacím přenést počítačové vidění do lokálních kamer a vytvářet předpovědi s vysokou přesností a nízkou latencí. Tyto lokalizované výpočty jsou výhodou, pokud jde o zabezpečení dat a zpracování v reálném čase.
Sada pro vývoj softwaru NVIDIA Jetson (SDK) je rozsáhlá sada softwarových nástrojů a knihoven vytvořených pro urychlení tvorby a nasazení aplikací s umělou inteligencí. Z laboratorních zkušeností vím, že tato SDK je poměrně bohatá na funkce a pravděpodobně si zaslouží samostatný článek. Práce s ní je intuitivní (s relevantními předchozími zkušenostmi s Pythonem/Linuxem/AI), což pomáhá snížit mnoho překážek při zahájení vývoje na platformě ARM.
Sada SDK je speciálně upravena pro moduly a vývojářské sady NVIDIA Jetson a zajišťuje komplexní vývojový pracovní postup, od cloudových výpočtů až po edge zařízení.
Hlavní komponenty SDK zahrnují následující:
- NVIDIA JetPack SDKJetPack SDK, jakožto základní vrstva softwarového balíku, vybavuje vývojářů potřebnými nástroji, API a knihovnami pro vývoj vysoce výkonných aplikací. Patří mezi ně NVIDIA TensorRT a cuDNN pro inferencování pomocí umělé inteligence, CUDA pro zobecněné výpočty, VPI pro počítačové vidění a zpracování obrazu a API pro zpracování multimédií a kamer.
- NVIDIA TAO a předtrénované modely umělé inteligenceNVIDIA TAO zefektivňuje pracovní postup hlubokého učení tím, že nabízí předtrénované modely umělé inteligence z katalogu NVIDIA NGC™. Integruje se s NVIDIA Omniverse Replicator a vytváří syntetická data pro trénování modelů umělé inteligence.
- NVIDIA Triton Inference ServerTriton Inference Server zjednodušuje proces nasazení modelů umělé inteligence ve velkém měřítku v rozmanitých prostředích. Umožňuje inferencování modelů z více frameworků a aktualizace modelů v reálném čase.
- NVIDIA RivaTato sada SDK je navržena pro vytváření komplexních konverzačních aplikací s umělou inteligencí. Riva obsahuje předem natrénované modely konverzační umělé inteligence, sadu nástrojů NVIDIA TAO a jemně vyladěné komplexní dovednosti pro úkoly spojené s řečí, zrakem a NLP.
- SDK NVIDIA DeepStreamDeepStream poskytuje kompletní sadu nástrojů pro zpracování více senzorů s využitím umělé inteligence, analýzu videa a obrazu a pomáhá převádět data z pixelů a senzorů na cenné poznatky.
- NVIDIA IsaacTato sada hardwarově akcelerovaných balíčků pomáhá vývojářům ROS vytvářet efektivní řešení na hardwaru NVIDIA. Nabízí nástroje pro generování syntetických dat a také simulační aplikaci pro návrh, testování a správu robotů založených na umělé inteligenci.
Lenovo ThinkEdge SE70 – Průvodce YOLO
Počítačové vidění je ve své podstatě oblastí umělé inteligence, která učí počítače interpretovat a chápat vizuální svět. Využíváním digitálních obrazů z kamer, videí a modelů hlubokého učení dokáží systémy počítačového vidění přesně identifikovat a klasifikovat objekty a poté reagovat na to, co „vidí“.
Pro implementaci počítačového vidění v laboratoři jsme na SE70 použili model You Only Look Once (YOLO). YOLO je systém pro detekci objektů v reálném čase, který je v současné době ve verzi 8 a je velmi působivý svou schopností rozpoznávat nebo kategorizovat objekty v reálném čase. Na rozdíl od jiných modelů, které aplikují strojové učení na obrázky ve dvou krocích – nejprve identifikují objekty v obrázku a poté je klasifikují – YOLO to dělá v jednom rychlém procesu, odtud název „You Only Look Once“.
Model YOLO prošel různými iteracemi, přičemž každá verze se zaměřovala na zlepšení rychlosti a přesnosti detekce objektů. Rychlost a efektivita modelu z něj činí dobrého kandidáta pro detekci objektů v reálném čase v aplikacích, jako jsou autonomní vozidla, dohled nebo jakýkoli systém, kde je okamžité rozpoznání cenné.
Spuštěním YOLOv8 na platformě Lenovo ThinkEdge SE70 můžete vylepšit možnosti stávající kamerové infrastruktury. Robustní konstrukce a pasivní chlazení v kombinaci s integrací Jetsonu umožňují detekci objektů v reálném čase, což uživatelům umožňuje vyvíjet software, který rychle a přesně reaguje na jejich prostředí. Aplikace počítačového vidění v tomto smyslu otevírá nové cesty pro automatizaci a rozhodovací procesy, což organizacím umožňuje efektivněji využívat svá data.
Využitím výkonných možností modulu Jetson Xavier NX od společnosti NVIDIA a flexibilního designu serveru Lenovo ThinkEdge SE70 mohou organizace podniknout kroky k inteligentní automatizaci v různých odvětvích, zvýšit efektivitu a umožnit chytřejší rozhodování.
Závěrečné myšlenky
ThinkEdge SE70 od společností Lenovo a NVIDIA je vzrušujícím vývojem v oblasti umělé inteligence a počítačového vidění. Tato inteligentní automatizační platforma je připravena transformovat průmyslová odvětví tím, že promění tradiční kamerové infrastruktury v inteligentní systémy. V laboratoři neustále testujeme různé modely a platformy a SE70 se stal jedním z favoritů pro práci s životopisy s využitím umělé inteligence a další budou teprve následovat, včetně návodů a dalších kreativních využití.
Bezventilátorová zařízení Lenovo IoT jsme si zamilovali od samého začátku, kombinují překvapivě hustou technologii v tichém šasi, které je pro očekávané použití více než dostatečně odolné. SE70 je ještě lepší a na trh přináší zdokonalenou verzi Jetsonu způsobem, který se snadno používá. SE70 sice od Lenova není masově prodávaným produktem, ale jsme rádi, že existuje, a myslíme si, že jednoznačně patří do kategorie Nejlepší roku 2023.
Amazon