Společnost Dell Technologies oznámila podporu standardizovaných řešení umělé inteligence optimalizovaných pro ekosystém Llama. Tato řešení si kladou za cíl zjednodušit vývoj aplikací umělé inteligence a rozšířit možnosti pracovních postupů založených na agentech.
Zvyšování úrovně aplikací umělé inteligence pomocí agentních pracovních postupů
Řešení Dell AI s ekosystémem Llama jsou navržena tak, aby zjednodušila vývojářské prostředí a zvýšila efektivitu aplikací s umělou inteligencí. Llama Stack, standardizovaný softwarový framework, podporuje více fází vývoje umělé inteligence, včetně trénování modelů, jemného ladění a nasazení v produkčním prostředí. Nyní se úzce integruje s knihovnami PyTorch, což usnadňuje bezproblémové nasazení generování s rozšířeným vyhledáváním (RAG) a dalších aplikací s umělou inteligencí.
Kombinace Llama Stack s Dell AI Factory umožňuje organizacím využívat infrastrukturu podnikové úrovně, kterou podporují servery Dell PowerEdge XE9680 vybavené grafickými procesory NVIDIA H100. Tato referenční architektura poskytuje škálovatelnost a výkon, což usnadňuje vývoj aplikací umělé inteligence založených na agentech.
Architektura nabízí standardizovaná API, která zjednodušují vývoj tím, že podporují opětovné použití kódu a umožňují funkci plug-and-play pro současné i budoucí modely Llama. Bezpečné nasazení s vestavěnými bezpečnostními funkcemi zajišťuje, že aplikace umělé inteligence jsou kompatibilní s předpisy a chráněné. Adaptabilní infrastruktura Dell podporuje různé případy použití umělé inteligence, od inferencingu na jednom uzlu až po nasazení na více uzlech.
Tyto funkce umožňují podnikům implementovat pracovní postupy, které zahrnují spolupráci více modelů a paměťových bank při řešení složitých obchodních problémů. Referenční architektura integrovaná s Llama Stack zefektivňuje provádění úkolů, jako je inference, RAG a generování syntetických dat, zatímco modely Llama Guard zavádějí bezpečnostní opatření a zábrany pro zvýšení zabezpečení.
Posílení datových vědců a vývojářů
Vývoj aplikací umělé inteligence s sebou nese řadu výzev, včetně vysokých nákladů, problémů se škálovatelností a obtíží se zajištěním potřebných zdrojů. Výběr správné architektury a integrace a údržba systémů umělé inteligence jsou klíčové. Řešení umělé inteligence od společnosti Dell s Llamou si kladou za cíl tyto výzvy zmírnit a prospět datovým vědcům, vývojářům a osobám s rozhodovací pravomocí v oblasti IT.
Referenční architektura nabízí podrobné pokyny pro nasazení modelů Llama na serverech PowerEdge XE9680 s ověřenými pracovními postupy a ukázkovým kódem pro urychlení vývoje.
Ověřené konfigurace Dell AI Factory zefektivňují instalaci řešení umělé inteligence v datových centrech, poskytují škálovatelnost napříč více uzly a jsou podpořeny službami nasazení na míru.
Řešení Dell AI Solutions s platformou Llama umožňují vývojářům rychle zavádět nové modely, nástroje a frameworky umělé inteligence pomocí standardizovaných stavebních bloků, což zajišťuje přenositelnost kódu v různých prostředích. Zjednodušuje datové kanály prostřednictvím platforem Dell Data Lakehouse a PowerScale. Modely Llama jsou navíc k dispozici v centru Dell Enterprise Hub prostřednictvím platformy Hugging Face. Tyto modely jsou předpřipravené kontejnery a skripty připravené k nasazení pro bezpečné a efektivní nasazení.
Společnost Dell také nabízí služby pro nasazení modelů Llama, podporu strategie, přípravu dat, implementaci modelů a generativní výsledky umělé inteligence.
Představujeme Llamu 3.2: Odemknutí multimodální inteligence
Vydání Llama 3.2 představuje významný pokrok v technologii umělé inteligence a poskytuje vývojářům nástroje pro vytváření nové generace soukromých, efektivních a zodpovědných prostředí s umělou inteligencí. Llama 3.2 obsahuje vícejazyčné modely s parametry od 1B do 90B, které jsou schopné zpracovávat textové a obrazové vstupy. Tyto modely, včetně lehkých textových možností (1B a 3B) a modelů vizuální analýzy LLM (11B a 90B), podporují dlouhé kontexty a jsou optimalizovány pro inferenci pomocí pokročilých mechanismů pozornosti k dotazům.
Modely 11B a 90B od Llama 3.2 nabízejí možnosti logického uvažování na základě obrazu, včetně porozumění na úrovni dokumentů, jako je interpretace grafů a popisků obrázků. Modely také podporují inferenci v reálném čase a dávkovou inferenci, optimalizovanou pro interaktivní a vysoce výkonné úlohy. Při integraci s řešeními AI Factory od společnosti Dell umožňují tyto modely podnikům využívat umělou inteligenci v mnoha aplikacích, včetně detekce vad ve výrobě, zvýšení diagnostické přesnosti ve zdravotnictví a zlepšení správy zásob v maloobchodě.
Amazon