StorageReview.com

Dell a Meta budou s Llama 2 podporovat inovace v oblasti generativní umělé inteligence v místních podmínkách

Enterprise

Společnosti při implementaci modelů generativní umělé inteligence zavádějí metodologii zaměřenou více na člověka, čímž posouvají hranice inovací a efektivity. Tyto modely nacházejí uplatnění v různých aplikacích, jako jsou chatboti, vývoj kódu a virtuální asistenti. Řešení veřejného cloudu jsou sice pohodlná, ale často s sebou nesou svá omezení. Patří mezi ně bezpečnostní rizika spojená se suverenitou dat, nepředvídatelné náklady a problémy s dodržováním předpisů.

Volba on-premise řešení s open-source velkými jazykovými modely (LLM), konkrétně Llama 2, nabízí předvídatelnější a bezpečnější alternativu. Tento model nabízí udržitelnou nákladovou strukturu v čase a přísnější kontrolu nad citlivými daty. V širším kontextu to dramaticky snižuje rizika spojená s narušením bezpečnosti dat a únikem duševního vlastnictví, což je v lepším souladu s předpisy a předpisy.

Řešení GenAI s ověřeným designem od společnosti Dell

Společnost Dell Technologies vytvořila komplexní řešení Generative AI Solutions, které tento přechod zjednodušuje, a to i díky validovanému návrhu Dell. Tento integrovaný balíček poskytuje předem otestovaný hardware a software a silný základ, který je speciálně vytvořen pro projekty generativní umělé inteligence. Spolupráce se společností Meta rozšiřuje tento ekosystém a umožňuje společnostem snadno integrovat modely umělé inteligence Llama 2 od společnosti Meta do stávající infrastruktury společnosti Dell.

Ani hardware, který tyto modely pohání, není žádný zádrhel. Například server Dell PowerEdge XE9680 (Jordanův oblíbený) je vybaven osmi grafickými kartami NVIDIA H100, což z něj činí ideálního tahouna pro jemné ladění a nasazení rozsáhlých jazykových modelů, jako je Llama 2. Díky nabídce předem ověřeného řešení pro lokální použití umožňuje Dell podnikům fungovat bez přerušení a zajišťuje větší ochranu duševního vlastnictví.

Otevíráme nové cesty pro přizpůsobení

Investice společnosti Dell do výzkumu, zejména do technik přizpůsobení modelů, jako je řízené jemné ladění, LoRA a p-ladění, otevřely nové cesty pro přizpůsobení na podnikové úrovni. Společnost prokázala účinnost těchto technik u řady modelů Llama 2, od 7B do 70B, což firmám umožňuje flexibilitu přizpůsobit tyto výkonné nástroje umělé inteligence jejich specifickým potřebám.

Spolupráce společnosti Dell s platformou Llama 2 od společnosti Meta v podstatě rozšiřuje novou, ale bohatou škálu možností pro organizace různých velikostí. Tento integrovaný přístup umožňuje bezproblémovou implementaci řešení generativní umělé inteligence v různých oblastech nasazení, ať už se jedná o stolní počítače, datová centra nebo okrajová umístění, a dokonce se rozšiřuje i na infrastruktury veřejného cloudu. Společnosti tak mají k dispozici komplexní a flexibilní sadu nástrojů, které mohou využít při dalším zavádění generativní umělé inteligence.

Společnosti Dell a Meta spolupracují na podpoře inovací v oblasti generativní umělé inteligence

Nasazení Llama 2 na serveru Dell PowerEdge XE9680

Zapojte se do StorageReview

Zpravodaj | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Harold Fritts

V technologickém průmyslu působím od doby, kdy IBM založila Selectric. Mám ale zkušenosti s psaním. Rozhodl jsem se tedy opustit předprodejní byznys a vrátit se ke svým kořenům, trochu psát, ale stále se věnovat technologiím.