存儲評論網

戴爾和 Meta 透過 Llama 2 推動本地生成式人工智慧創新

企業

公司在實施生成式人工智慧模式時正在採用更以人為中心的方法,推動創新和效率的發展。 這些模型在聊天機器人、程式碼開發和虛擬助理等各種應用程式中都有實用性。 然而,公有雲解決方案雖然方便,但通常帶有附加條件。 其中包括圍繞資料主權的安全風險、不可預測的成本和合規性難題。

選擇採用開源大型語言模型(LLM)(特別是 Llama 2)的本地部署解決方案,可以提供更可預測且更安全的替代方案。這種模式能夠長期維持可持續的成本結構,並對敏感資料進行更嚴格的控制。從更宏觀的角度來看,這可以顯著降低資料安全漏洞和智慧財產權外洩的風險,更好地符合合規性和監管要求。

戴爾驗證設計 GenAI 解決方案

戴爾科技集團透過其生成式人工智慧解決方案創建了交鑰匙解決方案,以簡化這一轉變,戴爾驗證設計強調了這一點。 此整合包提供了預先測試的硬體和軟體,以及專門為產生人工智慧專案所建置的強大基礎。 與 Meta 的合作擴展了這個生態系統,使該公司能夠輕鬆地將 Meta 的 Llama 2 AI 模型整合到戴爾現有的基礎設施中。

這些機型的硬體配置也毫不遜色。例如,戴爾 PowerEdge XE9680伺服器(喬丹的最愛)配備了八塊 NVIDIA H100 GPU,使其成為微調和部署 Llama 2 等大型語言模型的理想選擇。戴爾提供預先驗證的本地部署解決方案,確保企業業務不間斷運行,並更好地保護智慧財產權。

開闢客製化新途徑

戴爾在研究方面的投資,特別是在監督微調、LoRA 和 p-tuning 等模型客製化技術方面的投資,為企業級客製化開闢了新途徑。 他們已經在從 2B 到 7B 的一系列 Llama 70 模型中證明了這些技術的有效性,使企業能夠靈活地根據其特定需求自訂這些強大的人工智慧工具。

從本質上講,戴爾與 Meta 的 Llama 2 的合作為不同規模的組織增添了新的、豐富的選擇。 這種整合方法允許跨多個部署區域無縫實施生成式人工智慧解決方案,無論是桌面、核心資料中心或邊緣位置,甚至擴展到公有雲基礎架構。 因此,公司在進一步涉足生成人工智慧時可以利用全面而靈活的工具包。

戴爾與 Meta 合作推動生成式人工智慧創新

在 Dell PowerEdge XE2 伺服器上部署 Llama 9680

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

哈羅德弗里茨

自 IBM 創建 Selectric 以來,我一直在科技行業工作。 不過,我的背景是寫作。 因此,我決定退出售前業務,回歸本源,從事一些寫作工作,但仍從事技術工作。