存储评论网

戴尔和 Meta 通过 Llama 2 推动本地生成式人工智能创新

企业版

公司在实施生成式人工智能模型时正在采用更加以人为本的方法,推动创新和效率的发展。 这些模型在聊天机器人、代码开发和虚拟助手等各种应用程序中都有实用性。 然而,公共云解决方案虽然方便,但通常带有附加条件。 其中包括围绕数据主权的安全风险、不可预测的成本和合规性难题。

选择采用开源大型语言模型(LLM)(特别是 Llama 2)的本地部署解决方案,可以提供更可预测且更安全的替代方案。这种模式能够长期保持可持续的成本结构,并对敏感数据进行更严格的控制。从更宏观的角度来看,这可以显著降低数据安全漏洞和知识产权泄露的风险,更好地符合合规性和监管要求。

戴尔验证设计 GenAI 解决方案

戴尔科技集团通过其生成式人工智能解决方案创建了交钥匙解决方案,以简化这一转变,戴尔验证设计强调了这一点。 该集成包提供了预先测试的硬件和软件,以及专门为生成人工智能项目构建的强大基础。 与 Meta 的合作扩展了这一生态系统,使公司能够轻松地将 Meta 的 Llama 2 AI 模型集成到戴尔现有的基础设施中。

这些机型的硬件配置也毫不逊色。例如,戴尔 PowerEdge XE9680服务器(乔丹的最爱)配备了八块 NVIDIA H100 GPU,使其成为微调和部署 Llama 2 等大型语言模型的理想之选。戴尔提供预先验证的本地部署解决方案,确保企业业务不间断运行,并更好地保护知识产权。

开辟定制新途径

戴尔在研究方面的投资,特别是在监督微调、LoRA 和 p-tuning 等模型定制技术方面的投资,为企业级定制开辟了新途径。 他们已经在从 2B 到 7B 的一系列 Llama 70 模型中证明了这些技术的有效性,使企业能够灵活地根据其特定需求定制这些强大的人工智能工具。

从本质上讲,戴尔与 Meta 的 Llama 2 的合作为不同规模的组织增添了新的、丰富的选择。 这种集成方法允许跨多个部署区域无缝实施生成式人工智能解决方案,无论是桌面、核心数据中心还是边缘位置,甚至扩展到公共云基础设施。 因此,公司在进一步涉足生成人工智能时可以利用全面而灵活的工具包。

戴尔与 Meta 合作推动生成式人工智能创新

在 Dell PowerEdge XE2 服务器上部署 Llama 9680

参与 StorageReview

电子报| YouTube | 播客iTunes / Spotify | Instagram | Twitter | TikTok | RSS订阅

哈罗德弗里茨

自 IBM 创建 Selectric 以来,我一直在科技行业工作。 不过,我的背景是写作。 因此,我决定退出售前业务,回归本源,从事一些写作工作,但仍从事技术工作。