StorageReview.com

デルとメタ、Llama 2 でオンプレミスの生成 AI イノベーションを推進

Enterprise

企業は生成 AI モデルを実装する際に、より人間中心の方法論を採用し、イノベーションと効率の限界を押し広げています。これらのモデルは、チャットボット、コード開発、仮想アシスタントなどのさまざまなアプリケーションで有用です。ただし、パブリック クラウド ソリューションは便利ですが、多くの場合、制約が付いています。これらには、データ主権を取り巻くセキュリティ リスク、予測不可能なコスト、コンプライアンスの悩みなどが含まれます。

オープンソースの大規模言語モデル(LLM)、特にLlama 2を用いたオンプレミスソリューションを選択することで、より予測可能で安全な代替手段が得られます。このモデルは、長期的に持続可能なコスト構造と、機密データに対するより厳格な管理を実現します。さらに、データセキュリティ侵害や知的財産漏洩に関連するリスクを大幅に軽減し、コンプライアンスや規制への適合性を向上させます。

デルの検証済み設計 GenAI ソリューション

Dell Technologies は、Dell Validated Design によって実証されたこの移行を合理化するために、Generative AI ソリューションを備えたターンキー ソリューションを作成しました。この統合パッケージは、事前にテストされたハードウェアとソフトウェア、および生成 AI プロジェクト用に明示的に構築された強力な基盤を提供します。 Meta とのコラボレーションによりこのエコシステムが拡大し、企業は Meta の Llama 2 AI モデルをデルの既存のインフラストラクチャに簡単に統合できるようになります。

これらのモデルを支えるハードウェアも決して劣っていません。例えば、Dell PowerEdge XE9680サーバー(ジョーダンのお気に入り)には8基のNVIDIA H100 GPUが搭載されており、Llama 2のような大規模な言語モデルの微調整や展開に最適な主力サーバーとなっています。Dellは、事前検証済みのオンプレミスソリューションを提供することで、企業が業務を中断することなく継続できるようにし、知的財産の保護を強化します。

カスタマイズの新たな道を開く

デルの研究、特に教師あり微調整、LoRA、p チューニングなどのモデル カスタマイズ技術への投資により、エンタープライズ レベルのカスタマイズに新たな道が開かれました。彼らは、2B から 7B までの Llama 70 モデルの範囲にわたってこれらの技術の有効性を証明しており、企業がこれらの強力な AI ツールを特定のニーズに合わせて柔軟に調整できるようになります。

基本的に、デルと Meta の Llama 2 のコラボレーションにより、さまざまな規模の組織に新しい、しかも豊富なオプションが追加されます。この統合されたアプローチにより、デスクトップ、コア データ センター、エッジ ロケーションなど、複数の展開領域にわたる Generative AI ソリューションのシームレスな実装が可能になり、パブリック クラウド インフラストラクチャにまで拡張できます。したがって、企業は、ジェネレーティブ AI にさらに取り組む際に活用できる、包括的でありながら柔軟なツールキットを手に入れることができます。

デルとメタが協力して生成的 AI イノベーションを推進

Dell PowerEdge XE2 サーバーへの Llama 9680 の展開

StorageReview と連携する

ニュースレター| YouTube | ポッドキャスト(iTunes / Spotify) | Instagram | Twitter | TikTok | RSSフィード

ハロルド・フリッツ

IBM が Selectric を設立して以来、私はテクノロジー業界に携わってきました。しかし、私のバックグラウンドは執筆です。そこで私はプリセールスの仕事から抜け出し、自分のルーツに戻り、少し執筆活動をしながらもテクノロジーに携わることにしました。