As empresas estão adotando uma metodologia mais centrada no ser humano ao implementar modelos de IA generativa, ampliando os limites da inovação e da eficiência. Esses modelos são úteis em vários aplicativos, como chatbots, desenvolvimento de código e assistentes virtuais. No entanto, as soluções de nuvem pública, embora convenientes, geralmente vêm com restrições. Isso inclui os riscos de segurança relacionados à soberania dos dados, custos imprevisíveis e dores de cabeça de conformidade.
As empresas estão adotando uma metodologia mais centrada no ser humano ao implementar modelos de IA generativa, ampliando os limites da inovação e da eficiência. Esses modelos são úteis em vários aplicativos, como chatbots, desenvolvimento de código e assistentes virtuais. No entanto, as soluções de nuvem pública, embora convenientes, geralmente vêm com restrições. Isso inclui os riscos de segurança relacionados à soberania dos dados, custos imprevisíveis e dores de cabeça de conformidade.
Optando por soluções locais com código aberto grandes modelos de linguagem (LLMs), especificamente o Llama 2, oferece uma alternativa mais previsível e segura. Este modelo oferece uma estrutura de custos sustentável ao longo do tempo e um controle mais rígido sobre dados confidenciais. No panorama geral, isto reduz drasticamente os riscos relacionados com violações de segurança de dados e fugas de propriedade intelectual, alinhando-se melhor com a conformidade e os regulamentos.
Soluções GenAI de design validado da Dell
A Dell Technologies criou uma solução pronta para uso com suas soluções de IA generativa para agilizar essa transição, destacada pelo Dell Validated Design. Este pacote integrado fornece hardware e software pré-testados e uma base sólida construída explicitamente para projetos de IA generativa. A colaboração com a Meta expande este ecossistema, permitindo que as empresas integrem facilmente os modelos Llama 2 AI da Meta na infraestrutura existente da Dell.
O hardware que alimenta esses modelos também não é desleixado. Por exemplo, o DellPowerEdge XE9680 O servidor (o favorito de Jordan) é equipado com oito GPUs NVIDIA H100, tornando-o um carro-chefe ideal para ajuste fino e implantação de grandes modelos de linguagem como o Llama 2. Ao oferecer uma solução local pré-validada, a Dell permite que as empresas funcionem sem interrupções. e garante maior proteção à propriedade intelectual.
Abrindo novos caminhos para personalização
O investimento da Dell em pesquisa, especialmente em técnicas de personalização de modelos, como ajuste fino supervisionado, LoRA e ajuste p, abriu novos caminhos para a personalização em nível empresarial. Eles comprovaram a eficácia dessas técnicas em uma variedade de modelos Llama 2, de 7B a 70B, permitindo às empresas a flexibilidade para adaptar essas poderosas ferramentas de IA às suas necessidades específicas.
Em essência, a colaboração da Dell com o Llama 2 da Meta contribui para o novo e rico cenário de opções para organizações de diversos tamanhos. Essa abordagem integrada permite uma implementação perfeita de soluções de IA generativa em diversas áreas de implantação, sejam desktops, data centers centrais ou locais de borda, e se estende até mesmo a infraestruturas de nuvem pública. Assim, as empresas têm um kit de ferramentas abrangente, mas flexível, para aproveitar à medida que se aventuram na IA generativa.
Dell e Meta colaboram para impulsionar a inovação em IA generativa
Implantando o Llama 2 no servidor Dell PowerEdge XE9680
Envolva-se com a StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
