Bedrijven hanteren een meer mensgerichte methodologie bij het implementeren van generatieve AI-modellen, waardoor de grenzen van innovatie en efficiëntie worden verlegd. Deze modellen zijn bruikbaar in verschillende toepassingen, zoals chatbots, codeontwikkeling en virtuele assistenten. Maar publieke cloudoplossingen zijn, hoe handig ook, vaak met bepaalde verplichtingen. Deze omvatten de veiligheidsrisico's rond datasoevereiniteit, onvoorspelbare kosten en compliance-problemen.
Kiezen voor on-premises oplossingen met open-source grote taalmodellen (LLM's), met name Llama 2, biedt een voorspelbaarder en veiliger alternatief. Dit model biedt een duurzame kostenstructuur op de lange termijn en een betere controle over gevoelige gegevens. Op de lange termijn vermindert dit de risico's op datalekken en het lekken van intellectueel eigendom aanzienlijk, waardoor beter wordt voldaan aan de regelgeving en compliance-eisen.
Dell gevalideerde ontwerp GenAI-oplossingen
Dell Technologies heeft met zijn Generative AI Solutions een kant-en-klare oplossing gecreëerd om deze transitie te stroomlijnen, onderstreept door het Dell Validated Design. Dit geïntegreerde pakket biedt vooraf geteste hardware en software en een sterke basis die expliciet is gebouwd voor generatieve AI-projecten. De samenwerking met Meta breidt dit ecosysteem uit, waardoor bedrijven Meta's Llama 2 AI-modellen eenvoudig kunnen integreren in de bestaande infrastructuur van Dell.
De hardware die deze modellen aandrijft, is ook niet mis. Zo is de Dell PowerEdge XE9680 -server (Jordans favoriet) uitgerust met acht NVIDIA H100 GPU's, waardoor het een ideale server is voor het finetunen en implementeren van grote taalmodellen zoals Llama 2. Door een vooraf gevalideerde, on-premises oplossing aan te bieden, stelt Dell bedrijven in staat om ongestoord te blijven functioneren en zorgt het voor een betere bescherming van intellectueel eigendom.
Nieuwe wegen openen voor maatwerk
De investeringen van Dell in onderzoek, met name in technieken voor modelaanpassing, zoals supervisie, LoRA en p-tuning, hebben nieuwe wegen geopend voor maatwerk op bedrijfsniveau. Ze hebben de effectiviteit van deze technieken bewezen in een reeks Llama 2-modellen, van 7B tot 70B, waardoor bedrijven de flexibiliteit hebben om deze krachtige AI-tools aan te passen aan hun specifieke behoeften.
In wezen draagt de samenwerking van Dell met Meta's Llama 2 bij aan het nieuwe, maar rijke landschap van opties voor organisaties van verschillende groottes. Deze geïntegreerde aanpak maakt een naadloze implementatie van generatieve AI-oplossingen mogelijk in meerdere implementatiegebieden, of het nu gaat om desktops, kerndatacenters of edge-locaties, en breidt zich zelfs uit naar openbare cloudinfrastructuren. Bedrijven beschikken dus over een uitgebreide maar flexibele toolkit die ze kunnen gebruiken als ze zich verder verdiepen in generatieve AI.
Dell en Meta werken samen om generatieve AI-innovatie te stimuleren
Amazon