NVIDIA heeft een nieuw bedrijfsmodel geïntroduceerd om de uitrol van AI-infrastructuur te versnellen door inkomstendeling te combineren met kredietondersteuning voor AI-cloudproviders. Het initiatief, dat op 1 juli werd aangekondigd in een blogpost mede geschreven door CFO Colette Kress, is bedoeld om de toegang tot versnelde computerkracht te vergroten voor AI-startups, modelontwikkelaars, bedrijven, onderzoeksinstellingen en regionale AI-providers, naarmate de inferentieworkloads in productieomgevingen blijven groeien.
De aankondiging weerspiegelt een sectorbrede verschuiving van het primair trainen van grote taalmodellen naar het operationeel houden van AI-diensten in productieomgevingen. Naarmate de adoptie van AI toeneemt, komen de infrastructuurvereisten steeds meer te liggen bij AI-fabrieken die continu op grote schaal inferentietokens genereren. Deze omgevingen vereisen snel inzetbare GPU-infrastructuur, hoge benuttingsgraden en multi-tenant architecturen die duurzame inferentie-economie kunnen ondersteunen.
Opkomende AI-bedrijven hebben moeite om financiering te verkrijgen voor GPU-infrastructuur. De kapitaalbehoeften voor grootschalige AI-implementaties overtreffen vaak het beschikbare budget, waardoor het voor startups moeilijk is om de benodigde rekenkracht voor productieworkloads op te bouwen.
Het nieuwe model van NVIDIA pakt die uitdaging aan door AI-cloudproviders in staat te stellen NVIDIA-infrastructuur aan te schaffen binnen een raamwerk dat omzetdeling combineert met kredietondersteuning. Deelnemende providers zullen op NVIDIA gebaseerde clouddiensten leveren aan AI-native bedrijven, zakelijke klanten en onafhankelijke softwareleveranciers (ISV's). NVIDIA genereert inkomsten via zowel de verkoop van infrastructuur als een deel van de cloudinkomsten die verband houden met de ondersteunde capaciteit.
Het bedrijf verwacht dat deze aanpak de acceptatie van zijn AI-platform zal versnellen en tegelijkertijd een terugkerende, op gebruik gebaseerde inkomstenstroom zal genereren die direct gekoppeld is aan het infrastructuurverbruik.
Voor organisaties die basismodellen bouwen, inferentiediensten uitvoeren, AI-agenten ontwikkelen of AI-toepassingen voor bedrijven implementeren, is het model bedoeld om de tijd die nodig is om rekenkracht op productieschaal te verkrijgen te verkorten. Klanten kunnen gebruikmaken van bestaande AI-cloudcapaciteit in plaats van te wachten op de bouw van nieuwe datacenters, de beschikbaarheid van stroom en de implementatie van hardware.
Het initiatief is gericht op AI-cloudproviders die NVIDIA DSX AI-fabrieken bouwen om regionale en bedrijfsbrede AI-workloads te ondersteunen. NVIDIA noemde Sharon AI en Firmus als enkele van de eerste deelnemers.
Sharon AI is van plan om tot 40,000 NVIDIA Grace Blackwell GB300 GPU's in te zetten als onderdeel van de uitbreiding van haar infrastructuur. Firmus ontwikkelt een DSX AI-fabriekscampus in Batam, Indonesië, met plannen om de faciliteit uit te breiden tot 360 MW en tot 170,000 NVIDIA GPU's te ondersteunen.
NVIDIA benadrukte ook AI-native cloudplatforms zoals Baseten, Fireworks AI en Together AI als voorbeelden van organisaties die de vraag naar versnelde computerkracht op aanvraag stimuleren. Deze aanbieders ondersteunen workloads variërend van modeltraining en -finetuning tot optimalisatie na de training en grootschalige inferentie voor zakelijke klanten en ontwikkelaars.
Al met al onderstreept dit initiatief NVIDIA's voortdurende focus op het uitbreiden van de AI-infrastructuur, verder dan alleen de verkoop van hardware. Door cloudproviders in staat te stellen GPU-capaciteit op productieschaal te leveren aan een breder scala aan AI-ontwikkelaars en bedrijven.
Amazon