Smartbird en WEKA hebben een samenwerking aangekondigd waarbij WEKA NeuralMesh wordt geïntegreerd in de speciale AI-clusters van Smartbird, die worden aangeboden als een beheerde service voor AI-workloads binnen bedrijven. Smartbird ontwerpt, bouwt en beheert elk cluster voor de workloads van één enkele klant, on-premises of in een speciale colocatiefaciliteit. De bedrijven beschrijven het resultaat als 'soeverein van ontwerp', waarbij klantgegevens in een door de klant gecontroleerde omgeving blijven en vanaf dag één productieklaar zijn. Deze overeenkomst is de eerste in een gepland netwerk van infrastructuurpartnerschappen van Smartbird.
Smartbird is het bedrijf dat voorheen bekend stond als Allbirds. Allbirds verkocht zijn schoenenmerk en bijbehorende activa, veranderde in juni zijn naam in Smartbird, Inc., behield de notering aan de NASDAQ onder het tickersymbool BIRD en benoemde Dr. Nadia Carlsten, voorheen CEO van GPU-computingprovider DCAI, tot president en CEO. De eerste clusters waren nog in ontwikkeling ten tijde van de naamswijziging, met datacenters in aanbouw in de VS en Europa. De deal met WEKA biedt daarmee een eerste blik op de uiteindelijke samenstelling van de infrastructuur.
Gegevensdoorvoer en inferentieclaims
NeuralMesh levert de data- en geheugenlaag. De bedrijven zeggen dat GPU's continu van data worden voorzien met een doorvoer van honderden gigabytes per seconde, maar ze hebben de hardwareconfiguraties, softwareversies of testomstandigheden die aan dit cijfer ten grondslag liggen niet bekendgemaakt. Voor inferentie en continu draaiende agentapplicaties zeggen de bedrijven dat het gecombineerde platform de GPU-geheugencapaciteit vergroot, de tijd tot het eerste token verkort en herberekeningen vermindert, wat ze koppelen aan lagere tokenkosten.
WEKA's antwoord op die drie in NeuralMesh is Augmented Memory Grid , de KV-cachelaag die het GPU-geheugen uitbreidt naar de NeuralMesh-opslag. WEKA claimt hiervoor tot 1000 keer meer GPU-geheugencapaciteit, tot 20 keer snellere tijd tot het eerste token en 10 keer meer gelijktijdige gebruikers op dezelfde GPU's, wat zij toeschrijven aan benchmarks in een productieomgeving. Dit zijn de cijfers van WEKA voor NeuralMesh in het algemeen; de aankondiging van Smartbird vermeldt niet welke NeuralMesh-componenten de clusters gebruiken en bevat geen gemeten resultaten voor GPU-gebruik, stroomverbruik of kosten per token.
“Bedrijven willen geen AI-infrastructuur samenstellen uit losse onderdelen. Ze willen een complete, werkende oplossing, beheerd door mensen met ervaring”, aldus Dr. Nadia Carlsten, president en CEO van Smartbird. “Elk Smartbird AI-cluster is ontworpen rond de specifieke eisen van de klant, of het nu een bank, een ziekenhuis, een fabrikant of een overheidsinstantie is. Door WEKA NeuralMesh te integreren, biedt Smartbird klanten een data- en geheugenlaag die bewezen effectief is op grote schaal.”
“Agentische AI is meedogenloos: inactieve GPU's en vastgelopen pipelines komen direct op de winst- en verliesrekening terecht. Bedrijven is verteld dat de oplossing een afweging is tussen prestaties en autonomie, maar dat was altijd een falen van de infrastructuur, geen natuurkundige wet,” aldus Liran Zvibel, medeoprichter en CEO van WEKA. “WEKA NeuralMesh maakt een einde aan die afweging. Smartbird levert het in de vorm van dedicated clusters die klanten niet zelf hoeven te bouwen of te beheren. Samen bieden we gereguleerde sectoren productie-AI die op volle snelheid draait, op infrastructuur die alleen zij beheren, met meer output per GPU, per watt en per dollar.”
Toegewijde infrastructuur en beheerde operationele processen
Smartbird biedt de volledige stack, inclusief faciliteiten, rekenkracht, netwerken, data-infrastructuur en data-orkestratie. Hierdoor heeft de klant één verantwoordelijke partner en hoeft hij geen leveranciers te integreren of meerdere hardware-releasecycli te volgen. Elk cluster is één-op-één gekoppeld aan de klant en de bedrijven stellen dat de volledig dedicated infrastructuur de isolatie, encryptie en traceerbaarheid biedt die nodig zijn voor workloads in de overheids-, zorg- en financiële sector. De bedrijven hebben geen details bekendgemaakt over de implementatiejurisdicties, de gebruikte encryptiemethoden of compliance-certificeringen.
Hoewel de bedrijven het platform omschrijven als productieklaar vanaf dag één, is er geen datum voor algemene beschikbaarheid, geen bekende klant en waren de websites van Smartbird ten tijde van de naamswijziging in juni nog in ontwikkeling. NeuralMesh zelf is het product dat daadwerkelijk wordt gelanceerd: WEKA bracht het in maart op de markt en migreerde het in juli naar multi-tenant NeuralMesh 6 , met een parallelle overeenkomst waardoor het onder de meer dan 50 GPU-leveranciers van Andromeda valt.
Amazon