Smartbird y WEKA han anunciado una alianza que integra WEKA NeuralMesh en los clústeres de IA dedicados de Smartbird, ofrecidos como un servicio gestionado para cargas de trabajo de IA empresariales. Smartbird diseña, construye y opera cada clúster para las cargas de trabajo de un único cliente, ya sea en sus instalaciones o en un centro de datos exclusivo. Ambas compañías describen el resultado como un sistema autónomo por diseño, donde los datos del cliente permanecen en un entorno controlado por este y listos para producción desde el primer día. Este acuerdo es el primero de una red planificada de alianzas de infraestructura de Smartbird.
Smartbird es la empresa anteriormente conocida como Allbirds. Allbirds vendió su marca de calzado y sus activos, cambió su nombre a Smartbird, Inc. en junio, mantuvo su cotización en el NASDAQ bajo el símbolo BIRD y nombró a la Dra. Nadia Carlsten, anteriormente directora ejecutiva del proveedor de computación GPU DCAI, como presidenta y directora ejecutiva. Sus primeros clústeres aún estaban en fase de diseño al momento del cambio de nombre, con centros de datos en desarrollo en Estados Unidos y Europa, lo que convierte el acuerdo con WEKA en el primer vistazo a la arquitectura que incluirá.
Rendimiento de datos y afirmaciones sobre inferencias
NeuralMesh proporciona la capa de datos y memoria. Las empresas afirman que las GPU reciben datos de forma continua a un rendimiento de cientos de gigabytes por segundo, pero no han especificado las configuraciones de hardware, las versiones de software ni las condiciones de prueba que respaldan esta cifra. Para la inferencia y las aplicaciones ámbicas de ejecución continua, las empresas aseguran que la plataforma combinada amplía la capacidad de memoria de la GPU, reduce el tiempo de obtención del primer token y disminuye la recálculo, lo que, según afirman, se traduce en menores costes de token.
La solución de WEKA para esos tres problemas en NeuralMesh es Augmented Memory Grid , el nivel de caché KV que extiende la memoria de la GPU al almacenamiento de NeuralMesh. WEKA afirma que ofrece hasta 1000 veces más capacidad de memoria de GPU, hasta 20 veces menos tiempo para obtener el primer token y 10 veces más usuarios concurrentes en las mismas GPU, lo cual atribuye a pruebas de rendimiento en producción. Estas son las cifras de WEKA para NeuralMesh en general; el anuncio de Smartbird no especifica qué componentes de NeuralMesh utilizan los clústeres ni proporciona datos sobre la utilización de la GPU, el consumo de energía o el costo por token.
“Las empresas no quieren ensamblar infraestructura de IA a partir de componentes individuales. Buscan una solución completa y funcional, operada por expertos en la materia”, afirmó la Dra. Nadia Carlsten, presidenta y directora ejecutiva de Smartbird. “Cada clúster de IA de Smartbird se diseña en función de los requisitos específicos del cliente, ya sea un banco, un hospital, un fabricante o una agencia gubernamental. Al incorporar WEKA NeuralMesh, Smartbird ofrece a sus clientes una capa de datos y memoria con un rendimiento comprobado a gran escala”.
«La IA agente es implacable: las GPU inactivas y los procesos paralizados repercuten directamente en el estado de resultados. A las empresas se les ha dicho que la solución implica una disyuntiva entre rendimiento y soberanía, pero eso siempre fue un fallo de la infraestructura, no una ley de la física», afirmó Liran Zvibel, cofundador y director ejecutivo de WEKA. «WEKA NeuralMesh elimina esa disyuntiva. Smartbird la ofrece como clústeres dedicados que los clientes no tienen que construir ni operar. Juntos, proporcionamos a las industrias reguladas una IA de producción que funciona a máxima velocidad, en una infraestructura que solo ellas controlan, con mayor rendimiento por GPU, por vatio y por dólar».
Infraestructura dedicada y operaciones gestionadas
Smartbird gestiona la infraestructura completa, abarcando instalaciones, computación, redes, infraestructura de datos y orquestación de datos, de modo que el cliente cuenta con un único socio responsable y no necesita integrar proveedores ni gestionar múltiples ciclos de lanzamiento de hardware. Cada clúster se asigna individualmente a su cliente, y las empresas afirman que la infraestructura totalmente dedicada proporciona el aislamiento, el cifrado y la capacidad de auditoría que requieren las cargas de trabajo de los sectores gubernamental, sanitario y financiero. Las empresas no han especificado las jurisdicciones de implementación, la implementación del cifrado ni las certificaciones de cumplimiento.
Aunque las empresas describen la plataforma como lista para producción desde el primer día, no hay fecha de disponibilidad general, ni cliente nombrado, y los sitios de Smartbird aún estaban en desarrollo al momento del cambio de nombre en junio. NeuralMesh es el producto final de la pareja: WEKA lo lanzó al público en general en marzo y lo migró a NeuralMesh 6 multiusuario en julio, con un acuerdo paralelo que lo coloca bajo los más de 50 proveedores de GPU de Andromeda.
Amazon