De AI-infrastructuur van bedrijven is verschoven van het optimaliseren van trainingsmodellen naar het in gebruik nemen ervan, en dat verandert de economie. Training is een kapitaalproject met een eindpunt. Inferentie is een productieworkload die draait zolang de service actief is, met een output die wordt gemeten in tokens. Dit is het tokenomics-probleem waar AI-operators nu voor staan: zodra de
Twee dingen komen meestal als eerste ter sprake wanneer het gesprek over de NVIDIA DGX Spark gaat. Ten eerste de belangrijkste specificatie: 128 GB aan geïntegreerd geheugen in een desktopcomputer van ongeveer $4,000, een bedrag dat zelfs twee jaar geleden nog ondenkbaar leek voor een engineer. Ten tweede de 200
Toen we afgelopen november ons artikel publiceerden over het planktononderzoek van de Oregon State University, stond de wetenschap centraal: door AI versnelde infrastructuur aan boord van onderzoeksschepen, die terabytes aan oceaandata in bijna realtime verwerkte nog voordat het schip de haven bereikte. Maar er gebeurde nog iets anders in de weken die volgden. Het nieuws over wat een
Het JumpStart-programma van Supermicro heeft zich gevestigd als een van de nuttigste tools in de evaluatiekit voor AI-infrastructuur vóór de aankoop. In plaats van een gescripte demo in een gedeelde omgeving, biedt JumpStart gekwalificeerde gebruikers gratis, tijdgebonden toegang tot echte productieservers via SSH, IPMI en VNC, waardoor ze workloads op daadwerkelijke hardware kunnen uitvoeren.
We hebben een week lang een HGX B200 getest via Supermicro JumpStart om te zien hoe externe bare-metal-toegang de beslissingen van het AI-platform versnelt.
Oregon State brengt AI-oceaanonderzoek verder met GPU, rekenkracht en dichte NVMe om planktongegevens in real-time op zee te analyseren.
De L40S is vooral waardevol voor het genereren van synthetische gegevens, multimodale AI-ontwikkeling en Omniverse-toepassingen die zowel computer- als grafische prestaties vereisen.
Pliops XDP LightningAI verbetert LLM-inferentie door de KV-cache te ontlasten, waardoor snellere, schaalbare AI met NVIDIA Dynamo-integratie mogelijk wordt.
De mobiele datacenters van DUG Nomad leveren immersiegekoelde AI- en HPC-mogelijkheden aan de edge met Hypertec-servers en Solidigm SSD's.
Aan de voorhoede van edge AI levert NVIDIA's Jetson Orin Nano Super Developer Kit een robuuste oplossing voor AI-toepassingen buiten het traditionele datacenter. Het is een krachtige, betaalbare tool voor AI-enthousiastelingen en professionals.
Amazon