Japan staat op het punt een belangrijke stap voorwaarts te zetten in AI-onderzoek en -ontwikkeling door duizenden NVIDIA H200 Tensor Core GPU's te integreren in zijn AI Bridging Cloud Infrastructure 3.0 (ABCI 3.0). Deze integratie, onder leiding van het National Institute of Advanced Industrial Science and Technology (AIST), zal ervoor zorgen dat het HPE Cray XD- systeem wordt uitgerust met NVIDIA Quantum-2 InfiniBand- netwerktechnologie, wat superieure prestaties en schaalbaarheid belooft.
ABCI 3.0: Onderzoek en ontwikkeling op het gebied van AI bevorderen
ABCI 3.0 vertegenwoordigt de nieuwste versie van de grootschalige Japanse open AI-computerinfrastructuur, ontworpen om AI-R&D vooruit te helpen. Deze ontwikkeling benadrukt het Japanse streven om de AI-capaciteiten en de technologische onafhankelijkheid te vergroten. Sinds de lancering van de oorspronkelijke ABCI in augustus 2018 heeft AIST aanzienlijke ervaring opgedaan met het beheren van grootschalige AI-infrastructuren. Voortbouwend op deze basis heeft de ABCI 3.0-upgrade, in samenwerking met NVIDIA en HPE, tot doel de Japanse onderzoeks- en ontwikkelingsmogelijkheden op het gebied van generatieve AI te vergroten.
Het codificeert uw cultuur, de intelligentie van uw samenleving, uw gezond verstand, uw geschiedenis – u bezit uw eigen gegevens – Jensen Huang President en CEO van NVIDIA
De ABCI 3.0-supercomputer zal in Kashiwa worden geplaatst.
Afbeelding met dank aan het National Institute of Advanced Industrial Science and Technology.
Het ABCI 3.0-project is een gezamenlijke inspanning waarbij AIST, haar dochteronderneming AIST Solutions, en Hewlett Packard Enterprise (HPE) als systeemintegrator betrokken zijn. Dit initiatief wordt ondersteund door het Japanse Ministerie van Economie, Handel en Industrie (METI) via het Economic Security Fund. Het maakt deel uit van METI's bredere initiatief van $ 1 miljard om computerbronnen te versterken en te investeren in cloud-AI-computing. De betrokkenheid van NVIDIA is aanzienlijk, waarbij het bedrijf belooft onderzoek naar generatieve AI, robotica en kwantumcomputers te ondersteunen en te investeren in AI-startups en tegelijkertijd uitgebreide productondersteuning, training en opleiding te bieden.
NVIDIA engageert zich voor Japan
De samenwerking van NVIDIA met METI op het gebied van AI-onderzoek en -onderwijs volgt op een bezoek van CEO Jensen Huang, die de cruciale rol benadrukte van “AI-fabrieken” – datacenters van de volgende generatie die zijn ontworpen voor intensieve AI-taken – bij het transformeren van grote hoeveelheden gegevens in bruikbare intelligentie. Huangs inzet om de Japanse AI-ambities te ondersteunen komt overeen met zijn visie dat AI-fabrieken de basis moeten worden van moderne economieën wereldwijd.
De AI-fabriek zal het fundament worden van moderne economieën over de hele wereld – Jensen Huang President en CEO van NVIDIA
ABCI 3.0, met zijn datacenter met ultrahoge dichtheid en energiezuinig ontwerp, zal een robuuste infrastructuur bieden voor de ontwikkeling van AI- en big data-toepassingen. Het systeem, dat naar verwachting eind dit jaar operationeel zal zijn en gehuisvest is in Kashiwa, nabij Tokio, zal de modernste AI-onderzoeks- en ontwikkelingsmiddelen bieden.
Ongeëvenaarde prestaties en efficiëntie
De ABCI 3.0-faciliteit zal 6 AI-exaflops aan rekencapaciteit leveren, een maatstaf voor AI-specifieke prestaties zonder schaarste, en 410 petaflops met dubbele precisie voor algemene rekencapaciteit. Elk knooppunt zal worden verbonden via het Quantum-2 InfiniBand-platform, dat 200 GB/s bisectionele bandbreedte biedt. NVIDIA-technologie vormt de kern van dit initiatief, met honderden knooppunten uitgerust met 8 NVLink-aangesloten H200 GPU's, die ongeëvenaarde rekenprestaties en efficiëntie garanderen.
De NVIDIA H200 GPU is een baanbrekend onderdeel en biedt meer dan 140 gigabyte (GB) HBM3e-geheugen bij 4.8 terabytes per seconde (TB/s). NVIDIA claimt een 15x verbetering in energie-efficiëntie ten opzichte van ABCI's vorige generatie platform voor AI-workloads. Dit grotere en snellere geheugen versnelt generatieve AI en grote taalmodellen (LLM's) aanzienlijk, waardoor wetenschappelijk computergebruik voor high-performance computing (HPC)-workloads wordt bevorderd met verbeterde energie-efficiëntie en lagere totale eigendomskosten.
Quantum-2 InfiniBand geavanceerde netwerken
Door NVIDIA Quantum-2 InfiniBand te integreren met In-Network-computermogelijkheden kunnen netwerkapparaten berekeningen uitvoeren op gegevens, waardoor werk van de CPU wordt ontlast. Dit zorgt voor efficiënte communicatie met hoge snelheid en lage latentie, essentieel voor het beheer van intensieve AI-workloads en grote datasets.
ABCI's computer- en gegevensverwerkingscapaciteiten van wereldklasse zullen de gezamenlijke R&D-inspanningen op het gebied van AI tussen industrieën, de academische wereld en overheden versnellen. METI's substantiële investering in dit project benadrukt de strategische visie van Japan om de AI-ontwikkelingscapaciteiten te verbeteren en het gebruik van generatieve AI te versnellen. Door de ontwikkeling van AI-supercomputers te subsidiëren wil Japan de tijd en kosten verminderen die gepaard gaan met de ontwikkeling van AI-technologieën van de volgende generatie, en zichzelf daarmee positioneren als leider in het mondiale AI-landschap.
Amazon