Minulý týden Google odhalil svůj nejnovější vlastní akcelerátor umělé inteligence, Ironwood TPU, a představil tak významné zlepšení výkonu pro stále náročnější svět umělé inteligence. Ironwood, oznámený na konferenci Google Cloud Next 25, je sedmou generací TPU od Googlu, speciálně navržených pro zvládání moderních úloh umělé inteligence, zejména v oblasti inference.
Pochopení TPU
Než se ponoříme do Ironwoodu, je užitečné pochopit, co jsou TPU. Tenzorové procesorové jednotky (TPU) jsou specializované čipy vyvinuté společností Google speciálně pro urychlení úloh strojového učení. Na rozdíl od univerzálních CPU nebo dokonce GPU, které jsou optimalizovány pro paralelní zpracování, zpočátku pro grafiku, jsou TPU optimalizovány pro maticové a tenzorové operace, které jsou srdcem neuronových sítí. Historicky Google nabízel různé verze TPU, často rozlišující mezi řadou „e“ (zaměřenou na efektivitu a inferenci, spouštějící předtrénované modely) a řadou „p“ (zaměřenou na hrubý výkon pro trénování velkých modelů).
Představujeme Ironwood
Nový Ironwood TPU je dosud nejambicióznějším akcelerátorem umělé inteligence od Googlu. Je to první TPU společnosti speciálně navržený pro požadavky „modelů uvažování“ založených na inferenci. Ironwood přináší ve srovnání se svými předchůdci podstatná vylepšení ve všech klíčových výkonnostních metrikách, včetně:
| TPU v5e | TPU v5p | TPU v6e | TPU v7e | |
| BF16 Výpočet | 197 TFLOPs | 459 TFLOPs | 918 TFLOPs | 2.3 PFLOPy* |
| Výpočetní technika INT8/FP8 | 394 TOP/TFLOP* | 918 TOP/TFLOP* | 1836 TOP/TFLOP | 4.6 POP/PFLOP |
| Šířka pásma HBM | 0.8 TB / s | 2.8 TB / s | 1.6 TB / s | 7.4 TB / s |
| Kapacita HBM | 16 GB | 95 GB | 32 GB | 192 GB |
| Šířka pásma propojení mezi čipy (na linku) | 400 Gbps | 800 Gbps | 800 Gbps | 1200 Gbps |
| Topologie propojení | 2D torus | 3D torus | 2D torus | 3D torus |
| Velikost TPU podu | 256 | 8960 | 256 | 9216 |
| Náhradní jádra | Ne | Ne | Ano | Ano |
Poznámka: Čísla označená „*“ jsou neoficiální vypočítaná čísla.
Mezi nejvýznamnější vlastnosti Ironwoodu patří:
- Obrovský výpočetní výkon: Každý čip poskytuje výkon 4.6 petaFLOPS v FP8, což ho řadí do stejné výkonnostní třídy jako Blackwell B200 od NVIDIA.
- Zvýšená kapacita paměti: 192 GB paměti s vysokou šířkou pásma (HBM) na čip
- Dramaticky vylepšená šířka pásma paměti: 7.37 TB/s na čip, 4.5krát více než u Trillia, což umožňuje rychlejší přístup k datům pro paměťově omezenou inferenci umělé inteligence.
- Vylepšené možnosti propojení: Obousměrná šířka pásma 1.2 TB/s, což je 1.5násobné zlepšení oproti Trillium, což usnadňuje efektivnější komunikaci mezi čipy.
Spekulace: Je Ironwood chybějícím v6p?
Je zajímavé, že Google zřejmě vynechal očekávanou generaci TPU v6p a přešel rovnou k vydání v7e Ironwood. To naznačuje, že tento čip mohl být původně zamýšlen jako tréninkový v6p čip. Vzhledem k rychle se rozšiřujícím velikostem modelů a potřebě konkurovat nabídkám, jako je GB200 NVL72 od NVIDIA, jej však Google pravděpodobně přejmenoval na v7e Ironwood. Obrovská velikost podu 9216 TPU a použití 3D Torus propojení v tom, co je označeno jako čip řady „e“ (obvykle ekonomičtější varianta), tuto teorii silně podporují.
Cesta vpřed
Společnost Google oznámila, že TPU Ironwood budou dostupné koncem tohoto roku prostřednictvím Google Cloud. Tato technologie již pohání některé z nejpokročilejších systémů umělé inteligence od Googlu, včetně Gemini 2.5 a AlphaFold.
Jakmile se tyto výkonné nové akcelerátory stanou dostupnými vývojářům a výzkumníkům, pravděpodobně umožní průlom v oblasti schopností umělé inteligence, zejména pro rozsáhlé inferenční úlohy, které vyžadují jak masivní výpočetní výkon, tak sofistikované možnosti uvažování.
Amazon