Google представила чипы Ironwood TPU и Axion CPU, бросая вызов Nvidia

Google Cloud официально представила новые инстансы, ориентированные на ИИ, которые работают на базе собственных разработок компании: центральных процессоров Axion и тензорных процессоров (TPU) 7-го поколения под кодовым названием Ironwood. Этот запуск завершает формирование полного портфолио кастомного кремния Google и нацелен на прямую конкуренцию с лидерами рынка ИИ-ускорителей.

Ironwood (TPU v7) демонстрирует впечатляющие характеристики. Один чип выдает 4,614 TFLOPS в формате FP8 и оснащен 192 ГБ памяти HBM3E с пропускной способностью 7.37 ТБ/с. Однако главная сила — в масштабировании. Кластер (pod) из 9,216 ускорителей Ironwood обеспечивает суммарную производительность в 42.5 Эксафлопс (FP8). В предоставленных материалах отмечается, что это значительно превосходит показатели системы Nvidia GB300 NVL72, чья производительность оценивается в 0.36 Эксафлопс.

Такие мощности уже привлекают крупных клиентов. Компания Anthropic планирует использовать до одного миллиона TPU для обучения и работы своих будущих моделей семейства Claude, ссылаясь на лучшее соотношение цены и производительности.

Вместе с TPU Google наконец развернула свои первые универсальные процессоры Axion на архитектуре Armv9 (ядра Neoverse v2). Компания заявляет, что они обеспечивают на 50% более высокую производительность и на 60% лучшую энергоэффективность по сравнению с современными x86-процессорами.

На данный момент доступны три конфигурации инстансов на базе Axion: C4A (до 72 vCPU, уже доступен), более доступный N4A (до 64 vCPU) и "bare-metal" версия C4A Metal (до 96 vCPU), которая предоставляет прямой доступ к оборудованию. Все новые серверы оснащены кастомными контроллерами Titanium для разгрузки задач ввода-вывода и безопасности.