Обучение и вывод данных в масштабах искусственного интеллекта меняют сети центров обработки данных. Трафик между графическими процессорами/XPU значительно возрос, а устаревшие подключаемые оптические модули испытывают проблемы с энергопотреблением, задержкой и физической сложностью по мере масштабирования кластеров до десятков тысяч ускорителей. Платформа третьего поколения Co-Packaged Optics (CPO) от Broadcom, Tomahawk 6-Davisson (TH6-Davisson), уже поступила в продажу, обеспечивая пропускную способность оптической коммутации до 102.4 Тбит/с, что вдвое превышает пропускную способность любого доступного сегодня коммутатора CPO. Для архитекторов, создающих сети искусственного интеллекта следующего поколения, это означает значительное улучшение пропускной способности, эффективности и надежности каналов связи.
Специально разработан для сетей искусственного интеллекта.
TH6-Davisson разработан с учетом реалий современных кластеров ИИ. Это означает устойчивые высокоскоростные потоки данных между каналами связи, чувствительность к колебаниям пропускной способности и необходимость максимального использования ускорителей. Работая на скорости 200 Гбит/с на канал, TH6-Davisson удваивает скорость передачи данных на канал и общую пропускную способность по сравнению с предыдущим поколением TH5-Bailly. Он обеспечивает бесшовную совместимость между трансиверами на основе DR и межсоединениями Near-Packaged Optics (NPO) и CPO на скорости 200 Гбит/с на канал. В результате обеспечивается простое масштабирование вверх и вширь на современных высокопроизводительных сетевых картах, XPU и коммутаторах коммутационной матрицы.
С точки зрения развертывания это означает:
- Повышение эффективности использования FLOPs за счет уменьшения задержек, вызванных проблемами с каналом связи, и прерываний выполнения заданий.
- Снижение сквозной задержки по сравнению с традиционными подключаемыми устройствами за счет сокращения электрических путей и минимизации обработки сигнала.
- Более чистая механическая и тепловая оболочка коммутатора, упрощающая интеграцию системы на уровне стоек и рядов.
Совмещенная оптика: преимущества в энергопотреблении и стабильности.
Использование подключаемых оптических модулей приводит к увеличению энергопотребления и появлению дополнительных точек вариативности по мере роста скорости. В TH6-Davisson оптические модули встраиваются непосредственно в общий корпус с коммутатором Ethernet, сочетая технологию Compact Universal Photonic Engine (COUPE) от TSMC с передовой многокристальной упаковкой на уровне подложки. Такая гетерогенная интеграция снижает потребность в обработке сигнала, минимизируя потери в дорожках и отражения.
Согласно данным компании Broadcom, преимущества включают в себя:
- Примерно на 70% снижено энергопотребление оптических межсоединений по сравнению с традиционными подключаемыми модулями. Это более чем в 3.5 раза меньше, что приводит к значительному снижению совокупной стоимости владения и улучшению показателей устойчивого развития для гипермасштабных центров обработки данных и центров обработки данных, использующих искусственный интеллект.
- Улучшена стабильность связи за счет устранения производственных и тестовых вариаций, характерных для подключаемых трансиверов. В качестве доказательства приводится предыдущее исследование колебаний связи TH5-Bailly; более тесная интеграция TH6 дополнительно снижает количество колебаний, что имеет решающее значение для длительных циклов обучения ИИ.
Нир Маргалит, вице-президент и генеральный директор подразделения оптических систем Broadcom, рассматривает TH6-Davisson как инструмент для создания более крупных и надежных кластеров искусственного интеллекта. Он подчеркивает повышение стабильности связи и энергоэффективности, что приводит к более высокой загрузке ускорителей, уменьшению количества сбоев в работе и повышению общей надежности. Это ключевые факторы для более быстрого и эффективного обучения моделей.
Взаимодействие и соответствие стандартам
TH6-Davisson разработан для интеграции в гетерогенные среды и обеспечивает следующие возможности:
- 200 Гбит/с на канал связи с соответствием стандарту IEEE 802.3 для обеспечения совместимости 400G/800G.
- Совместимость с оптическими системами на основе DR, а также с экосистемами NPO/CPO со скоростью 200 Гбит/с на канал.
- Сменные в полевых условиях лазерные модули ELSFP упрощают обслуживание, не теряя при этом преимуществ интеграции CPO.
Такой подход, ориентированный на стандарты, крайне важен для команд по закупкам и сетевому проектированию, которым необходимо интегрировать новые развертывания с существующим оборудованием 400G и 800G при планировании путей модернизации.
Основные характеристики продукта: TH6-Davisson BCM78919
- Коммутационная способность 102.4 Тбит/с
- 16 оптических модулей Davisson DR со скоростью 6.4 Тб/с
- Пропускная способность канала связи 200 Гбит/с на канал.
- Сменные лазерные модули ELSFP
- Масштабирование до 512 XPU на кластер и до 100 000+ XPU в двухуровневых сетях со скоростью 200 Гбит/с на канал.
- Соответствует стандарту IEEE 802.3; совместим с действующими стандартами 400G/800G.
Эти характеристики приводят к созданию более плотных сетей с меньшим количеством устройств на единицу полосы пропускания, лучшим показателям энергопотребления и более высокой ожидаемой надежности выполнения задач. Эти моменты напрямую влияют на модели ROI/TCO для развертывания систем искусственного интеллекта.
400 Гбит/с на канал на палубе
Компания Broadcom заявляет о разработке своей платформы CPO четвертого поколения, которая будет обеспечивать пропускную способность 400 Гбит/с на канал с дальнейшим повышением энергоэффективности. В случае реализации эта тенденция позволит удвоить пропускную способность при одновременном снижении потребления ватт на бит, что крайне важно для центров обработки данных масштаба ИИ, работающих в условиях ограниченного энергопотребления.
Доступность
В настоящее время компания Broadcom предоставляет образцы микросхемы TH6-Davisson BCM78919 клиентам и партнерам, находящимся на этапе раннего доступа, после чего она станет доступна для широкого потребления.
Совмещенная оптика продолжает оставаться подходящим инструментом для сетей эпохи искусственного интеллекта. Она сжимает электрический путь, снижает энергопотребление и стабилизирует каналы связи именно в тот момент, когда кластеры масштабируются до шестизначных чисел ускорителей. Заявленная компанией TH6-Davisson пропускная способность в 102.4 Тб/с и снижение оптического энергопотребления на 70% устанавливают амбициозную планку.
Amazon