Сервер для работы с ИИ Ascend Atlas 900 A3 SuperPoD

Сервер для работы с ИИ Ascend Atlas 900 A3 SuperPoD — жидкостно охлаждаемый суперузел Huawei для дата-центров, где обучают большие модели и запускают их промышленный инференс. Он объединяет до 384 NPU Ascend 910 в одну вычислительную систему, которая работает как единый компьютер. Решение рассчитано на финансовый сектор, университеты и научные центры, операторов и создателей ИИ-вычислительных центров.

384 NPU работают как один компьютер

Внутри суперузла все ускорители и процессоры связаны быстрой шиной Huawei, поэтому система воспринимается программой как одна машина, а не как набор отдельных серверов. Это снимает главную боль больших кластеров: время уходит на счёт, а не на ожидание данных между узлами.

Состав: до 384 NPU Ascend 910 и до 192 процессоров Kunpeng 920. Каждый ускоритель несёт до 128 ГБ памяти с пропускной способностью до 3,2 ТБ/с. Для сравнения: обычный сервер с несколькими ускорителями упирается в сетевые порты, а здесь связь между картами идёт на скорости 784 ГБ/с в двух направлениях.

Производительность до 307,2 PFLOPS в FP16

Вычислительная мощность достигает 307,2 PFLOPS в FP16, а для части конфигураций Huawei указывает 288,7 PFLOPS. FP16 — формат чисел, который стандартно используют при обучении нейросетей: он вдвое экономнее по памяти, чем FP32, и почти не теряет в точности.

Для заказчика это значит, что обучение или дообучение крупной языковой модели занимает заметно меньше времени, чем на разрозненных серверах. Заявленные цифры — максимальные, реальная скорость зависит от модели, фреймворка и настройки задачи.

Сценарии: обучение LLM и центральный инференс

Система закрывает два типичных сценария: предобучение и дообучение больших моделей, а также обслуживание тысяч одновременных запросов к уже обученной модели.

• Банк или страховая компания разворачивает внутренний ИИ-контур, чтобы данные клиентов не покидали периметр организации.
• Университет или научный институт предоставляет вычислительное время нескольким исследовательским группам на общей платформе.

Программная часть строится на стеке CANN и фреймворках, которые его поддерживают, например MindSpore и PyTorch через адаптеры.

Охлаждение и питание требуют подготовленного ЦОДа

Вычислительные шкафы охлаждаются жидкостью, шкафы шинной коммутации — воздухом, а питание подводится по двум трёхфазным линиям 380 В. Жидкостное охлаждение снимает тепло эффективнее воздуха: стойки с такой плотностью мощности на одних кондиционерах просто не выжили бы.

Это же главный компромисс. Система занимает 16 шкафов высотой 47U и не подходит для серверной комнаты в офисе. Нужны контур жидкости, достаточная электрическая мощность и рабочая температура помещения от 5 до 40 °C. Проект площадки лучше согласовать до покупки.

Закупка через Virtuality Club

Virtuality Club поставляет оригинальное оборудование напрямую от производителей. При магазине работает авторизованный сервисный центр, а специалисты консультируют на всех этапах: от подбора конфигурации до эксплуатации. Для системы такого класса поддержка нужна не меньше самого железа.

Ключевые параметры системы

Таблица ниже собирает основные характеристики по данным производителя.