Процессор с поддержкой ИИ AMD EPYC 9846

AMD EPYC 9846 — серверный процессор для платформ SP7, рассчитанный на ИИ-инференс, облачную виртуализацию, контейнерные кластеры и технические расчёты. У него 168 ядер и 336 потоков, а 768 МБ кэша L3 удерживают данные рядом с вычислительными блоками. Процессор подойдёт операторам облаков, командам, которые строят ИИ-инфраструктуру, и компаниям, которые консолидируют парк старых серверов. Он работает в конфигурациях на один и на два сокета.

168 ядер и 336 потоков для плотной виртуализации

Большое число ядер позволяет разместить на одном сервере много виртуальных машин или контейнеров. Это сокращает число физических узлов в стойке.

Базовая частота составляет 2,85 ГГц, а в режиме буста процессор разгоняется до 3,7 ГГц. Такой запас важен для нагрузок, где часть потоков упирается в скорость одного ядра: базы данных, брокеры сообщений, лицензируемое по ядрам ПО. Кэш L3 объёмом 768 МБ заметно снижает число обращений к оперативной памяти в задачах с большим рабочим набором.

16 каналов DDR5 и PCIe 6.0 x96 под ИИ-ускорители

Платформа поддерживает 16 каналов памяти DDR5 RDIMM и MRDIMM. Для RDIMM заявлена скорость до 8000 МТ/с, для MRDIMM — до 12800 МТ/с. Пропускная способность памяти на сокет составляет 1024 ГБ/с и 1638 ГБ/с соответственно.

Это важно, когда 168 ядер конкурируют за данные: без широкой памяти часть из них простаивала бы. Шина PCIe 6.0 x96 даёт линии для GPU-ускорителей, NVMe-накопителей и быстрых сетевых адаптеров, поэтому один сервер может работать и как узел для обучения или инференса моделей, и как хранилище.

Сценарии: облачный провайдер и ИИ-кластер

Облачный провайдер упаковывает на сервер больше клиентских виртуальных машин, например на базе KVM или VMware. Команда машинного обучения использует процессор как «хозяина» для GPU: он готовит данные, обслуживает очереди и выполняет инференс небольших моделей прямо на CPU.

Для защиты данных в мультиарендной среде есть набор AMD Infinity Guard. Он помогает изолировать рабочие нагрузки на аппаратном уровне. Часть функций зависит от операционной системы и производителя сервера, поэтому совместимость стоит уточнять заранее.

Ограничения: 500 Вт на сокет требуют серьёзного охлаждения

Штатная мощность процессора — 500 Вт, диапазон настройки — от 320 до 500 Вт. Для такого тепловыделения нужны подходящее шасси, мощный блок питания и продуманный воздушный поток, а в плотных стойках иногда и жидкостное охлаждение.

Процессор не подходит для рабочей станции или небольшого офисного сервера: он рассчитан на дата-центры. Цена 13114 USD указана AMD для партий от 1000 штук (1kU), поэтому розничная стоимость зависит от поставки и курса.

Что учесть при выборе платформы

Перед покупкой проверьте, что материнская плата или готовый сервер поддерживает сокет SP7 и нужный тип памяти. Для максимальной пропускной способности заполняйте все 16 каналов. Альтернативой служат процессоры с меньшим числом ядер и более высокой частотой на ядро — они выгоднее, если ПО лицензируется по ядрам. Virtuality Club поможет подобрать конфигурацию, а при необходимости сервисный центр обслужит оборудование.