Процессор с поддержкой ИИ AMD EPYC 9996

Серверный процессор AMD EPYC 9996 рассчитан на дата-центры, облачных провайдеров и компании, которые запускают ИИ-нагрузки, виртуализацию и тяжёлые технические расчёты. Он относится к серии EPYC 9006 и предлагает 256 ядер и 512 потоков в одном сокете. Для одного сервера это много вычислительной мощности: вместо нескольких старых машин можно держать одну плотную платформу.

256 ядер и 512 потоков в одном процессоре

Процессор EPYC 9996 даёт 256 ядер и 512 потоков, поэтому он хорошо справляется с параллельными задачами. Базовая частота составляет 2,55 ГГц, а максимальная в режиме Boost достигает 4,1 ГГц.

Большое число ядер выгодно там, где работа делится на множество независимых потоков: виртуальные машины, контейнеры, обработка данных, рендеринг, моделирование. Одиночные однопоточные задачи от этого быстрее не станут, ведь ядра не складываются в одно. Объём кэша L3 составляет 1024 МБ. Это крупный буфер рядом с ядрами, и частым данным не приходится каждый раз ходить в оперативную память.

16 каналов DDR5 и PCIe 6.0 для ИИ и баз данных

Платформа SP7 работает с памятью DDR5 RDIMM и MRDIMM по 16 каналам. Пропускная способность на сокет составляет до 1024 ГБ/с для RDIMM (до 8000 MT/s) и до 1638 ГБ/с для MRDIMM (до 12800 MT/s).

Для ИИ-инференса, баз данных в памяти и аналитики скорость памяти часто важнее частоты ядер. Шина PCIe 6.0 с 96 линиями позволяет подключать много ускорителей, NVMe-накопителей и сетевых карт, например GPU-ускорители и быстрые сетевые адаптеры, без «узкого горлышка».

Сценарии: облачный хостинг и ИИ-кластер

Процессор подходит для двух типичных задач: плотной консолидации серверов и ИИ-узлов с несколькими ускорителями.

• Облачный провайдер или корпоративный ЦОД. Один двухсокетный сервер с такими процессорами заменяет стойку более старого оборудования, а значит экономит место, питание и лицензии на обслуживание.
• Команда ИИ и HPC. Процессор берёт на себя подготовку данных, раздаёт их ускорителям по быстрой шине и обрабатывает то, что на GPU невыгодно запускать.

Поддерживаются конфигурации на 1 и 2 сокета. Для виртуализации и разделения ресурсов между клиентами пригодится AMD Infinity Guard. Это набор аппаратных функций безопасности, которые защищают данные в памяти и при работе виртуальных машин. Подробности реализации зависят от ОС и производителя сервера, поэтому их стоит уточнить заранее.

Ограничение: 600 Вт тепловыделения требуют серьёзного охлаждения

Штатная мощность процессора составляет 600 Вт при настраиваемом диапазоне от 400 до 600 Вт. Это накладывает требования на стойку: нужны подходящая серверная плата с сокетом SP7, мощный блок питания и продуманное охлаждение.

В обычный офисный сервер или рабочую станцию такой процессор не поставить. Если нагрузка небольшая, процессор с меньшим числом ядер обойдётся дешевле и потребует меньше энергии. Диапазон 400–600 Вт позволяет подобрать режим под возможности ЦОД: можно снизить мощность в обмен на часть производительности.

Покупка в Virtuality Club

Virtuality Club поставляет оригинальную продукцию по прямым поставкам от производителей. При магазине работает авторизованный сервисный центр, а специалисты технической поддержки помогают на всех этапах использования оборудования. При подборе платформы под SP7 это удобно: совместимость платы, памяти и охлаждения лучше проверить до закупки.

Характеристики AMD EPYC 9996 в сводке

Сводка параметров по данным производителя AMD.