Процессор с поддержкой ИИ AMD EPYC 9756

Процессор с поддержкой ИИ AMD EPYC 9756 — серверный чип на 128 ядер и 256 потоков для плотной виртуализации, облачных платформ, аналитики и ИИ-нагрузок. Его берут, когда нужно уместить как можно больше вычислений в одном сокете: меньше серверов в стойке, меньше лицензий на узлы, проще администрировать. Платформа SP7 допускает конфигурации на 1 или 2 процессора.

128 ядер и 256 потоков в одном сокете

Для задач, которые хорошо делятся на параллельные части, количество ядер важнее пиковой частоты одного ядра. Базовая частота у AMD EPYC 9756 составляет 3,15 ГГц, максимальная в режиме буста — до 4 ГГц.

Представьте автобусный парк вместо спорткара. Одиночный запрос он не обгонит, зато перевезёт огромное число пассажиров одновременно. Так и здесь: сотни виртуальных машин, контейнеров или параллельных заданий получают свои потоки без жёсткой борьбы за ресурсы. Кеш L3 объёмом 512 МБ сокращает обращения к памяти, а это заметно для баз данных и аналитики.

Память DDR5 с 16 каналами снимает узкое место

Шестнадцать каналов DDR5 дают пропускную способность до 1024 ГБ/с на сокет при модулях RDIMM со скоростью до 8000 МТ/с. С модулями MRDIMM показатель растёт до 1638 ГБ/с при скорости до 12800 МТ/с.

Для ИИ-инференса, in-memory баз данных и научных расчётов это важно: ядра быстро простаивают, если данные до них не успевают доехать. Для периферии платформа предлагает PCIe 6.0 x96. Этого хватает на несколько ускорителей, NVMe-накопителей и сетевых карт на 400 Gbit и выше.

Сценарии: облачный провайдер и корпоративный ИИ-кластер

Процессор подходит провайдерам частных и публичных облаков, а также командам, которые строят собственную ИИ-инфраструктуру.

• Облако и виртуализация: на базе KVM или VMware на одном двухсокетном сервере можно разместить десятки изолированных нагрузок. Консолидация старого парка серверов на меньшее число узлов снижает расходы на стойко-места и обслуживание.
• ИИ и данные: CPU берёт на себя подготовку данных, инференс небольших моделей и оркестрацию, а тяжёлое обучение остаётся на GPU-ускорителях.

Технологии AMD Infinity Guard и Infinity Architecture отвечают за аппаратный уровень защиты и связность платформы. Для мультиарендных сред это существенный довод. Конкретный набор функций зависит от ОС и прошивки сервера, поэтому уточняйте его у производителя платформы.

Ограничения: тепловыделение до 500 Вт и совместимость с SP7

Стандартная мощность процессора составляет 500 Вт, диапазон настройки — от 320 до 500 Вт. Платформе нужны серьёзное охлаждение, запас по питанию и подходящие стойки.

Процессор не подойдёт для разъёмов предыдущих поколений: нужна материнская плата или готовый сервер на SP7. Если ваши приложения лицензируются по ядрам или слабо масштабируются, 128 ядер окупятся не сразу, и имеет смысл сравнить с моделями с меньшим числом ядер и более высокой частотой. Перед покупкой сверьте список совместимых плат, памяти и систем охлаждения. Специалисты Virtuality Club помогут с подбором, а при необходимости — с сервисной поддержкой.

Характеристики AMD EPYC 9756

Ниже приведены основные параметры по данным производителя.