Характеристика:
- Форм-факторДвухслотовая плата расширения FHFL (Full-Height Full-Length) / PCIe CEM 5.1
- Мощность600 Вт
- Пропускная способностьдо 3.7 ТБ/с
Вместе с товаром от Virtuality Club
- Подарок за ваше мнение о нас Поделитесь своим мнением о нас на Я.Маркете, и в качестве благодарности мы сделаем вам кэшбек 200 рублей за покупку в нашем магазине.
- Бесплатная техническая поддержка и консультация Наш магазин специализируется на продаже сложных технических устройств, и мы прекрасно понимаем, как непросто запустить в работу приобретенное устройство без поддержки технического специалиста, получить удовольствие от покупки здесь и сейчас, без длительных попыток исправить какую-либо возникшую проблему. Приобретая товар в Virtuality Club, вы получаете бесплатную техническую поддержку. Инженеры технической поддержки с удовольствием помогут вам по всем вопросам, связанным с работой приобретенного в нашем магазине оборудования*. График работы отдела технической поддержки: по будням с 10:00 до 19:00. Приобретая товар у нас, вы можете быть уверены, что не останетесь один на один с техническими проблемами, если таковые возникнут. * В область бесплатной технической поддержки входят технические консультации по телефону и электронной почте, связанные с работой оборудования, приобретенного в магазине Virtuality Club. Удаленная настройка оборудования клиента или оборудования, приобретенного в нашем магазине, производится в рамках платных услуг по настройке.
Подробно о товаре
О товаре
Модуль ускорения ИИ Intel Gaudi 3 PCIe (HL-338) — ускоритель в стандартной форме PCIe Gen5, который устанавливают в уже имеющиеся серверы. Он рассчитан на большие языковые модели, мультимодальные модели и корпоративный RAG. Подойдёт ИТ-командам, которые хотят запускать ИИ у себя, не перестраивая инфраструктуру. Масштабируется через обычный Ethernet, без закрытых фирменных интерконнектов.
Форм-фактор PCIe Gen5 упрощает установку в действующий сервер
Карта вставляется в стандартный слот PCIe Gen5, поэтому под неё не нужна отдельная платформа. Это ближе к апгрейду существующего парка, чем к строительству нового кластера. Прежде чем покупать, проверьте в сервере слот, питание и охлаждение.
Ethernet вместо закрытых интерконнектов при масштабировании
Gaudi 3 масштабируется по стандартному Ethernet, и сетевое оборудование, которое у вас уже есть, остаётся в деле. Intel противопоставляет этот подход закрытым технологиям вроде NVLink, NVSwitch и InfiniBand. По данным Intel, на ускоритель приходится на 33% больше подключений ввода-вывода, чем у H100. Сравнивают открытый стандарт RoCE на 1200 ГБ/с с закрытым NVLink на 900 ГБ/с. Это заявление производителя, и результаты зависят от конфигурации.
Прирост относительно Gaudi 2 по вычислениям и сети
По данным Intel, Gaudi 3 даёт до двух раз больше вычислений в FP8 и до четырёх раз больше в BF16 по сравнению с Gaudi 2. Пропускная способность сети выросла до двух раз. Для пользователя это значит, что модели обучаются и обслуживаются быстрее, а узел реже упирается в сеть. Эти значения — предельные («до»), реальная скорость зависит от модели и настроек.
Программная среда строится вокруг PyTorch и Hugging Face
Разработчики остаются в PyTorch, а референсные модели и ресурсы Hugging Face помогают быстро начать. Для моделей, написанных под GPU, Intel предлагает инструменты переноса. Это сокращает путь от пилота до production: команде не нужно переучиваться с нуля.
Сценарии применения: корпоративный RAG и дообучение моделей
Первый сценарий — компания разворачивает внутренний ассистент на собственных документах (RAG). Данные не уходят в облако, а нагрузка делится между несколькими картами в одном сервере. Второй сценарий — ML-команда дообучает готовую открытую модель под свою задачу. Она переносит рабочий GPU-проект и сравнивает стоимость владения. Для крупных развёртываний у Intel есть референсная схема кластера из 32 узлов на Ethernet. Системы с Gaudi 3 выпускают партнёры Dell, HPE и Supermicro.
Ограничение: переход с GPU требует времени на миграцию
Gaudi 3 — не просто замена видеокарты. Код, особенно с узкоспециализированными CUDA-библиотеками, придётся портировать и проверять. Нужно убедиться, что ваши модели и фреймворки поддерживаются. Закладывайте время на тестирование до масштабного заказа.
Покупка в Virtuality Club с сервисной поддержкой
Virtuality Club поставляет оригинальную продукцию напрямую от производителей. При магазине есть авторизованный сервисный центр, а технические специалисты помогают на всех этапах использования оборудования. Для сложного решения такого класса это удобно: подбор, подключение и вопросы по эксплуатации решаются в одном месте.
Технические характеристики Intel Gaudi 3 PCIe (HL-338)
| Характеристика | Значение |
|---|---|
| Форм-фактор | Двухслотовая плата расширения FHFL (Full-Height Full-Length) / PCIe CEM 5.1 |
| Интерфейс хоста (Подключение) | PCIe Gen 5.0 x16 |
| Объем памяти (VRAM) | 128 ГБ HBM2e (8 стеков по 16 ГБ) |
| Пропускная способность памяти | До 3,7 ТБ/с |
| Внутренняя кэш-память (SRAM) | 96 МБ интегрированного L2-кэша (Пропускная способность до 19,2 ТБ/с) |
| Пиковая производительность (FP8 / BF16) | До 1678 TFLOPS (Матричные вычисления) |
| Пиковая производительность (FP16 / TF32) | До 459 TFLOPS |
| Пиковая производительность (FP32) | До 229 TFLOPS |
| Архитектура ядер | 64 программируемых тензорных ядра TPC (VLIW SIMD) + 8 матричных движков MME |
| Сетевые интерфейсы (Scale-Out) | 24 встроенных порта Ethernet 200 GbE с поддержкой RoCE v2 прямо на чипе |
| Энергопотребление (TDP) | До 600 Вт |
| Тип охлаждения | Пассивное радиаторное (требуется внешний воздушный поток сервера) |
| Медиадекодеры | 14 аппаратных процессоров (H.265, H.264, JPEG, VP9) |
Характеристики
| Форм-фактор | Двухслотовая плата расширения FHFL (Full-Height Full-Length) / PCIe CEM 5.1 |
| Мощность | 600 Вт |
| Пропускная способность | до 3.7 ТБ/с |
| Модель | Intel Gaudi 3 PCIe |
| Производительность | 266 ТБ/с |
| SRAM | 96 МБ интегрированного L2-кэша |
| Интерфейс | PCIe Gen 5.0 x16 |
| Пиковая производительность (FP16) | До 459 TFLOPS |
Комплектация
| Модуль | 1 |
Модуль ускорения ИИ Intel Gaudi 3 PCIe
