Модуль ускорения ИИ Hailo-8 Century 26 TOPS

Модуль ускорения ИИ Hailo-8 Century — PCIe-карта для инференса нейросетей на edge-серверах и промышленных ПК. Она собрана из нескольких процессоров Hailo-8, каждый из которых даёт до 26 TOPS. Суммарная производительность линейки лежит в диапазоне от 52 до 208 TOPS. Карта подходит интеграторам систем видеоаналитики, разработчикам машинного зрения и командам, которые строят локальную обработку потоков с камер без облака.

Масштабируемость: от 52 до 208 TOPS в одном слоте

Hailo-8 Century масштабируется количеством процессоров на плате: в линейке есть варианты на 52, 78, 104, 130, 156, 182 и 208 TOPS. Это позволяет подобрать карту под число камер и сложность моделей, а не переплачивать за запас.

Для компактных серверов есть вариант с интерфейсом PCIe x8. Более мощные версии используют слот PCIe x16, а часть из них работает через бифуркацию. Перед покупкой сверьте слот и поддержку бифуркации в BIOS материнской платы. Конкретная модификация определяет итоговые TOPS и разъём.

Архитектура Hailo-8 экономит ватты при инференсе

Процессор Hailo-8 рассчитан на нейросетевой инференс с высокой энергоэффективностью. Типичное энергопотребление одного чипа — около 2,5 Вт, поэтому серверу не нужна отдельная система охлаждения уровня игровой видеокарты. Для круглосуточных систем наблюдения это заметно снижает счёт за электричество и шум.

Вычисления идут на самом ускорителе, а центральный процессор освобождается под остальные задачи. Это похоже на отдельного специалиста по распознаванию в команде: он не мешает остальным и не устаёт. Ускоритель работает с x86 и ARM, в средах Linux и Windows.

Сценарии: видеоаналитика и промышленный контроль

Карта подходит для одновременной обработки нескольких видеопотоков и нескольких моделей. Это актуально для двух типичных задач.

• Видеонаблюдение на объекте: детекция людей и транспорта, подсчёт посетителей, распознавание номеров. Всё считается на месте, поэтому видео не уходит во внешнее облако.
• Контроль качества на производстве: сервер получает кадры с линии и ищет дефекты в реальном времени. Задержка небольшая, а сеть не перегружается.

Модели из TensorFlow, PyTorch и ONNX переносятся через инструментарий Hailo Dataflow Compiler. Для сравнения: NVIDIA Jetson и GPU-карты универсальнее, но потребляют больше. Hailo выигрывает там, где важны ватты и стоимость канала инференса.

Ограничение: карта создана для инференса, не для обучения

Hailo-8 Century выполняет готовые модели, но не обучает их. Обучение остаётся на GPU или в облаке. Модель нужно скомпилировать под архитектуру Hailo. Привычные для GPU нестандартные слои иногда требуют доработки, поэтому заложите время на адаптацию. Для генеративных моделей и больших языковых моделей этот ускоритель не предназначен: он ориентирован на задачи компьютерного зрения.

Поддержка в Virtuality Club

Virtuality Club поставляет оригинальное оборудование напрямую от производителей. При магазине работает авторизованный сервисный центр, а специалисты помогают с выбором модификации под ваш слот и задачу.

Ключевые данные линейки Hailo-8 Century

Значения указаны для линейки Century в целом. Конкретная модификация определяет число процессоров и разъём.