Модуль ускорения ИИ Hailo-8 26 TOPS M.2

Модуль ускорения ИИ Hailo-8 — это M.2-карта, которая берёт на себя нейросетевой инференс и разгружает процессор. Подходит интеграторам систем видеонаблюдения, разработчикам робототехники и владельцам мини-ПК или Raspberry Pi, которым нужно распознавание объектов в реальном времени без облака и без мощной видеокарты. Производительность — до 26 TOPS, типичное энергопотребление — около 2,5 Вт.

26 TOPS при типичных 2,5 Вт: что это даёт на практике

Hailo-8 выполняет до 26 триллионов операций в секунду и при этом потребляет типично около 2,5 Вт. Для встраиваемых систем это важно: такой модулю обычно хватает пассивного охлаждения, а блок питания можно не менять.

Для сравнения: игровая GPU с похожей задачей потребляет в десятки раз больше. Hailo-8 работает по другому принципу — архитектура потоковая, память интегрирована в процессор, поэтому данные не гоняются туда-сюда. Меньше перемещений — меньше тепла и задержек.

Форм-фактор M.2 и совместимость с хостами

Модуль выпускается в формате M.2 с ключами M, B+M и A+E, поэтому при заказе важно сверить версию со слотом вашего устройства. Обмен данными идёт по PCIe Gen 3; число линий зависит от версии модуля.

Сама плата — не компьютер. Ей нужен хост: x86-ПК, промышленный компьютер или одноплатник вроде Raspberry Pi с PCIe-слотом. Процессор хоста по-прежнему декодирует видео и запускает приложение, а Hailo-8 считает нейросеть.

Поддержка фреймворков при разработке ИИ-моделей

Hailo-8 работает с моделями из TensorFlow, TensorFlow Lite, ONNX, Keras и PyTorch и поддерживает Linux и Windows. Обученную сеть конвертируют и компилируют через инструменты Hailo, после чего запускают на ускорителе.

Модуль рассчитан на несколько потоков и моделей одновременно. Так одна карта может обслуживать, например, несколько камер: детекцию людей на одной и распознавание номеров на другой.

Сценарии: видеоаналитика и робототехника

• Интегратор безопасности ставит модуль в сетевой видеорегистратор на базе мини-ПК. Детекция людей и транспорта идёт локально, видео не уходит в облако, задержка остаётся низкой.
• Разработчик робота или дрона добавляет Hailo-8 к бортовому компьютеру. Навигация и обход препятствий считаются на борту, а аккумулятор расходуется экономнее, чем при работе на GPU.

Ограничения: ускоритель не заменяет хост и не обучает модели

Hailo-8 предназначен для инференса, а не для обучения нейросетей, и работает только в паре с хост-системой. Крупные генеративные модели, например языковые, под него не рассчитаны. Отдельный момент — подготовка модели: компиляция под ускоритель требует времени и знакомства с инструментарием Hailo. Зато эти усилия окупаются на серийных устройствах, где важны потребление и стабильная работа.

Покупка через Virtuality Club — это оригинальная продукция по прямым поставкам, собственный авторизованный сервисный центр при магазине и техническая поддержка на этапах подбора и запуска.

Характеристики модуля Hailo-8

Значения ниже основаны на данных производителя Hailo; для конкретной версии модуля уточняйте ключ M.2 и число линий PCIe.