Модуль ускорения ИИ Hailo-8R mPCIe 26 TOPS

Hailo-8R mPCIe — модуль ускорения ИИ на базе процессора Hailo-8, который берёт на себя нейросетевые расчёты вместо центрального процессора. Он нужен разработчикам встраиваемых систем, интеграторам видеонаблюдения и робототехникам, которым нужно запускать нейросети на устройстве, без облака. По данным Hailo, чип выдаёт до 26 TOPS и не требует внешней памяти.

До 26 TOPS без внешней DRAM

Hailo-8 выдаёт до 26 TOPS и держит всю нужную память на самом кристалле, поэтому внешняя DRAM не нужна. Для разработчика это упрощает схему платы и убирает одну позицию из закупок. Производитель отдельно подчёркивает, что такой подход снижает зависимость от скачков цен на DRAM.

Архитектура построена по принципу потока данных (Dataflow) и заточена под устройство нейросетей. Это как конвейер, на котором каждый узел занят своей операцией, и никто не ждёт в очереди за данными.

Низкое энергопотребление для компактных систем

Типичное энергопотребление чипа — 2,5 Вт, по данным производителя. Такой модуль можно ставить в компактные корпуса и устройства с автономным питанием. Он не требует мощной системы охлаждения, как игровая видеокарта.

Поддерживаемые фреймворки и платформы

Модели из TensorFlow, PyTorch, Keras, TensorFlow Lite и ONNX переносятся через компилятор Hailo Dataflow Compiler. Хост-платформы — x86 и ARM, операционные системы — Linux и Windows. Готовые сети можно взять в Model Zoo, чтобы не обучать всё с нуля. Поддерживаются CNN, трансформеры и другие современные модели.

Hailo-8 также используют вместе с одноплатным компьютером Raspberry Pi 5. Один из примеров — сообщество собрало на нём автономную камеру, которая распознаёт людей и отправляет письмо с кадром.

Сценарии применения модуля mPCIe

Форм-фактор mPCIe подходит для промышленных ПК, шлюзов и NVR-устройств с таким слотом. Модуль может обрабатывать несколько видеопотоков и несколько моделей одновременно.

• Видеоаналитика: детекция людей и объектов на периметре, в магазине, на складе, прямо на камере или регистраторе.
• Робототехника и XR-проекты: распознавание сцены с малой задержкой и без отправки видео в облако.
• Умный дом: локальные модели в связке с Home Assistant, где важна приватность.

Ограничение: слот mPCIe и совместимость с хостом

Модуль работает только в системе со свободным слотом mPCIe и драйверами Hailo под вашу ОС. Он ускоряет инференс, то есть запуск готовых моделей, а не обучение. Перед покупкой проверьте слот, ОС и то, что нужные слои вашей сети поддерживает компилятор. Если слота mPCIe нет, смотрите версии в формате M.2.

Заметка по линейке: чип Hailo-8 выпускается в коммерческом, индустриальном (от -40°C до 85°C) и автомобильном (от -40°C до 105°C) исполнениях. Производитель сообщает, что коммерческая версия микросхемы снимается с производства, а индустриальная её заменяет. Какой температурный класс у конкретного модуля, уточняйте у менеджеров Virtuality Club. У магазина есть собственный авторизованный сервисный центр и техподдержка, которые помогут с подбором и запуском.

Ключевые параметры чипа Hailo-8