Модуль ускорения ИИ Hailo-10H

Модуль ускорения ИИ Hailo-10H — это ускоритель нейросетей для периферийных (edge) устройств. Он запускает на месте не только задачи компьютерного зрения, но и генеративные модели: LLM и VLM. Он рассчитан на разработчиков встраиваемых систем, интеграторов умного дома и владельцев киосков и камер. Данные остаются на устройстве, облако и подписка не нужны. В магазине Virtuality Club продукция поставляется напрямую от производителей, а при магазине есть авторизованный сервисный центр.

Генеративный ИИ работает без облака

Hailo-10H считается первым edge-ускорителем с поддержкой генеративного ИИ, и он выполняет модели прямо на устройстве. Это даёт четыре практических эффекта.

• Экономия: меньше трафика и нет платы за облачные ИИ-сервисы.
• Отклик: низкая задержка, ответы приходят без похода на сервер.
• Доступность: приложения работают и без интернета.
• Приватность: личные и коммерческие данные не уходят в облако.

40 TOPS INT4 и 20 TOPS INT8 при 2,5 Вт

Производительность составляет 40 TOPS в режиме INT4 и 20 TOPS в режиме INT8, а типичное энергопотребление — 2,5 Вт. Для сравнения: небольшая плата питается от пары светодиодных ламп, а ИИ-нагрузка при этом серьёзная. Это второе поколение архитектуры после Hailo-8: у чипа прямой интерфейс к памяти LPDDR4/4X, поэтому он масштабируется на крупные модели. Число TOPS — не единственный критерий. Важны ещё память, софт и реальная скорость нужной вам модели.

Поддержка PyTorch, ONNX и TensorFlow на x86 и ARM

Модели из популярных фреймворков переносятся через Dataflow Compiler, а ускоритель работает с x86 и ARM. Поддерживаются фреймворки TensorFlow, TensorFlow Lite, Keras, PyTorch и ONNX. Среди ОС названы Linux, Windows и Android. В Model Zoo есть готовые модели для задач зрения и GenAI, так что с прототипом можно стартовать без обучения с нуля. Для разработки и прототипирования производитель предлагает стартовый набор: M.2-модуль с Hailo-10H.

Сценарии: киоск самообслуживания и умный дом

Два сценария, которые показывает сам производитель: киоски самообслуживания и домашняя автоматика. Тот же подход подходит для камер, встраиваемых компьютеров и мини-ПК.

• Киоск самообслуживания: распознавание и диалог работают локально, а сбой связи не останавливает точку.
• Умный дом: локальный ассистент управляет устройствами без отправки данных наружу. Производитель показывает демо с OpenClaw.
• Одноплатный компьютер: демо GenAI на Raspberry Pi AI HAT+ 2 с Hailo-10H.

Ограничение: это не замена облачным LLM

Edge-ускоритель с потреблением 2,5 Вт запускает компактные модели, а не гигантские облачные. Размер модели и скорость генерации зависят от объёма памяти и оптимизации. Перед покупкой проверьте, что нужная модель есть в Model Zoo или переносится через компилятор. Проверьте и совместимость с вашей платформой.

Диапазон температур от -40 °C до 85 °C

Для промышленной версии заявлен диапазон от -40 °C до 85 °C, для автомобильной — от -40 °C до 105 °C. Это важно для уличных камер, шкафов автоматики и техники, где обычная потребительская электроника не выдерживает.