ASUS UGen300 USB AI Accelerator 8GB — это компактный внешний USB-ускоритель искусственного интеллекта (ИИ-брелок), предназначенный для локального запуска генеративных нейросетей без подключения к облачным серверам.

Основные характеристики

• Процессор: Hailo-10H с производительностью до 40 TOPS (INT4) или 20 TOPS (INT8).
• Память: 8 ГБ LPDDR4 (4266 МТ/с).
• Энергопотребление: В среднем менее 2,5 Вт.
• Габариты: 105 x 50 x 18 мм.
• Совместимость: Поддерживаются платформы Windows, Linux и Android (для архитектур x86 и ARM).
• Поддержка моделей: Свыше 100 готовых моделей, включая LLM (большие языковые модели), VLM (визуально-языковые модели) и компьютерное зрение.
• Цена: Около 299,99 долларов США.

Назначение и плюсы

• Разгружает центральный процессор (CPU) и встроенные NPU компьютера.
• Позволяет добавлять мощную обработку ИИ старым или маломощным устройствам через интерфейс USB-C.
• Обеспечивает конфиденциальность данных за счет полного локального инференса.