Компания Firefly Technology начала продажи компьютера небольшого форм-фактора AIBox-K3, предназначенного для решения ИИ-задач на периферии: устройство, в частности, подходит для осуществления локального инференса.
Firefly Technology выпустила AIBox-K3: локальный ИИ за $350

Компания Firefly Technology открыла продажи миниатюрного компьютера AIBox-K3 - устройства размером чуть больше кулака, способного запускать ИИ-модели до 30 млрд параметров без облака и серверной стойки. Стартовая цена - $350, и это уже не концепт, а коммерческий продукт на полке.

Мозг машины: RISC-V с ИИ-акцентом

В основе AIBox-K3 лежит процессор SpacemiT K3 - восемь 64-битных ядер RISC-V X100 с тактовой частотой до 2,4 ГГц плюс восемь специализированных ИИ-ядер RISC-V A100. Суммарная производительность на операциях INT4 достигает 60 TOPS - это серьёзная цифра для устройства, умещающегося в корпус 93,4 × 93,4 × 50 мм.

За графику отвечает GPU-блок Imagination Technologies BXM4-64-MC1 с поддержкой Vulkan 1.3 и OpenCL 3.0. Устройство умеет декодировать H.265, H.264 и VP9 в 4K при 120 к/с, а кодировать H.265 и H.264 - в 4K при 60 к/с. Вывод изображения - через HDMI 2.0, также в 4K при 60 Гц.

Конфигурации и начинка

Покупатель выбирает объём оперативной памяти LPDDR5-6400: 8, 16 или 32 Гбайт. Встроенный флеш-модуль UFS 2.2 доступен в вариантах 128, 256 или 512 Гбайт. Расширение хранилища - через слот M.2 2242/2280 с интерфейсом PCIe 3.0 x4 (NVMe).

По портам: спереди - USB 3.0 DRD Type-C и консольный USB Type-C, сзади - два USB 3.0 Type-A, два RJ45 и HDMI 2.0. Сеть - двухпортовый контроллер 1GbE. Питание принимается через DC-разъём в диапазоне 9-20 В. Корпус - алюминий промышленного класса, рабочий диапазон температур от -20 до +60 °C, масса около 500 г.

Локальный инференс: что это даёт на практике

Firefly Technology заявляет производительность свыше 10 токенов в секунду при локальном запуске ИИ-моделей с числом параметров до 30 млрд. Это означает, что AIBox-K3 позиционируется как инструмент периферийных вычислений: инференс выполняется прямо на устройстве, без отправки данных в облако.

Совместимость охватывает широкий спектр операционных систем: Bianbu OS 3.0, Ubuntu 26.04, OpenHarmony, OpenKylin, Fedora, Deepin и другие. Базовая конфигурация с 8 Гбайт ОЗУ и 128 Гбайт хранилища стоит $350 - порог входа для edge AI-вычислений, который ещё несколько лет назад выглядел бы фантастикой.