M.2-ускоритель 24 TOPS
Карта M.2 M-key 2280 с NPU Axera AX8850: 24 TOPS INT8, 8 ГБ на карте, ≤7 Вт, аппаратный декод 16×1080p — в слот ПХ-К40 / ПХ-К01 или в уже стоящий x86-ПК.
Цена — по запросу
Каталог
Карты M.2 с NPU (NPU-ускорители) в слот ПХ-К40 / ПХ-К01 или в уже стоящий x86-ПК: +20–24 TOPS для тяжёлых моделей, VLM и LLM до 7B. Axera AX8850 — дешевле и с видеодекодером на карте; Rockchip RK1828 — один стек RKNN / rkllm с хостом (под заказ, срок и цена — в КП). Драйверы и рантаймы — в образе. Купить можно от 1 шт.; КП — за 2 рабочих дня.
Карта M.2 M-key 2280 с NPU Axera AX8850: 24 TOPS INT8, 8 ГБ на карте, ≤7 Вт, аппаратный декод 16×1080p — в слот ПХ-К40 / ПХ-К01 или в уже стоящий x86-ПК.
Цена — по запросу
Карта M.2 M-key 2280 с NPU Rockchip RK1828: 20 TOPS INT8, 5 ГБ на карте, LLM до 7B — тот же стек RKNN / rkllm, что у RK3588; в слот ПХ-К40 / ПХ-К01.
Цена — по запросу
Карта — второй вычислитель рядом с NPU хоста: под AX8850 модель конвертируется в формат карты (Pulsar2 / AXCL), под RK1828 — тем же RKNN / rkllm, что и для RK3588. Часть операторов может не лечь на NPU карты — проверяем на вашей модели до партии. В x86-ПК — только Linux; список проверенных моделей ПК ведём по мере тестов. TOPS указываем dense INT8 по паспорту производителя.