第三类:端侧(SOC)AI 部署

本类别收录我在端侧 AI 落地方向的项目:人像抠图、ASR 等模型的 RKNN 移植与 C++ 推理全栈工程。

项目

  • helmsman — 端侧 AI 人像抠图:从模型手术、ONNX 转换、RKNN 量化,到 C++ 流水线设计与 NEON SIMD 加速。FPS 6.9 → 20.91。
  • sherpa-deployed-rockchip — sherpa-onnx ASR 模型部署到 Rockchip NPU。
Helmsman:端侧(SOC)AI 人像抠图 — 从模型到部署的全栈工程

在 RK3588S NPU 上实现实时人像抠图(Portrait Matting),覆盖模型手术、ONNX 转换、RKNN 量化、C++ 推理流水线、性能优化全链路。

Rockchip AI Edge Computing C++
Sherpa(Next Gen Kaldi)部署在Rockchip的不同SOC上

Rockchip的多款SOC上部署和优化Sherpa-NCNN以及Sherpa-ONNX

Rockchip ASR AI