什么是端侧 AI

端侧 AI(On-Device AI / 设备端 AI)就是把大模型或 AI 算法直接部署在手机、PC、Mac、汽车、AI 眼镜、智能音箱等终端硬件里,数据不出本机,用设备自带 NPU/GPU/Neural Engine 做推理。

和云端 AI 的区别一句话讲清:

云端 AI:设备采集数据 → 上传服务器 → 算完回传(依赖网络、有延迟、数据出设备)





端侧 AI: