瑞芯微soc已完成deepseek模型适配
展开
rk3588,rk3576两款soc,在AI BOX产品已完成deepseek R1系列模型适配。推理速度能达到英伟达,比特大陆gpu的一半,成本估计只有英伟达和比特大陆的零头,可以看出soc在端侧推理中的优势。$瑞芯微(sh603893)$跑小模型时太有优势了,端侧推理芯片未来是soc天下,同样的生成速度比gpu和asic芯片成本低很多
[图片]
[图片]
[图片]
[图片]
