会议要点
1、本地模型部署优势
性能与云端差异小：Deep Learning官方测评结果显示，GPT的32B蒸馏模型能力与满血版本175B模型测评数据差异在10%以内，这意味着大幅蒸馏后可在本地部署的模型，实际使用体验和效果与云端差别不大，利好端侧做相关部署。
构建个人知识库提升效率：通过本地部署可构建个人知识库，如将研究员、分析师的交流纪要、报告等资料文档喂入本地模型，它能整理海量知识库。当需要