[图片]

 DeepSeek 团队发布原生稀疏注意力（NSA）技术及其在长文本处理中的应用 
长文本建模的重要性
长文本建模在 AI 领域的重要性日益凸显，涉及深度推理、代码生成和多轮对话等应用。随着应用场景的复杂化，对长文本处理的需求也在不断增加。

传统 Attention 机制的瓶颈
传统 Attention 机制的计算复杂度随序列长度增加而呈平方级增长，导致计算成本高昂和延迟问题