CPO:带宽增速仅1.4倍,全光内存架构能否打破AI瓶颈?
展开

点外卖这事,大家可能都不陌生。
在点外卖的场景里,后厨炒菜速度很快,翻了好几倍,这样看来,你大概觉着你很快就能吃上了,但如果给你送外卖的骑手小哥送餐速度有点拉胯,那结果会是什么呢?
外卖全做好了,都堆在那了,就是送不出去。这可能就是结果。
为啥聊这些?
现在全球最顶级的AI芯片,就像这做外卖的。算力每两年翻3倍,可数据传输通道只宽了1.4倍。花大把银子买来的GPU集群,相当一部分时间可能都是在等数据,而且还浪费了电,额外开支了电费。
为了喂饱这些芯片,内存巨头SK海力士最近发布了一个方案——不用铜线传电信号了,直接改用光,让数据光速抵达。
那么,这思路真的能让AI不再等吗?
“算力强,传输堵。”
先看一组数字。根据SK海力士联合弗吉尼亚大学、麻省理工学院等机构今年8月20日发表在《自然·电子学》上的论文,硬件计算吞吐能力大约每两年增长3倍,但互联带宽同期只增长约1.4倍。
这什么意思呢?
这就像开篇提到翻了好几倍速度的后厨炒菜的(算力),但外卖送餐骑手送餐速度并没有同步提上去(带宽)。炒菜再快,但送餐速度就那样,提不上去。AI圈管这叫“带宽墙”——算力越强,瓶颈越明显。
过去几年,HBM(高带宽内存) 解决了芯片内部GPU等数据的问题。但AI集群从几十颗GPU扩展到几千颗,问题就从芯片内部转移到了芯片和芯片、服务器和服务器之间。传统铜线在短距离内还行,但速率和距离同时增加时,信号损耗、功耗和干扰急剧上升。
“用光来跑。”
怎么解决这问题呢?思路其实听起来,似乎是简单且直接的,那就是把电信号跑不动的长距离,换成光信号来跑。
CPO(共封装光学) 的核心就是把光学收发器直接集成到处理器同一封装内,让芯片之间用光信号而非长距离电信号交换数据。以前数据要从芯片出发,经过封装、电路板走线,到机箱面板的光模块才能变成光。现在高速电信号只跑最短距离,剩下全用光链路。
不久前,英伟达官宣旗下Spectrum-X以太网交换机(全球首款200G/lane规格CPO设备)全面量产。SK海力士的论文也为下一代AI基础设施设定了中长期技术指标:单节点带宽超100Tb/s、能耗低于1pJ/bit、芯片间延迟低于10纳秒,以上均为远期研发目标,当前量产产品暂未达标。
“更远的想象。”
但CPO目前主要解决的是芯片之间怎么传数据。SK海力士这篇论文真正让人眼前一亮的是更远的构想是,把光互连继续推进,直接延伸到内存接口。
他们提出了一种“以光为中心”的架构。通俗理解就是,通过光子中介层,把计算芯片和内存芯片直接连起来。现在的GPU和HBM是绑定的,也就是一颗GPU配多少内存,出厂就定了。新架构下,多个AI加速器可以共享同一个大容量内存池。哪颗芯片需要数据,就从池子里取,不用各自绑死。
有研究者在arXiv上发表的论文提出了一种光纤内存架构,在1万个AI加速器的场景下,与传统HBM3e方案相比,可减少超过70%的权重传输能耗。当然,这只是学术界仿真推演的理论架构,目前无商用落地方案,但技术方向具备长期参考价值。
“理想与现实。”
说了美好的未来设想,也看下当前现实。
先看量产良率。 光引擎要整合激光器、调制器等元件,制程复杂,对良率要求极高。行业机构测算,即便单一光引擎良率达到95%,叠加封装、光路耦合、系统测试多道工序后,整套CPO系统综合良率大概率不足20%。
供应链透露,2026年量产规模依然极为有限。集邦咨询TrendForce数据显示,2026年CPO在AI数据中心光模块渗透率仅0.5%,整体不足1%,预计2030年达到约35%——四年时间从1%到35%,曲线陡峭,但起点确实算不上高。
其次看上游材料。 真正制约CPO量产的是上游的磷化铟激光芯片。光芯片产线建设加上客户验证周期漫长。
第三是系统级集成的难度。 要把光器件、电芯片、封装、散热、协议全部捏在一起,大概就不是简单粘上去就行。
“写在最后。”
最后,再聊一下几个值得思考的事。
首先是瓶颈正在外移。从芯片内部、芯片之间、机架之间、内存池之间,每一层都在用光替代电。这不是单一技术就能一劳永逸彻底解决的事,而可能是需要分阶段完成全链路光电改造。
其次是内存厂商的角色在变。SK海力士这次发论文,释放了一个信号,那就是存储公司正从卖颗粒走向参与定义整个AI系统的数据流动方式。
第三是学术探索和商业落地之间还有距离。以光为中心的架构目前仅停留在论文仿真推演阶段,暂无硬件实物落地。把光延伸到内存接口,涉及从2D、2.5D中介层到3D异构集成的漫长演进,中间还有大量工程问题要解决。
所以,回到开头那堵在派送上的外卖,AI的世界里,“带宽墙”就是那个看不见拥堵,算力再强,数据搬不动,一切也可能是白搭。CPO也好,全光内存架构也好,本质上都是在解决同一个问题,那就是怎么让数据跑得跟计算一样快。
这条路,方向是明确的,但路还很长。技术突破可能从来不是一朝一夕,而是一步一步把不可能变成可能的过程。
参考资料:
华尔街见闻.海力士在权威期刊发表CPO路线图:“以光为中心”,把光延伸到内存接口.2026年8月20日.
话题与分类:
主题股票:
主题概念:
声明:遵守相关法律法规,所发内容承担法律责任,倡导理性交流,远离非法证券活动,共建和谐交流环境!
