先进封装设计对AI制造商为何至关重要
人工智能(AI)工作负载的快速增长,正在迫使数据中心互连进行根本性的重新设计。

图:POET Blazar™ 是一款外部光源,旨在解决为下一代架构提供可扩展、可制造光源的核心挑战。
如今,构建十万张GPU集群的企业,已经不再为芯片本身而担忧。芯片的表现非常出色。真正让基础设施工程师夜不能寐的,是如何在芯片之间快速、廉价且不至于让机房“熔化”的情况下传输数据。
这就是光子技术正在解决的问题,而留给企业抢占先机的窗口期正在迅速缩小。
传统的电互连和可插拔光模块越来越难以满足带宽需求、功耗和延迟约束的指数级增长。因此,光子技术——尤其是硅光子技术——已成为下一代AI基础设施的关键使能技术。这次转型主要由三种关键架构方法定义:共封装光(Co-Packaged Optics,简称CPO)、近封装光(Near-Packaged Optics,简称NPO)以及新兴概念(常被称为超密集封装光,Extra-dense Packaged Optics,简称XPO)。它们共同构成了一条集成度的连续谱,正在重塑硬件设计和整个AI经济。
CPO、NPO和XPO的定义
共封装光(CPO) 是集成度最高的方案。它将光引擎直接封装在交换ASIC或处理器同一封装体内。将电信号路径缩短至接近零,即可在信号产生前消除大部分损耗。这种集成方式最小化了计算单元与光I/O之间的电距离,显著提升了带宽密度并降低了功耗。通过将电路径缩短至接近零,CPO减少了信号损耗和延迟,能够满足AI集群所需的超高数据速率。
近封装光(NPO) 是一种中间方案。它是为那些希望立即获得效率提升、又不愿等待完整CPO制造工艺成熟的运营商提供的务实选择。将光引擎放置在与芯片同一电路板上、距离仅几毫米的位置,即可捕获大部分功耗和信号完整性方面的改进,同时保持系统的模块化,便于大规模维护和更换。早期部署显示,与传统可插拔光模块相比,NPO可实现20%至35%的功耗降低。NPO方案在保留了CPO诸多效率优势(如降低功耗、提升信号完整性)的同时,保持了良好的模块化和可维护性。
超密集封装光(XPO) 是新定义的一种可插拔光解决方案,它提供极高密度的封装,并采用液冷进行更好的热管理。XPO旨在保留可插拔光模块的优势(多供应商、即插即用、高可维护性),同时达到与CPO或NPO相当的密度。本质上,XPO代表了光子技术未来的发展方向,它能实现跨机架、跨板卡乃至整个数据中心的灵活扩展。
光子封装为何对AI如此重要
AI训练和推理工作负载需要在GPU、内存和网络结构之间进行海量数据传输。在现代超大规模集群中,数千个加速器必须像一个单一系统一样协同工作,这对互连提出了前所未有的需求。传统铜缆电互连在超过800 Gb/s的速度下会面临严重的信号损耗、发热和功耗效率问题。

光子技术通过用光而不是电信号来传输数据来解决这些挑战。光互连提供更高的带宽、更低的距离衰减以及显著提升的能效。当与CPO和NPO等先进封装技术结合时,光子技术能带来系统性能的阶跃式提升。事实上,行业路线图显示,高度集成的光I/O将成为未来AI基础设施的必备要素。
市场机会与增长轨迹
CPO、NPO和XPO架构中的光子产业市场机会巨大且增长迅速。目前开发活动处于历史最高水平,Broadcom和NVIDIA均计划在2027年出货集成CPO的规模扩展平台。
行业预测显示,AI先进光封装市场的潜在总可寻址市场(TAM)在2027年将达到76亿美元,到2032年将增长至228亿美元,复合年增长率(CAGR)为24.6%——最乐观情况下可达340亿美元。仅CPO和NPO模块的合并市场预计到2027年就将达到约55亿美元,主要由超大规模数据中心和AI应用的需求驱动。这些数字主要涵盖交换机和网络层。当这种集成压力延伸到GPU、内存子系统以及所有涉及AI工作负载的组件时,实际市场空间远不止于此。目前引用的TAM只是地板值,而非天花板。
随着AI模型参数规模迈向万亿级别,实时推理变得无处不在,新的市场将涌现于光子集成电路(PIC)、先进封装技术、光纤创新以及协同设计软件工具等领域。
先进封装方案的效率与成本优势
推动CPO、NPO和XPO采用的最重要因素之一是能效。数据中心本身已消耗大量电力,而互连功耗进一步增加了这一总量。通过缩短(甚至完全消除)电信号传输距离,光子集成可以大幅降低每比特能耗。
CPO能提供最高的效率提升,但制造复杂度、热管理和维护难度也会相应增加。NPO则提供了更平衡的折中方案,能够实现渐进式改进,而无需对系统架构进行彻底重构。XPO则有望在保留可插拔光模块优势的同时,满足与CPO和NPO相似的密度要求。
成本节约还来自于组件数量的减少和系统设计的简化。例如,取消高功耗数字信号处理器(DSP)和长铜迹线,可以同时降低资本支出和故障率。随着时间推移,硅光子制造的规模经济效应——即“光子的半导体化”——预计将进一步推动成本下降。
POET在CPO、NPO和XPO中的作用
POET Technologies的两个外部光源(ELS)平台——POET Blazar™ 和 POET Starlight™——直接解决了为下一代芯片级光架构(包括CPO和NPO)提供可扩展、可量产光源的核心挑战。
这两个解决方案的核心都是POET Optical Interposer™平台,它能在晶圆级集成激光器、波导和无源光学元件。这种设计对于CPO、NPO和XPO架构至关重要,这些架构越来越需要紧凑、高效且成本可控的芯片相邻或芯片级光互连。这要求采用可高体积制造的紧凑、高效外部光源。

图:基于POET Optical Interposer™平台构建的POET Starlight™为AI制造商带来了显著的成本节约。
POET Starlight是一款商用就绪的封装光引擎,专为集成到AI和硅光子生态系统而设计。它将高功率连续波激光器与多路复用器、解复用器、分路器和波导等无源元件直接集成到Interposer中。这种高度集成使Starlight能够以紧凑的尺寸提供多波长、多通道光源,实现与CPO和NPO系统中ASIC及光子芯片的无缝连接。重要的是,其晶圆级无源对准技术和已知良好激光芯片的使用,可将组装复杂度和成本大幅降低——最高可达75%——同时支持高体积制造。
相比之下,POET Blazar是下一代高性能外部光源,旨在为未来CPO、NPO和XPO架构推动可扩展性和性能提升。Blazar采用晶圆级芯片级封装技术构建的高功率多通道混合激光器,可提升可靠性,同时大幅降低成本并提高可制造性。它专为支持高带宽芯片到芯片光互连而设计,这是解耦AI计算架构的核心要求。通过减少对传统分布式反馈(DFB)激光器阵列的依赖,并提高磷化铟(InP)材料的利用率,Blazar实现了更好的供应链可扩展性和成本效率,这对超大规模部署至关重要。
Starlight和Blazar共同构成了POET外部光源产品组合的基石,覆盖了光I/O架构当前和未来的需求。Starlight为CPO和NPO系统的近期部署提供了经过验证、可量产的解决方案,而Blazar则为下一代AI光互连开辟了更高功率、更高密度和更具可扩展性的光源路径。
这些解决方案消除了光封装中的关键瓶颈——尤其是激光对准、热管理和成本——使芯片级光子技术成为具有商业可行性的推动力量。
创新机会
尽管前景广阔,向光子技术的转型仍面临诸多挑战。制造良率、封装精度和光纤对准都需要新的工程解决方案。此外,标准化和互操作性仍是持续的关注点。
然而,这些挑战也代表着创新机会。那些能够开发出可靠封装技术、高效光耦合方法或可扩展光子芯片let架构的公司,将获得巨大的商业关注。
前景非常光明。CPO、NPO和XPO定义了一系列光子集成策略,正在快速改变AI基础设施。从NPO和XPO的近期部署,到完全集成的CPO系统的长期愿景,光子技术正日益成为实现下一代AI工作负载所需性能、效率和可扩展性的核心。
对于硬件制造商而言,机会显而易见:那些拥抱光子技术驱动架构的企业,将打造出更快、更节能的系统,并在日益激烈的AI竞争格局中获得决定性优势。
文章来源:https://www.poet-technologies.com/blog/why-advanced-packaging-designs-are-crucial-for-ai-manufactuers
- 收藏




