AMD、Qualcomm推出全新先进封装技术，破解AI时代内存带宽瓶颈

AMD和Qualcomm（高通）两家公司分别推出了新的内存封装技术，以解决当今系统中的带宽瓶颈问题。

AMD 在一份公告中推出了其 Versal Premium Gen 2 封装内存 (MoP) 产品线。AMD 的这款全新 MoP 产品专为工业应用而设计，将 DRAM 和系统级芯片 (SoC) 集成在同一封装中。

随后，高通公司在另一份公告中推出了多款人工智能芯片产品，其中包括一项名为高带宽计算（HBC）的高端内存封装技术。HBC 是一种类似 2.5D 的内存技术，旨在解决人工智能服务器的内存带宽问题。

AMD和高通的封装技术各不相同，面向不同的市场领域。但这两种封装技术也有一些共同之处。首先，它们都能在系统中实现更快的数据传输速率和更低的延迟。其次，两家公司都声称，与现有的高端内存封装类型（例如高带宽内存（HBM））相比，各自的技术具有多项优势。

AMD公司总部位于加利福尼亚州圣克拉拉市，是一家为个人电脑和服务器提供基于x86架构处理器以及FPGA的供应商。高通公司总部位于加利福尼亚州圣地亚哥市，以供应智能手机芯片组而闻名。

高通也销售基于ARM架构的PC处理器，这使该公司与AMD和英特尔直接竞争。如今，高通正通过推出新的CPU和AI芯片进军数据中心领域。AMD、英特尔以及许多其他公司也在这些市场展开竞争。

什么是芯片封装？

在更详细地介绍 AMD 和高通的新封装技术之前，让我们尝试回答一个简单的问题：什么是封装？

封装是半导体行业的重要组成部分。在半导体工艺流程中，公司首先使用专门的电子设计自动化 (EDA) 软件工具设计芯片生产线。然后，芯片制造商（例如英特尔、三星、台积电等）在称为晶圆厂的大型工厂中，根据该设计制造芯片生产线。

芯片制造完成后，会被送到另一家工厂。在那里，经过处理的芯片会被组装成集成电路封装（IC封装）。封装本质上是一个小巧而坚固的外壳，用于保护芯片免受恶劣工作环境的影响。更重要的是，封装有助于提升芯片的性能。

没有一种封装能够满足所有需求。事实上，封装厂提供多种类型的封装，每种封装都针对特定的应用而设计。封装厂为汽车、通信、计算机和工业应用提供各种封装。

人工智能（AI）是另一个热门应用领域。在人工智能数据中心，计算机系统必须高速处理复杂的人工智能算法。为了处理这些数据，这些系统通常会集成一个功能强大的人工智能芯片，例如人工智能加速器、GPU 或相关设备。通常情况下，在一个系统中，人工智能芯片和 HMB 芯片会被封装在同一个封装中。这被称为 2.5D 封装（参见图 1）。

图 1. HBM 是一种 DRAM 内存堆栈。HBM 通常采用 2.5D 封装。HBM DRAM 堆栈和处理器或 GPU 位于同一封装内的中介层上。在运行中，HBM 能够实现内存与处理器或 GPU 之间的高速数据传输。来源：Rambus

在HBM技术中，将8个、12个或更多DRAM芯片垂直堆叠在一起。然后，使用称为硅通孔（TSV）的微小垂直导线连接这些DRAM芯片。TSV提供每个芯片之间的电气连接。

在运行过程中，HBM 能够实现内存和 AI 芯片之间的高速数据传输。HBM 采用 1024 位内存总线，从而在系统中实现高带宽。

美光、三星和SK海力士是市场上HBM产品的主要供应商。总而言之，HBM是人工智能等高端应用领域占主导地位的高端存储技术。

问题在于：HBM 中使用的 DRAM（动态随机存取存储器）芯片供应紧张，而且价格也大幅上涨。因此，HBM 芯片在供应紧张且价格高昂的情况下依然面临困境。此外，在许多情况下，AI 芯片和 HBM 芯片都采用台积电的 2.5D 封装技术。台积电的 2.5D 封装技术，即晶圆上基板芯片封装（CoWoS），同样也面临供应紧张的问题。

为此，存储器产品供应商正在扩大产能以满足市场需求。此外，台积电也在加紧增加CoWoS芯片的产能。

然而，由于人工智能的兴起，预计到2027年甚至更久，DRAM的供应都将十分紧张。这对整个行业来说都是一个巨大的难题。

Dragonfly技术路线

供应链困境并非许多人所能控制。但与以往一样，半导体行业仍在挑战中不断创新。事实上，一些人认为该行业需要更新、更好的封装解决方案。

例如，高通公司近期推出了面向人工智能数据中心的全新 Dragonfly 芯片，包括 C1000 CPU、AI300 推理加速器以及定制芯片产品。该公司还推出了 HBC。

在很多方面，HBC 都类似于带有 HBM 的 2.5D 封装。在 HBC 中，高通将一颗 AI 芯片封装在 2.5D 封装中。然后，将 LPDDR DRAM 芯片堆叠在一起，并封装在同一个 2.5D 封装中。根据高通发布的视频片段，AI 芯片和 DRAM 芯片堆叠在同一个封装内。

据高通公司称，HBC的设计目标是使每瓦带宽比HBM提高6倍，每瓦容量比SRAM提高200倍。

高通公司最初会将HBC集成到其AI250数据中心机架中，AI250是一个机架级AI推理平台。研究公司Jon Peddie Research的总裁Jon Peddie在一篇博客文章中写道：“高通表示，HBC将加速器逻辑与3D堆叠DRAM紧密封装在一起。”

“高通公司将HBC描述为一种以内存为中心的加速器架构。这种设计使数据更靠近计算单元，减少了通过外部接口的数据传输，并提高了带宽效率，”佩迪说道。

这是一个很有前景的解决方案。“高通的HBC方案将内存带宽、封装和功耗置于系统设计的核心。随着超大规模数据中心和企业从总成本、软件可移植性和供应链稳定性等方面评估AI机架，转折点即将到来。如果高通能够兑现承诺，AI数据中心将能够支持更多样化的架构，并减少对单一软硬件模型的依赖，”佩迪说道。

不过，关于HBC仍有一些未解之谜。“芯片团队会想要了解封装、散热、良率、维修、内存供应商支持、互连拓扑结构以及编译器可见性等方面的详细信息。首席信息官们则会关注机架电源、散热、利用率、采购时间、云访问、服务支持以及软件兼容性，”佩迪说道。

预计 HBC Gen 1 搭载 AI250 将于 2027 年中期开始商业化样品测试。

更先进的封装

诚然，人工智能在数据中心的应用如今往往成为新闻热点。但正如以往一样，除了数据中心之外，半导体市场依然十分庞大。汽车、通信、工业等其他芯片市场也同样重要。

为了满足部分市场需求，AMD推出了Versal Premium Gen 2 MoP技术。简而言之，AMD的MoP技术将Versal芯片系列和DRAM封装在同一芯片中。Versal是AMD的通用系统级芯片（SoC）产品线。

总的来说，AMD 的 MoP 技术可以将高达 32GB 的 LPDDR5X DRAM 集成到单个 SoC 封装中，在减少高达 60% 的电路板面积的同时，提供高达 288GB/s 的带宽。

“AMD 将符合 JEDEC 标准且与 Versal 计算芯片并排放置在封装基板上，”Peddie 在另一篇博文中解释道。“短互连距离省去了外部存储器布线，简化了电路板设计，减少了验证工作量，并提高了信号完整性。AMD 估计，与同等的独立存储器方案相比，电路板面积可节省 60% 以上。该公司还声称，设计人员可以省去数月的存储器接口设计、仿真、认证和电路板级验证工作。”

AMD 的 MoP 技术面向嵌入式和工业应用。随着物理人工智能、网络、航空航天和国防工作负载在日益紧凑的空间和功耗预算下处理更多数据，MoP 技术正瞄准最需要它的设计领域：测试和测量、专业视频编辑以及用于安全通信和国防加速的 VPX 系统。VPX 指的是一种坚固耐用、高性能的嵌入式计算标准（VITA 46），广泛应用于航空航天、国防和工业领域。

AMD 的 MoP 解决方案专为长生命周期和工业级环境而设计，提供 15 年以上的支持，以帮助降低设计风险，并保护产品路线图免受 HBM 较短的、数据中心驱动的更新周期的影响。

“目标应用揭示了AMD预见的未来需求方向。物理人工智能系统需要对传感器数据进行本地处理，并尽可能降低延迟。网络平台需要更大的数据包缓冲区和更快的数据传输速度。雷达和电子战系统需要实时处理大型数据集。专业视频系统需要大量的图像缓冲和人工智能辅助增强功能。测试测量设备需要捕获和分析日益庞大的数据流。每项工作负载都会对内存带宽和内存容量提出要求，同时还要在有限的物理空间内运行，”佩迪说道。

AMD Versal Premium Gen 2 MoP 设备将于 2026 年底开始提供样品，预计将于明年下半年开始量产出货。

更多封装方案

其他厂商最近也推出了新的高端存储器封装技术，包括高带宽闪存（HBF）和 Z 角存储器（ZAM）。

SK海力士和闪迪都在大力推广HBF技术。两家公司都已启动HBF的标准化流程。

与此同时，软银旗下子公司SAIMEMORY近日与英特尔签署合作协议。双方计划将ZAM商业化，​​ZAM是一种面向高容量、高带宽和低功耗的下一代内存技术。

文章来源：Semiecosystem，作者：Mark LaPedus