Origin
type
Post
status
Published
date
slug
summary
回看这篇 2024 年收录的 HBM 产业文章:从高带宽内存与先进封装原理出发,了解供应商格局、TSV 工艺及国产供应链面临的技术挑战。
tags
category
产业观察
icon
password
Created
Jul 24, 2024 03:44 AM
URL
作者
来源
文章链接
https://www.163.com/dy/article/IT5O8VDP0511RIVP.html
发布时间
标签
阅读提示:本文为历史文章的整理版。产品规格、企业布局、市场数据及预测保留原文语境,不代表最新进展;涉及选型和决策,请核对最新官方资料。
生成式人工智能拉开了全球大算力时代的序幕,而随着众多云计算厂商、大模型厂商等在 AI 算力基础设施上投入巨资,AI 处理器需求急速攀升。作为其中关键器件之一的 HBM(高带宽内存)需求也一路看涨,在存储芯片持续低迷的背景下,带动 HBM 价格逆势激增。在“算力”需求催生“存力”风口的机遇下,纵观整个 HBM 产业链,能入局的本土企业屈指可数,面对的技术挑战巨大但前景广阔,无论从自主可控角度还是市场竞争角度,均需加快追赶脚步。
需求增长与供应格局
“内存墙”是当前制约高性能计算性能的关键瓶颈,从存储器到处理器,数据传输会面临带宽和功耗的问题,HBM 属于图形 DDR 内存的一种,通过使用先进封装(如 TSV 硅通孔、微凸块)将多个 DRAM 芯片进行堆叠,并与 GPU 一同进行封装,形成大容量、高带宽的 DDR 组合阵列。HBM 通过与处理器相同的硅中介层(Interposer)与逻辑芯片实现紧凑连接,既节省了芯片面积,又显著减少了数据传输时间,从而减少内存和存储解决方案带来的延迟,因而被认为是提升 AI 处理器性能的关键。
2014 年首款硅通孔 HBM 产品问世,但是自 2023 年 ChatGPT 发布以来,AI 服务器的强劲需求才推动 HBM 技术按照 HBM 第 1 代(HBM)-第 2 代(HBM2)-第 3 代(HBM2E)-第 4 代(HBM3)-第 5 代(HBM3E)的顺序快速迭代,第 4 代 HBM3 已规模量产并应用,带宽、堆叠高度、容量、I/O 速率等较初代均有多倍提升。当前,HBM 只有 SK 海力士、三星电子和美光三大存储巨头能够量产,因而市场呈现“三分天下”的局面,分别占据了 53%、38%和 9%(TrendForce,2022 年)的市场份额。

在 2023 年,市场中主要应用的是 HBM2、HBM2E 和 HBM3,下半年在英伟达 H100 和 AMD MI300 的推动下,HBM3 渗透率提升。据悉,今年 SK 海力士完成了 8 层 HBM3E 的验证,将于 3 月份开始批量生产,同时展示了更新的 16 层 HBM3E;三星电子则表示,已经完成了 12 层 HBM3E 的开发并将于今年上半年量产,这是迄今为止容量最高的 HBM 产品。美光也在 2024 年 2 月底首次宣布量产 8 层 HBM3E 产品。不难看出,SK 海力士由于发力更早,在 HBM 领域取得了先机,并因成为英伟达 HBM 主力供应商而市值大涨;美光进场最晚,但后来居上,直接从 HBM3E 下手,对 SK 海力士和三星电子构成了挑战。
受市场需求推动,SK 海力士、三星和美光科技等大厂正纷纷加大产能扩张力度。SK 海力士在 2 月份就透露今年旗下 HBM 已全部售罄,为了保持市场领先地位,已开始为 2025 年预作准备。三星则表示,为争夺 2024 年的 HBM 市场,计划在今年第四季度之前,将 HBM 的最高产量提升至每月 15 万件—17 万件。此前,三星还投资 105 亿韩元收购了位于韩国天安市的三星显示工厂及设备,旨在扩大 HBM 产能。美光科技 CEO Sanjay Mehrotra 日前也对外透露,美光科技 2024 年的 HBM 产能预计已全部售罄。

从 HBM3E 走向 HBM4
尽管三大 HBM 供应商仍聚焦于迭代 HBM3E,单颗 DRAM 裸芯和堆叠层数仍有提升空间,不过 HBM4 的研发均已提上日程。Trendforce 预计 HBM 最底层的 Logic die(Base die) 将采用 12nm 制程,由晶圆代工厂提供,使得单颗 HBM 需要晶圆代工厂与存储器厂来合作。而据媒体报道,SK 海力士正在招募 CPU、GPU 等逻辑芯片的设计人员,目标是将未来的 HBM4 以 3D 堆叠的形式直接堆叠在英伟达、AMD 等公司的逻辑芯片上,预计该 HBM4 内存堆栈将采用 2048 位接口。但该方案未定,只是在讨论中。
国产供应链的机遇与挑战
由于 HBM 使用的芯片比标准 DRAM 大两倍以上,意味着生产相同体积的芯片需要两倍以上的容量,这也促使 DRAM 从传统 2D 加速走向立体 3D,从而突破了内存容量与带宽瓶颈,成为新一代的 DRAM 技术路线之一。
器件结构与封装路线
从 HBM 器件结构来看,其主要特点在于,首先,3D 堆叠结构,并由 TSV 互连。HBM 由多颗 DRAM 裸芯堆叠成 3D 结构,并通过 TSV 工艺实现信号的共享和分配;其次,高 I/O 数量带来高位宽。HBM 的每颗 DRAM 裸芯均包含多个通道,可独立访问,每个通道又包含多个 I/O 口,使得总位宽大大提高。这样的器件结构,得以实现存储密度更大、功耗更低、带宽更高的优势。通过 CoWoS 封装将 HBM 与逻辑计算核心互连,成为 GPU、FPGA、CPU 等高性能计算芯片的首选。
随着 AI、机器学习等技术的快速发展对高速、大容量存储需求急剧攀升,HBM 已然成为当前存储市场最为炙手可热的领域。Yole 预测,2024 年 HBM 市场将达到 141 亿美元,2029 年则将达到 380 亿美元。2023 至 2028 年 HBM 供应的年均复合增长率将达到 45%,由于难以扩大生产,HBM 的价格预计将长期保持在较高水平。

本土企业的切入方向
在巨大的市场蛋糕面前,除了三巨头持续加大研发量产力度,一些二线、三线 DRAM 厂商也开始切入 HBM 赛道,而国产厂商随着国产 AI 处理器的水平提升,对配套的自主 HBM 供应链需求也越发紧迫。
例如中国台湾的华邦电于去年 8 月介绍了其类 HBM 高带宽产品 CUBEx, 采用 1~4 层 TSV DRAM 堆叠,I/O 速度 500M–2Gbps,总带宽最高可达 1024GB/s,颗粒容量为 0.5–4GB,功耗低至不足 1pJ/bit。这种比常规 HBM 拥有更高带宽的 CUBEx 可用于 AR、VR、可穿戴等领域。
大陆方面,目前国际一线厂商 DRAM 制程在 1alpha、1beta 水平,国产 DRAM 制程在 25–17nm 水平,中国台湾 DRAM 制程在 25–19nm 水平。国内 DRAM 制程接近海外,且国内拥有先进封装技术资源和 GPU 客户资源,有强烈的国产化诉求,未来国产 DRAM 厂商有望突破 HBM。
近日有媒体报道,某国内存储龙头启动 HBM 项目,正寻求增加设备。封测龙头长电科技在投资者互动中表示,其 XDFOI 高密度扇出封装解决方案也同样适用于 HBM 的 Chip to Wafer 和 Chip to Chip TSV 堆叠应用;通富微电此前表示,南通通富工厂先进封装生产线建成后,公司将成为国内最先进的 2.5D/3D 先进封装研发及量产基地,实现国内在 HBM(高带宽内存)高性能封装技术领域的突破,对于国家在集成电路封测领域突破“卡脖子”技术具有重要意义。
工艺成本与良率瓶颈
值得一提的是,HBM 的研发、制造涉及复杂的工艺和技术难题,包括晶圆级封装、测试技术、设计兼容性等。CoWoS 为目前主流的 AI 处理器封装方案,包括其中集成的 HBM 也采用了该封装技术。CoWoS(以及 HBM)涉及到的工艺包含 TSV、Bumps、microBumps、RDL(重布线)等。其中又以 TSV 在 HBM 的 3D 封装成本中占比最高,接近 30%。以 4 层 DRAM 存储芯片与一层逻辑芯片堆叠为例,在 99.5%的键合良率下,TSV 创建和 TSV 显露分别占总成本的 18%和 12%;在 99%键合良率下,分别占总成本 17%和 11%,是 HBM 工艺中价值量占比最高的部分。TSV 的良率水平反映了制造过程中出现缺陷的机会,如果 HBM 中的一层被证明有缺陷,那么整个堆叠都会被丢弃,因而造成整体良率难以提升。
日前海外分析师表示,三星 HBM3 芯片的生产良率约为 10%–20%,而 SK 海力士的 HBM3 良率可达 60%–70%。最大的原因就在于三星坚持使用热压非导电薄膜(TC NCF)制造技术,这会导致一些生产问题。而 SK 海力士则大规模采用回流模制底部填充(MR-MUF)技术,可以克服 NCF 的弱点。
此外,堆叠键合是 HBM 制程中的核心技术,会影响到芯片的良率以及散热性能,也是 HBM 器件制造的关键工艺。
原文列举的供应链参与者
大陆目前只有长电科技、通富微电和盛合晶微等一线封装厂商拥有支持 HBM 生产的技术(如 TSV 硅通孔)和设备。在其余供应链上,芯片设计企业国芯科技则表示已与合作伙伴一起正在基于先进工艺开展流片验证相关 chiplet 芯片高性能互联 IP 技术工作,和上下游合作厂家积极开展包括 HBM 技术在内的高端芯片封装合作。紫光国微表示,公司 HBM 产品为公司特种集成电路产品,目前还在研发阶段。香农芯创此前表示,公司作为 SK 海力士分销商之一具有 HBM 代理资质。公司未来根据下游客户需求,在原厂供应有保障的前提下形成相应销售。飞凯材料表示,环氧塑封料是 HBM 存储芯片制造技术所需要的材料之一,MUF 材料按性状和工艺分不同品种,目前公司 MUF 材料产品包括液体封装材料 LMC 及 GMC 颗粒封装料,液体封装材料 LMC 已经量产并形成少量销售,颗粒填充封装料 GMC 尚处于研发送样阶段。兴森科技表示,公司的 FCBGA 封装基板可用于 HBM 存储的封装,但目前尚未进入海外 HBM 龙头产业链。
尽管如此,能真正入局 HBM 产业链的中国企业仍是屈指可数且大多集中于上游材料端,由于 GPU 遭遇国际管制,无论从国产自主角度还是市场竞争角度,国产 AI 处理器的突破迫在眉睫,HBM 的同步突围也不能落后太多。
原平台声明
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.