连年来，因为AI芯片的火热，HBM行动当中一个中枢组件，在连年来的情绪热度情随事迁。对于HBM本事的细节，不错参考半导体行业不雅察之前的著述《存储巨头竞逐HBM》。在本文中，咱们将转头HBM的崛起故事，匡助全球了解这个高带宽内存的前世今生。

以下为著述正文：

2015年6月17日，AMD中国在北京望京召缔造布会。

这场发布会上，媒体的眼神全聚拢在某款重磅家具之上，它即是全新的Radeon R9 Fury X显卡，其摄取代号为Fiji XT（斐济群岛）的28nm制程GPU中枢，摄取4GB HBM堆叠显存，领有64个策动单位（CU）、4096个GCN架构流处理器（SP)，中枢频率为1050MHz，单精度浮点性能达到了8.6TFlops，而HBM显存领有4096 bit带宽，等效频率1Ghz，显存总带宽达到了512GB/S，除了显存容量外，各项确立无愧于旗舰之名。

虽说这是HBM显存初次亮相，但AMD早已长入SK海力士等厂商潜心研发多年，而Fury X行动首款搭载HBM的显卡，天然会被AMD奉求厚望。

时任AMD CEO的苏姿丰示意，HBM摄取堆叠式遐想罢了有储速率的普及，大幅改革了GPU逻辑结构遐想，DRAM颗粒由“平房遐想”改为“楼房遐想”，是以HBM显存简略带来远远超越面前GDDR5所简略提供的带宽上限，其将率先应用于高端PC市集，和英伟达（NVIDIA）伸开新一轮的竞争。

针对R9 Fury X仅有4GB显存，而R9 290X新版块却配备了8GB GDDR5显存这一问题，AMD行状群CTO Joe Macri还稀奇回报示意，显存容量其实并不是问题，GDDR5不错作念到很大，但也有着很严重的浪掷，其实有许多空间王人未赢得充分利用，AMD改日会深切研究如何更高后果地利用这4GB HBM显存。

八年多期间夙昔了，AMD官网上挂着的RX 7000系列全部摄取GDDR6显存，当初辛羁系苦和海力士合营多年才得来的HBM显存早已不见行踪，只消用于AI策动的加快卡还残留着当初的鞭策激越。

而也曾的敌手英伟达，用A100和H100两块显卡，落拓拿下了万亿好意思元的市值，坐稳了AI期间的宝座，而它们用的显存，恰是AMD当初力推的HBM。

期间再倒回2015年，AMD行状群CTO Joe Macri在纽约分析师大会上，接受了媒体的专访，针对初次落地应用的HBM作念了一系列回答。

Macri示意，AMD自2009年启动，就还是入辖下手HBM的研发职责，在长达7年的期间里，AMD与SK海力士在内的繁多业界伙伴一谈完成了HBM的最终落地。

他起初谈到了HBM显存的必要性，2015年主流的显存规格是GDDR5，历程多年的使用和发展还是插足了瓶颈期，病笃需要新的替代本事，浅易来讲，即是GPU的功耗不可能无尽度地增长下去，越来越大的高规格显存正在挤压GPU中枢的功耗空间，以前一张卡就200W功耗，显存分到30W，而之后的大容量显存却情随事迁，60W、70W、80W……再加上中枢的普及，一张显卡经常有五六百瓦的功耗，也难怪被称之为核弹卡。

Macri合计，显存濒临的关节问题即是显存带宽，它却决于显存的位宽和频率，位宽王人是GPU决定的，太高了会严重增大GPU芯单方面积和功耗，是以高端显卡一直停留在384/512位。同期，GDDR5的频率还是超越7GHz，普及空间不大了。另外，GDDR5(包括以前的显存)王人濒临着“占大地积”的问题。一大堆显存颗粒围绕在GPU芯片周围，这还是是固定模式，GDDR5再如何缩小也无法改革，而且还是不可能再继续大幅度缩小了。

即使在今天来看，AMD这番对于显卡功耗的话也挑不出什么舛误，GDDR5的频率照实到了上限，而功耗问题也一直困扰着厂商和消费者，英伟达最新的RTX 40系显卡为了缩减功耗和资本，就对显存位宽开了刀，功耗倒是小了，然则跑高分辨率游戏又变得不利索了。

事实上，行业内大部分东谈主王人合计GDDR还是不成了到头了，但照旧握着鼻子继续用，因为全球的共鸣是，锻真金不怕火且过期的本事总比先进但不可靠的本事好，只消AMD透澈改革了念念路，毕竟这家公司从出身起，就不穷乏改革的勇气。

勇气是有了，不外AMD简略在显存上改良，照旧极猛进度上受到了大洋此岸日本的启发。

1999年，日本超顶端电子本事缔造机构（ASET）启动资助摄取TSV本事缔造的3D IC芯片，该面目名为“高密度电子系统集成本事研发”；2004年，尔必达启动研发TSV本事，同期接受了来自日本政府的新动力与产业本事缔造组织(NEDO)的资助；2006年，尔必达与NEC、OKI共同缔造出摄取TSV本事的堆栈8颗128Mb的DRAM架构……

什么是TSV呢？TSV全称为Through Silicon Via，是一种新式三维堆叠封装本事，主如果将多颗芯片(或者晶圆)垂直堆叠在一谈，然后在里面打孔、导通并填充金属，罢了多层芯片之间的电长入。比拟于传统的引线长入多芯片封装样式，TSV简略大大减少半导体遐想中的引线使用量，缩散工艺复杂度，从而普及速率、缩短功耗、缩小体积。

这项本事不光能应用于DRAM范围，在NAND和CIS上也有弘大的出息，其最早即是在闪存上得以执行：东芝在2007 年 4 月推出了具有 8 个堆叠芯片的 NAND 闪存芯片，随后海力士又在 2007 年 9 月推出了具有 24 个堆叠芯片的 NAND 闪存芯片。

2009年，尔必达宣布已告捷缔造业内第一款TSV DRAM芯片，其使用8颗1GB DDR3 SDRAM堆叠封装而来，并在2011年6月启动托福样品，TSV本事珍贵走上内存这个大舞台。

紧随其后的是韩国与好意思国厂商，2011年3月，SK海力士宣布摄取TSV本事的16GB DDR3内存（40nm级）研发告捷， 9月，三星电子推出基于TSV本事的3D堆叠32GB DDR3（30nm级），10月，三星电子和好意思光科技长入宣布推出基于 TSV 本事的夹杂内存立方(HMC) 本事。

AMD在收购ATI后，就还是打起了显存的主意，但想要从新研发全新的显存法式，光靠我方的GPU部门闭门觅句彰着是不够的，于是AMD拉来了几个至关首要的合营伙伴：有3D 堆叠内存资格的韩厂海力士，作念硅中介层的联电，以及负责封装测试的日蟾光和Amkor。

HBM应时而生，前边提到了GDDR堕入到了内存带宽和功耗限度的瓶颈，而HBM的念念路，即是用TSV本事打造立体堆栈式的显存颗粒，让“平房”进化为“楼房”，同期通过硅中介层，让显存长入至GPU中枢，并封装在一谈，完成显存位宽和传输速率的普及，可谓是一举两得。

2013年，历程多年研发后，AMD和SK海力士终于推出了HBM这项全新本事，还被定为了JESD235行业法式，HBM1的职责频率约为1600 Mbps，漏极电源电压为1.2V，芯片密度为2Gb（4-hi），其带宽为4096bit，远超GDDR5的512bit。

除了带宽外，HBM对DRAM能耗的影响相通首要，同期期的 R9 290X在DRAM上花消了其250W额定功耗的15-20%，即约莫38-50W的功耗，算下来GDDR5每瓦功耗的带宽为10.66GB/秒，而HBM每瓦带宽超越35GB/秒，每瓦能效提高了3倍。

此外，由于GPU中枢和显存封装在了一谈，还能一定进度上收缩散热的压力，原来是一大片的散热区域，浓缩至一小块，散热仅需针对这部分区域，原来动辄三电扇的遐想，不错精简为双电扇致使是单电扇，变相缩小了显卡的体积。

归正克己多得数不明晰，不管是AMD和SK海力士，照旧媒体和繁多玩家，王人认定了这才是改日的显存，英伟达主导的GDDR已历程时了，要被扫进历史的垃圾堆了。

坏处嘛，前文中提到的旗舰显卡仅救援4GB显存算一个，毕竟高带宽是用来跑高分辨率的，终结显存大小缩水奏凯让HBM失去了本体应宅心旨。

而价钱更是压倒AMD的终末一根稻草：HBM1的资本已不可考，但8GB HBM2的资本约150好意思元，硅中介层资本约25好意思元，臆度175好意思元，同期期的8GB GDDR5仅需52好意思元，在莫得谈判封测的情况下，HBM资本还是是GDDR的三倍傍边，一张RX Vega 56零卖价才400好意思元，一半的资本王人花在了显存之上，GPU部门本来是要补贴CPU部门的，终结目下情况却要反过来，谁又能担戴得起呢？

因而AMD火速取消了后续显卡的HBM显存搭载贪图，老老实实随着英伟达的递次走了，在RX 5000系列上奏凯改用了GDDR6显存，HBM在AMD的游戏显卡上二世而一火。

反不雅英伟达，却是以逸击劳，2016年4月，英伟达发布了Tesla P100显卡，内置16GB HBM2显存，带宽可达720GB/s，具备21 Teraflops的峰值东谈主工智能运算性能。

英伟达在HBM上并未像AMD一样深耕多年，如何短暂反手即是一张搭载了HBM2的显卡，对AMD发起了反攻的军号呢？

背后的原因其实还颇有些复杂，Tesla P100显卡所用的HBM2显存，并非来自于AMD的合营伙伴SK海力士，而是近邻的三星电子，相通是韩厂的它，在基于TSV本事的3D堆叠内存方面的缔造并不失色于海力士若干，在奋发蹈厉的情况下，很快就缩小了差距，而英伟达正有缔造HBM相干显卡之意，二者一拍即合。

至于AMD与联电、日蟾光、Amkor等好辞让易贬责的硅中介层与2.5D封测，英伟达则是找到了业界的另一个大佬——台积电，看上了它旗下的先进封装本事CoWoS（Chip-on-Wafer-on-Substrate），其早在2011年就推出了这项本事，并在2012年起初应用于Xilinx的FPGA上，二者相通是一拍即合。

此后的故事无需赘言，英伟达从P100到V100，从A100再到H100，一语气数张高算力的显卡险些成为了AI考试中的必备利器，出货量节节攀升，致使超越了传统的游戏显卡业务，而HBM也在其中大放光彩，成为了嵌入着的最瞩想法一颗坚持。

起了个大早，赶了个晚集，是对AMD在HBM上的最佳概述，既莫得凭借HBM在游戏显卡市蚁合反杀英伟达，反而被英伟达利用HBM自如了AI策动范围的地位，白白被别东谈主摘了熟透甜好意思的桃子。

在AMD和英伟达这两家GPU厂商争锋相对之际，三家起初的内存厂商也没闲着，启动了在HBM市集的你追我赶的历程。

2013年，SK海力士宣宣布捷研发HBM1，界说了这一显存法式，但它和AMD一样，好辞让易得来的上风却没保持得太久.

2016年1月，三星宣布启动量产4GB HBM2 DRAM，并在归并年内坐褥8GB HBM2 DRAM，自后者居上，完成了对本国同业的赶超，与HBM1比拟，显存带宽罢了了翻倍。

2017年下半年，SK海力士的HBM2老牛破车，终于宣布量产；2018年1月，三星宣布启动量产第二代8GB HBM2“Aquabolt”。

2018年末，JEDEC推出HBM2E范例，以救援加多的带宽和容量。当传输速率飞腾到每管脚3.6Gbps时，HBM2E不错罢了每堆栈461GB/s的内存带宽。此外，HBM2E救援最多12个DRAM的堆栈，内存容量高达每堆栈24GB。与HBM2比拟，HBM2E具有本事更先进、应用范围更平方、速率更快、容量更大等本性。

2019年8月，SK海力士宣宣布捷研发出新一代“HBM2E”；2020年2月，三星也珍贵宣布推出其16GB HBM2E家具“Flashbolt”，于2020年上半年启动量产。

2022年1月，JEDEC组织珍贵发布了新一代高带宽内存HBM3的法式范例，继续在存储密度、带宽、通谈、可靠性、能效等各个层面进行彭胀升级，其传输数据率在HBM2基础上再次翻番，每个引脚的传输率为6.4Gbps，配合1024-bit位宽，单颗最高带宽可达819GB/s。

而SK海力士早在2021年10月就发布了全球首款HBM3，并于2022年6月珍贵量产，供货英伟达，打败了三星，再度于HBM上拿到了本事和市集上风。

三星天然也出头出面，在它发布的门路图中，2022年HBM3本事还是量产，2023年下半年启动大范围坐褥，瞻望2024年罢了接口速率高达7.2Gbps的下一代HBM本事——HBM3p，将数据传输率进一步普及10%，从而将堆叠的总带宽普及到5TB/s以上。

讲到这里，全球难免会心生疑问，王人说了是三家老实存，这三星和海力士加一块就两家啊，还王人是韩国的，另外一家跑哪去了呢？

身在好意思国的好意思光天然莫得冷落显存市集，行动尔必达的收购者，它对于3D堆叠的TSV本事如何也不会生疏，致使在HBM发布之前，还有不少TSV本事方面的上风。

然则好意思光却没随着AMD或英伟达去饱读捣HBM本事，而是回头选用了英特尔，搞出了HMC（夹杂内存）本事，天然也使用了TSV，但它有我方的限度器芯片，况且绝对封装在PCB基板之上，和HBM截然有异，也绝对不兼容。

2011年9月，好意思光珍贵宣布了第一代HMC，并在2013年9月量产了第二代HMC，但反馈者却三三两两，第一个摄取 HMC 内存的处理器是富士通的SPARC64 XIfx，其搭载于2015 年推出的富士通PRIMEHPC FX100 超算，此后就鲜见于种种家具中。

随着2018年8月，好意思光宣布珍贵拔除HMC后，才匆仓猝忙转向GDDR6和HBM家具的研发，幸而3D堆叠本事的基础底细还在那边，不至于说绝对过期于两个韩厂。2020年，好意思光珍贵示意将启动提供HBM2家具，用于高性能显卡，工作器处理器等家具，其在财报中瞻望，将在2024年第一季度量产HBM3家具，最终赶上目下起初的竞争敌手。

AI大潮仍然席卷全球，而英伟达H100和A100显卡依旧火热，HBM行动内存市集的新蛋糕，却是最鲜好意思的一块。芯片行业商议公司 SemiAnalysis 示意，HBM 的价钱约莫是法式 DRAM 芯片的五倍，为制造商带来了更大的总利润。目下，HBM 占全球内存收入的比例不到 5%，但 SemiAnalysis 面目瞻望到 2026 年将占到总收入的 20% 以上。

这块鲜好意思的蛋糕大部分留给了先驱，集邦商议看望暴露，2022年三大原厂HBM市占率离别为SK海力士50%、三星约40%、好意思光约10%，十成里面占一成，好意思光自认为家具不逊于韩厂，但市集却从不会为某个自高本事起初的厂商豁略大度。

当初尔必达的坂本幸雄认为日本半导体输东谈主不输阵，时任好意思光CEO莫罗特亚在接受采访时也示意，AI 范围不光有 HBM，还包含高密度 DDR5、好意思光定制LP DRAM以及一部分图形内存，概述来说，即是输了HBM但还没在AI上认输。

倘若让这俩CEO总结失败的警告，或许只可发出一句“时也，命也，运也，非吾之所能也”之泪的感叹吧，输天然是不可能输的，好意思光和尔必达即使倒闭也不会说本事不成，把极度悔怨于市集，落了个孤独落拓。

再回过甚来看，AMD 在2015年发布R9 Fury X时的判断错了吗？天然没错，内存带宽的实在确到了瓶颈，从GDDR5到GDDR6X险些莫得逾越，但在游戏显卡，不错摄取大型缓存行动帧缓冲区，让资本较低的GDDR接着起程，但数据中心和AI加快卡的带宽问题却非HBM不可，资本在这一范围反倒成了最不起眼的问题。

如今AMD调转船头，再战AI范围，但愿HBM能让他们在这个市集升起。

本文作家：邵逸琦，开始：半导体行业不雅察，原文标题：《HBM的崛起！》