你的位置: 新宝网址 > 新2投注网 > AI引爆,HBM崛起
热点资讯

AI引爆,HBM崛起

发布日期:2024-02-26 20:04    点击次数:76

连年来,因为AI芯片的火热,HBM行动当中一个中枢组件,在连年来的情绪热度情随事迁。对于HBM本事的细节,不错参考半导体行业不雅察之前的著述《存储巨头竞逐HBM》。在本文中,咱们将转头HBM的崛起故事,匡助全球了解这个高带宽内存的前世今生。

以下为著述正文:

2015年6月17日,AMD中国在北京望京召缔造布会。

这场发布会上,媒体的眼神全聚拢在某款重磅家具之上,它即是全新的Radeon R9 Fury X显卡,其摄取代号为Fiji XT(斐济群岛)的28nm制程GPU中枢,摄取4GB HBM堆叠显存,领有64个策动单位(CU)、4096个GCN架构流处理器(SP),中枢频率为1050MHz,单精度浮点性能达到了8.6TFlops,而HBM显存领有4096 bit带宽,等效频率1Ghz,显存总带宽达到了512GB/S,除了显存容量外,各项确立无愧于旗舰之名。

虽说这是HBM显存初次亮相,但AMD早已长入SK海力士等厂商潜心研发多年,而Fury X行动首款搭载HBM的显卡,天然会被AMD奉求厚望。

时任AMD CEO的苏姿丰示意,HBM摄取堆叠式遐想罢了有储速率的普及,大幅改革了GPU逻辑结构遐想,DRAM颗粒由“平房遐想”改为“楼房遐想”,是以HBM显存简略带来远远超越面前GDDR5所简略提供的带宽上限,其将率先应用于高端PC市集,和英伟达(NVIDIA)伸开新一轮的竞争。

针对R9 Fury X仅有4GB显存,而R9 290X新版块却配备了8GB GDDR5显存这一问题,AMD行状群CTO Joe Macri还稀奇回报示意,显存容量其实并不是问题,GDDR5不错作念到很大,但也有着很严重的浪掷,其实有许多空间王人未赢得充分利用,AMD改日会深切研究如何更高后果地利用这4GB HBM显存。

八年多期间夙昔了,AMD官网上挂着的RX 7000系列全部摄取GDDR6显存,当初辛羁系苦和海力士合营多年才得来的HBM显存早已不见行踪,只消用于AI策动的加快卡还残留着当初的鞭策激越。

而也曾的敌手英伟达,用A100和H100两块显卡,落拓拿下了万亿好意思元的市值,坐稳了AI期间的宝座,而它们用的显存,恰是AMD当初力推的HBM。

苦研七年作嫁衣

期间再倒回2015年,AMD行状群CTO Joe Macri在纽约分析师大会上,接受了媒体的专访,针对初次落地应用的HBM作念了一系列回答。

Macri示意,AMD自2009年启动,就还是入辖下手HBM的研发职责,在长达7年的期间里,AMD与SK海力士在内的繁多业界伙伴一谈完成了HBM的最终落地。

他起初谈到了HBM显存的必要性,2015年主流的显存规格是GDDR5,历程多年的使用和发展还是插足了瓶颈期,病笃需要新的替代本事,浅易来讲,即是GPU的功耗不可能无尽度地增长下去,越来越大的高规格显存正在挤压GPU中枢的功耗空间,以前一张卡就200W功耗,显存分到30W,而之后的大容量显存却情随事迁,60W、70W、80W……再加上中枢的普及,一张显卡经常有五六百瓦的功耗,也难怪被称之为核弹卡。

Macri合计,显存濒临的关节问题即是显存带宽,它却决于显存的位宽和频率,位宽王人是GPU决定的,太高了会严重增大GPU芯单方面积和功耗,是以高端显卡一直停留在384/512位。同期,GDDR5的频率还是超越7GHz,普及空间不大了。另外,GDDR5(包括以前的显存)王人濒临着“占大地积”的问题。一大堆显存颗粒围绕在GPU芯片周围,这还是是固定模式,GDDR5再如何缩小也无法改革,而且还是不可能再继续大幅度缩小了。

即使在今天来看,AMD这番对于显卡功耗的话也挑不出什么舛误,GDDR5的频率照实到了上限,而功耗问题也一直困扰着厂商和消费者,英伟达最新的RTX 40系显卡为了缩减功耗和资本,就对显存位宽开了刀,功耗倒是小了,然则跑高分辨率游戏又变得不利索了。

事实上,行业内大部分东谈主王人合计GDDR还是不成了到头了,但照旧握着鼻子继续用,因为全球的共鸣是,锻真金不怕火且过期的本事总比先进但不可靠的本事好,只消AMD透澈改革了念念路,毕竟这家公司从出身起,就不穷乏改革的勇气。

勇气是有了,不外AMD简略在显存上改良,照旧极猛进度上受到了大洋此岸日本的启发。

1999年,日本超顶端电子本事缔造机构(ASET)启动资助摄取TSV本事缔造的3D IC芯片,该面目名为“高密度电子系统集成本事研发”;2004年,尔必达启动研发TSV本事,同期接受了来自日本政府的新动力与产业本事缔造组织(NEDO)的资助;2006年,尔必达与NEC、OKI共同缔造出摄取TSV本事的堆栈8颗128Mb的DRAM架构……

什么是TSV呢?TSV全称为Through Silicon Via,是一种新式三维堆叠封装本事,主如果将多颗芯片(或者晶圆)垂直堆叠在一谈,然后在里面打孔、导通并填充金属,罢了多层芯片之间的电长入。比拟于传统的引线长入多芯片封装样式,TSV简略大大减少半导体遐想中的引线使用量,缩散工艺复杂度,从而普及速率、缩短功耗、缩小体积。

这项本事不光能应用于DRAM范围,在NAND和CIS上也有弘大的出息,其最早即是在闪存上得以执行:东芝在2007 年 4 月推出了具有 8 个堆叠芯片的 NAND 闪存芯片,随后海力士又在 2007 年 9 月推出了具有 24 个堆叠芯片的 NAND 闪存芯片。

2009年,尔必达宣布已告捷缔造业内第一款TSV DRAM芯片,其使用8颗1GB DDR3 SDRAM堆叠封装而来,并在2011年6月启动托福样品,TSV本事珍贵走上内存这个大舞台。

紧随其后的是韩国与好意思国厂商,2011年3月,SK海力士宣布摄取TSV本事的16GB DDR3内存(40nm级)研发告捷, 9月,三星电子推出基于TSV本事的3D堆叠32GB DDR3(30nm级),10月,三星电子和好意思光科技长入宣布推出基于 TSV 本事的夹杂内存立方(HMC) 本事。

AMD在收购ATI后,就还是打起了显存的主意,但想要从新研发全新的显存法式,光靠我方的GPU部门闭门觅句彰着是不够的,于是AMD拉来了几个至关首要的合营伙伴:有3D 堆叠内存资格的韩厂海力士,作念硅中介层的联电,以及负责封装测试的日蟾光和Amkor。

HBM应时而生,前边提到了GDDR堕入到了内存带宽和功耗限度的瓶颈,而HBM的念念路,即是用TSV本事打造立体堆栈式的显存颗粒,让“平房”进化为“楼房”,同期通过硅中介层,让显存长入至GPU中枢,并封装在一谈,完成显存位宽和传输速率的普及,可谓是一举两得。

2013年,历程多年研发后,AMD和SK海力士终于推出了HBM这项全新本事,还被定为了JESD235行业法式,HBM1的职责频率约为1600 Mbps,漏极电源电压为1.2V,芯片密度为2Gb(4-hi),其带宽为4096bit,远超GDDR5的512bit。

除了带宽外,HBM对DRAM能耗的影响相通首要,同期期的 R9 290X在DRAM上花消了其250W额定功耗的15-20%,即约莫38-50W的功耗,算下来GDDR5每瓦功耗的带宽为10.66GB/秒,而HBM每瓦带宽超越35GB/秒,每瓦能效提高了3倍。

此外,由于GPU中枢和显存封装在了一谈,还能一定进度上收缩散热的压力,原来是一大片的散热区域,浓缩至一小块,散热仅需针对这部分区域,原来动辄三电扇的遐想,不错精简为双电扇致使是单电扇,变相缩小了显卡的体积。

归正克己多得数不明晰,不管是AMD和SK海力士,照旧媒体和繁多玩家,王人认定了这才是改日的显存,英伟达主导的GDDR已历程时了,要被扫进历史的垃圾堆了。

坏处嘛,前文中提到的旗舰显卡仅救援4GB显存算一个,毕竟高带宽是用来跑高分辨率的,终结显存大小缩水奏凯让HBM失去了本体应宅心旨。

而价钱更是压倒AMD的终末一根稻草:HBM1的资本已不可考,但8GB HBM2的资本约150好意思元,硅中介层资本约25好意思元,臆度175好意思元,同期期的8GB GDDR5仅需52好意思元,在莫得谈判封测的情况下,HBM资本还是是GDDR的三倍傍边,一张RX Vega 56零卖价才400好意思元,一半的资本王人花在了显存之上,GPU部门本来是要补贴CPU部门的,终结目下情况却要反过来,谁又能担戴得起呢?

因而AMD火速取消了后续显卡的HBM显存搭载贪图,老老实实随着英伟达的递次走了,在RX 5000系列上奏凯改用了GDDR6显存,HBM在AMD的游戏显卡上二世而一火。

反不雅英伟达,却是以逸击劳,2016年4月,英伟达发布了Tesla P100显卡,内置16GB HBM2显存,带宽可达720GB/s,具备21 Teraflops的峰值东谈主工智能运算性能。

英伟达在HBM上并未像AMD一样深耕多年,如何短暂反手即是一张搭载了HBM2的显卡,对AMD发起了反攻的军号呢?

背后的原因其实还颇有些复杂,Tesla P100显卡所用的HBM2显存,并非来自于AMD的合营伙伴SK海力士,而是近邻的三星电子,相通是韩厂的它,在基于TSV本事的3D堆叠内存方面的缔造并不失色于海力士若干,在奋发蹈厉的情况下,很快就缩小了差距,而英伟达正有缔造HBM相干显卡之意,二者一拍即合。

至于AMD与联电、日蟾光、Amkor等好辞让易贬责的硅中介层与2.5D封测,英伟达则是找到了业界的另一个大佬——台积电,看上了它旗下的先进封装本事CoWoS(Chip-on-Wafer-on-Substrate),其早在2011年就推出了这项本事,并在2012年起初应用于Xilinx的FPGA上,二者相通是一拍即合。

此后的故事无需赘言,英伟达从P100到V100,从A100再到H100,一语气数张高算力的显卡险些成为了AI考试中的必备利器,出货量节节攀升,致使超越了传统的游戏显卡业务,而HBM也在其中大放光彩,成为了嵌入着的最瞩想法一颗坚持。

起了个大早,赶了个晚集,是对AMD在HBM上的最佳概述,既莫得凭借HBM在游戏显卡市蚁合反杀英伟达,反而被英伟达利用HBM自如了AI策动范围的地位,白白被别东谈主摘了熟透甜好意思的桃子。

三家老实存

在AMD和英伟达这两家GPU厂商争锋相对之际,三家起初的内存厂商也没闲着,启动了在HBM市集的你追我赶的历程。

2013年,SK海力士宣宣布捷研发HBM1,界说了这一显存法式,但它和AMD一样,好辞让易得来的上风却没保持得太久.

2016年1月,三星宣布启动量产4GB HBM2 DRAM,并在归并年内坐褥8GB HBM2 DRAM,自后者居上,完成了对本国同业的赶超,与HBM1比拟,显存带宽罢了了翻倍。

2017年下半年,SK海力士的HBM2老牛破车,终于宣布量产;2018年1月,三星宣布启动量产第二代8GB HBM2“Aquabolt”。

2018年末,JEDEC推出HBM2E范例,以救援加多的带宽和容量。当传输速率飞腾到每管脚3.6Gbps时,HBM2E不错罢了每堆栈461GB/s的内存带宽。此外,HBM2E救援最多12个DRAM的堆栈,内存容量高达每堆栈24GB。与HBM2比拟,HBM2E具有本事更先进、应用范围更平方、速率更快、容量更大等本性。

2019年8月,SK海力士宣宣布捷研发出新一代“HBM2E”;2020年2月,三星也珍贵宣布推出其16GB HBM2E家具“Flashbolt”,于2020年上半年启动量产。

2022年1月,JEDEC组织珍贵发布了新一代高带宽内存HBM3的法式范例,继续在存储密度、带宽、通谈、可靠性、能效等各个层面进行彭胀升级,其传输数据率在HBM2基础上再次翻番,每个引脚的传输率为6.4Gbps,配合1024-bit位宽,单颗最高带宽可达819GB/s。

而SK海力士早在2021年10月就发布了全球首款HBM3,并于2022年6月珍贵量产,供货英伟达,打败了三星,再度于HBM上拿到了本事和市集上风。

三星天然也出头出面,在它发布的门路图中,2022年HBM3本事还是量产,2023年下半年启动大范围坐褥,瞻望2024年罢了接口速率高达7.2Gbps的下一代HBM本事——HBM3p,将数据传输率进一步普及10%,从而将堆叠的总带宽普及到5TB/s以上。

讲到这里,全球难免会心生疑问,王人说了是三家老实存,这三星和海力士加一块就两家啊,还王人是韩国的,另外一家跑哪去了呢?

身在好意思国的好意思光天然莫得冷落显存市集,行动尔必达的收购者,它对于3D堆叠的TSV本事如何也不会生疏,致使在HBM发布之前,还有不少TSV本事方面的上风。

然则好意思光却没随着AMD或英伟达去饱读捣HBM本事,而是回头选用了英特尔,搞出了HMC(夹杂内存)本事,天然也使用了TSV,但它有我方的限度器芯片,况且绝对封装在PCB基板之上,和HBM截然有异,也绝对不兼容。

2011年9月,好意思光珍贵宣布了第一代HMC,并在2013年9月量产了第二代HMC,但反馈者却三三两两,第一个摄取 HMC 内存的处理器是富士通的SPARC64 XIfx,其搭载于2015 年推出的富士通PRIMEHPC FX100 超算,此后就鲜见于种种家具中。

随着2018年8月,好意思光宣布珍贵拔除HMC后,才匆仓猝忙转向GDDR6和HBM家具的研发,幸而3D堆叠本事的基础底细还在那边,不至于说绝对过期于两个韩厂。2020年,好意思光珍贵示意将启动提供HBM2家具,用于高性能显卡,工作器处理器等家具,其在财报中瞻望,将在2024年第一季度量产HBM3家具,最终赶上目下起初的竞争敌手。

AI大潮仍然席卷全球,而英伟达H100和A100显卡依旧火热,HBM行动内存市集的新蛋糕,却是最鲜好意思的一块。芯片行业商议公司 SemiAnalysis 示意,HBM 的价钱约莫是法式 DRAM 芯片的五倍,为制造商带来了更大的总利润。目下,HBM 占全球内存收入的比例不到 5%,但 SemiAnalysis 面目瞻望到 2026 年将占到总收入的 20% 以上。

这块鲜好意思的蛋糕大部分留给了先驱,集邦商议看望暴露,2022年三大原厂HBM市占率离别为SK海力士50%、三星约40%、好意思光约10%,十成里面占一成,好意思光自认为家具不逊于韩厂,但市集却从不会为某个自高本事起初的厂商豁略大度。

总结

当初尔必达的坂本幸雄认为日本半导体输东谈主不输阵,时任好意思光CEO莫罗特亚在接受采访时也示意,AI 范围不光有 HBM,还包含高密度 DDR5、好意思光定制LP DRAM以及一部分图形内存,概述来说,即是输了HBM但还没在AI上认输。

倘若让这俩CEO总结失败的警告,或许只可发出一句“时也,命也,运也,非吾之所能也”之泪的感叹吧,输天然是不可能输的,好意思光和尔必达即使倒闭也不会说本事不成,把极度悔怨于市集,落了个孤独落拓。

再回过甚来看,AMD 在2015年发布R9 Fury X时的判断错了吗?天然没错,内存带宽的实在确到了瓶颈,从GDDR5到GDDR6X险些莫得逾越,但在游戏显卡,不错摄取大型缓存行动帧缓冲区,让资本较低的GDDR接着起程,但数据中心和AI加快卡的带宽问题却非HBM不可,资本在这一范围反倒成了最不起眼的问题。

如今AMD调转船头,再战AI范围,但愿HBM能让他们在这个市集升起。

本文作家:邵逸琦,开始:半导体行业不雅察,原文标题:《HBM的崛起!》

风险教唆及免责条件 市集有风险,投资需严慎。本文不组成个东谈主投资提倡,也未谈判到个别用户特殊的投资方针、财务现象或需要。用户应试虑本文中的任何宗旨、不雅点或论断是否合乎其特定现象。据此投资,株连气象。

----------------------------------