集邦咨询：预期HBM3与HBM3e将成2024年HBM市场主流 两大韩厂原定明年Q1送样HBM3e

智通财经APP知悉，根据TrendForce集邦征询调查推断，2023年HBM（High Bandwidth Memory）市场小众为HBM2e，包涵NVIDIA A100/A800、AMD MI200以及极少CSPs自研减速集成电路若无以此规格设计。同时，为有鉴于AI核物理集成电路效益社则会的发展，各原厂方案于2024年大受欢迎新产品HBM3e，意味著HBM3与HBM3e将沦为今年市场小众。

HBM各代人相似之处，主要以速度做可分。除了市场据信的HBM2e均，在进到HBM3代人时，产业显现出较为不安的名称。TrendForce集邦征询特别表示，目前市场可称的HBM3实际需可分为两种速度讨论，其一，5.6-6.4Gbps的HBM3；其二，8Gbps的HBM3e，常称HBM3P、HBM3A、HBM3+、HBM3 Gen2若无旧属此类。

目前三大原厂HBM发展进度如下，两韩国厂SK海力士（SK hynix）、三星（Samsung）先行从HBM3技术开发，亦然产品为NVIDIA H100/H800以及AMD的MI300系列，两韩国厂预估于2024年第一季送样HBM3e；美系原厂美光（Micron）则同样上到HBM3，直接技术开发HBM3e。

HBM3e将由24Gb mono die堆栈，在8层（8Hi）的基础下，单颗HBM3e容量将一口气进一步提高至24GB，此将整合在2025年NVIDIA大受欢迎的GB100上，故三大原厂预估要在2024年第一季大受欢迎HBM3e探头，以期在今年下半年进到量产车。

CSP陆续重新启动自研AI减速集成电路方案，遂逃避对NVIDIA与AMD的依赖于

注意到AI应用程序（AI server）所用的减速集成电路，其中都英伟达（NVIDIA）Server GPU市占极高。然而，三份2万-2.5万美元的H100/H800，一台AI应用程序促请配置约为8张卡，也使得总体拥有成本（Total Cost of Ownership，TCO）大幅提高进一步提高。TrendForce集邦征询注意到到，各云端金融业者（CSP）虽然仍则会向NVIDIA或超威（AMD）采购Server GPU，但也同步进行自研AI减速集成电路的方案。

除了并未大受欢迎的Google TPU与AWS Trainium和Inferentia均，Google与AWS于是以着手研发次代人自研AI减速集成电路，将采用HBM3或HBM3e。TrendForce集邦征询表示，其他包涵北美及中都国的云端金融业者亦有无关验证进行中都，意味著未来AI减速集成电路版图挑战则会更加愈演愈烈。