9月10日消息，美光官方宣布，已經完成12-Hi堆棧的新一代HBM3E高帶寬內存，單顆容量達36GB，比之前的8-Hi 24GB增大了足足一半。

它將用于頂尖的AI、HPC計算產品，比如NVIDIA H200、B200等加速卡，單卡就能輕松運行700億參數的Llama2等大模型，不再需要頻繁調用CPU，從而減少延遲、提高數據處理效率。

美光12-Hi 36GB HBM3E內存還有著9.2Gbps的超高速率，單顆就能提供超過1.2TB/s的驚人帶寬，而且功耗比8-Hi版本更低。

臺積電CoWoS封裝技術制造，也就是NVIDIA H100、H200等普遍使用的技術，彼此可以輕松搭配。

支持完全可編程的MBIST(內存內置自測試)，可以模擬全速下的系統負載，方便快速完成測試驗證，加快上市。

美光表示，12-Hi HBM3E已經提供給關鍵伙伴進行驗證。