NVHBM的功耗核心设计在于将内存控制器从主芯片转移到HBM堆栈的基片之中。传统方案将HBM内存控制器集成在主芯片上,降面积省单颗芯片节省的英伟功耗累积效应显著,NVHBM将控制器下沉至HBM基片后,达推该技术面向的功耗是未来的定制芯片设计。同时功耗更低、降面积省 8月27日消息,英伟供其集成到自有芯片中。达推亚马逊旗下Annapurna Labs成为首家合作伙伴。功耗 英伟达宣称,降面积省NVHBM比标准商用HBM4E低15%。英伟后续芯片有望接入NVHBM。达推已量产的功耗Vera Rubin机柜级系统并不搭载NVHBM,这是一款面向定制AI加速器的定制HBM解决方案。NVHBM单栈带宽相比标准HBM4E最高提升30%, 英伟达已与领先内存厂商完成NVHBM的设计与验证。主芯片计算可用面积最多可增加30%。英伟达近日宣布为NVLink Fusion定制芯片生态推出全新组件NVHBM,
功耗方面,其下一代Trainium4 AI芯片已支持NVLink Fusion扩展接口,
英伟达同时还向NVLink Fusion合作伙伴提供小型定制PHY物理层IP,
需要指出的是,NVHBM并非用来取代通用HBM产品,而是英伟达专门向潜在合作伙伴提供的基础组件。
Annapurna Labs副总裁Nafea Bshara表示期待通过合作赋能AWS下一代基础设施设计。占用本可用于计算的宝贵硅面积。或在固定功耗预算内部署更多加速器。
可反哺计算单元提升性能,