美光突破性量产HBM3E与SOCAMM,引爆AI芯片性能新高度
3月25日消息,美光今天宣布,已成为全球首家也是唯一一家能够同时提供HBM3E和SOCAMM产品出货的存储器厂商。
据介绍,专为英伟达GB300GraceBlackwellUltra超级芯片设计的SOCAMM内存,以及面向HGXB300平台推出的HBM3E12H36GB、针对HGXB200平台定制的HBM3E8H24GB均已实现量产并开始出货。
美光表示,SOCAMM 是一款与 NVIDIA 合作开发的模组化 LPDDR5X 内存解决方案,是全球速度最快、体积最小、功耗最低、容量最高的模组化内存解决方案。
速度最快:在同等容量条件下,SOCAMM相较于RDIMM能够实现高达2.5倍的带宽提升,这不仅让其在处理大规模训练数据和复杂模型时表现更为出色,还显著增强了推理任务中的数据传输效率。这一技术突破无疑为人工智能领域的快速发展注入了强劲动力,尤其对于需要海量数据支持的应用场景而言,SOCAMM的优势显而易见。 我的观点认为,随着AI技术的不断进步,硬件性能的优化显得尤为重要。SOCAMM的高带宽特性正好满足了当前人工智能计算对高速数据交换的需求,这对于推动深度学习算法的研究和实际应用落地都具有重要意义。未来,我们或许会看到更多基于此类高性能内存解决方案的产品和服务涌现出来,进一步加速整个行业的创新步伐。
体积最小:SOCAMM的规格尺寸为14x90mm,仅相当于业界标准RDIMM尺寸的三分之一,能够助力服务器设计更为紧凑且高效。
最低功耗:SOCAMM解决方案的功耗仅相当于标准DDR5 RDIMM的三分之一,这一突破性进展正在重新定义AI架构中的能效表现。在当前追求高性能计算与低碳环保并行的时代背景下,这种技术革新无疑为数据中心和边缘计算设备带来了新的可能性。它不仅大幅降低了运行成本,还有效缓解了散热压力,使得硬件设计更加灵活高效。未来,随着更多应用场景对低功耗高效率的需求增加,相信此类创新方案会得到更广泛的应用与认可。这不仅是技术上的进步,也是行业迈向绿色可持续发展的重要一步。
最高容量:SOCAMM推出的解决方案由四组16层堆叠的LPDDR5X内存组成,构建出总容量达128GB的内存模组,成为目前市场上容量最高的LPDDR5X内存解决方案。
美光SOCAMM凭借其独特的模组化设计与创新堆叠技术,不仅在性能上表现优异,还特别引入了ECC纠错功能,这不仅能显著提升系统的可靠性,也极大优化了设备的维修便利性。此外,这种设计思路为液冷服务器的开发提供了更多可能性,使其在未来数据中心的应用前景更加广阔。我认为,这一系列创新点充分体现了现代科技产品在追求高效能的同时,对实用性和可持续发展的高度重视。特别是在当前绿色计算和智能化运维的大趋势下,美光SOCAMM无疑走在了行业的前沿,为用户带来了更灵活、更可靠的解决方案。
据美光官方消息,其推出的HBM3E12H36GB,在相同封装尺寸下,能够比HBM3E8H24GB多提供50%的存储容量。与竞品HBM3E8H24GB相比,美光的HBM3E12H36GB不仅功耗降低了20%,而且存储容量还提升了50%。
相关阅读:
《美光、SK 海力士公布新型 SOCAMM 内存模组,将用于英伟达 GB300 平台》
免责声明:本站所有文章来源于网络或投稿,如果任何问题,请联系648751016@qq.com
页面执行时间0.013597秒