【AMD 震撼发布:AI 系统效能大突破,能效比狂飙 28.3 倍!】
科技快讯中文网
12月11日的消息显示,早在2021年,AMD就设定了一个目标,即到225年将EPYC处理器和Instinct加速器的能源使用效率提升30倍。
尽管尚未到达2025年的时间节点,但AMD表示他们已经非常接近这一目标:最新发布的配备EPYC 9575F和Instinct MI300X的系统,在能效上相比2020年的一台未公开的机器提升了28.3倍。
AMD 在测试中使用了 Llama3.1-70B(vLLM 0.6.1.post2、TP8 Parallel、FP8、连续批处理)模型,然后对比其推理性能的差异。
AMD并未公开其在测试中所使用的具体硬件规格,但可以确定的是,它采用了基于Zen 2架构的EPYC 7002系列处理器(最高支持64核心),以及采用第一代CDNA架构的Instinct MI100加速卡。 从这段信息可以看出,AMD在高性能计算领域持续投入,尤其是在服务器处理器和专业计算加速卡方面。EPYC 7002系列处理器凭借其高核心数和出色的性能,在数据中心和高性能计算市场具有显著优势。而Instinct MI100加速卡作为AMD在加速计算领域的尝试,其表现也备受期待。这表明AMD正努力在这些关键领域与竞争对手一决高下,并力求为用户提供更强大的计算解决方案。
AMD 还表示,除了“给力”的硬件提升之外,这一成绩是通过架构改进和软件优化综合实现的成果,这是可以预料到的结果。
近日,该公司新发布了采用CDNA3架构的Instinct MI325X加速器,该加速器配置了288GB HBM3E内存子系统。预计明年AMD将推出基于CDNA4架构的Instinct MI355X加速器,其在FP8和FP16性能方面将比MI325X提升大约80%。
除了FP8和FP16外,MI325X还将支持FP4和FP6格式,其峰值性能将达到9.2PetaFLOPS(FP4),这对于许多大语言模型来说非常实用。这意味着,凭借MI325X在高精度计算上的显著提升,AMD有望在2025年实现其计算平台能效提高30倍的目标,这不仅体现了技术进步的速度,也展示了AMD在高性能计算领域的持续努力和承诺。 这一消息表明,随着技术的不断进步,数据中心和高性能计算领域正在迎来更加高效且强大的解决方案。MI325X的推出不仅为研究机构和企业提供了更加强大的工具来处理复杂的大规模计算任务,同时也预示着未来计算架构的发展方向。AMD通过提供这样的产品,无疑将在高性能计算市场中占据更有利的地位,并推动整个行业向着更高效率和更强性能的方向前进。
AMD高级副总裁、AMD公司研究员和产品技术架构师Sam Naffziger表示,“通过我们在硬件和软件协同设计上的深思熟虑,我们对达成30x25的目标充满信心,并对未来充满期待。我们已经看到了在未来几年内实现显著能效提升的有效路径。” 这种对硬件与软件协同设计的重视,不仅展现了AMD在技术创新方面的前瞻性和领导力,同时也体现了其对未来计算需求的深刻理解。通过这种方式,AMD不仅致力于提高产品的性能,也在努力减少能源消耗,这对于推动整个行业向更加可持续的方向发展具有重要意义。这不仅是AMD自身战略的一部分,也反映了整个科技产业正在经历的一场从追求单纯的性能提升到注重能效平衡的重要转变。随着全球对于节能减排意识的增强,这样的创新方向无疑会受到广泛欢迎和支持。
《AMD 宣布推出新款“Turin”系列 EPYC 9005 数据中心 CPU》
《AMD 最强 AI 加速卡 MI325X 登场:256GB HBM3E、6 TB/s 带宽,FP8 性能 2.6 PFLOPs,完善 ROCm 生态》
免责声明:本站所有文章来源于网络或投稿,如果任何问题,请联系648751016@qq.com
页面执行时间0.013957秒