戴尔引领AI算力革命,Gaudi 3开启智能未来新篇章
9月19日最新消息,英特尔于2024年推出了其最新的AI加速器产品Gaudi3,该产品以OAM模块(HL-325L)、多OAM卡基板(HLB-325)和PCIeAIC(HL-338)三种形式发布。然而,业界对Gaudi3的反应较为冷淡,仅有知名企业IBM公开表示将在云服务中采用这款AI芯片。
戴尔在美国当地时间17日宣布,其PowerEdgeXE7740双路至强6"GraniteRapids-SP"4U服务器平台现已将HL-338纳入可选配置,这使戴尔成为首家在市场中提供搭载Gaudi3PCIeAIC的集成服务器配置的企业。
与功耗高达900W的HL-325L相比,HL-338的TDP被限制在600W,但其128GB HBM2E内存容量以及3.7TB/s的内存带宽保持不变。
一台XE7740服务器可安装8张双宽的HL-338AIC,并支持选配2组四路桥接器,形成一对四路扩展单元。搭载HL-338AIC的XE7740能够提供强大的AI模型微调与推理算力,同时将整机功耗控制在现有风冷基础设施的10kW限额内,展现出出色的能效比。 从技术角度看,这种配置不仅提升了单机的计算密度,也为数据中心在有限空间和能耗限制下实现更高性能提供了可行方案。随着AI应用的不断深化,如何在不突破基础设施限制的前提下提升算力,成为行业关注的焦点。XE7740的这一设计,体现了对实际应用场景的深入考量。
免责声明:本站所有文章来源于网络或投稿,如果任何问题,请联系648751016@qq.com
页面执行时间0.008528秒