摩尔线程GPU全新升级!2小时速成阿里通义千问QwQ-32B开源模型,惊艳问世!
3月6日,阿里云正式推出了全新的推理模型“通义千问QwQ-32B”并选择开源。仅仅在两小时后,摩尔线程便快速高效地完成了适配工作,达成了Day0级支持!
在使用大语言模型高速推理框架vLLM和MTTransformer推理引擎部署的QwQ-32B模型,在摩尔线程的GPU上进行实际运行时,表现出了出色的推理性能和稳定性。这再一次证明了摩尔线程MUSA架构具有强大的生态系统兼容性。 这一成就不仅展示了摩尔线程技术的先进性和可靠性,也为其在人工智能领域的广泛应用奠定了坚实的基础。随着技术的不断进步,我们有理由相信,摩尔线程的解决方案将在未来的人工智能计算领域发挥更大的作用,推动更多创新应用的实现。
值得一提的是,在此之前,摩尔线程仅用一周时间,就火速支持了DeepSeek开源周“全家桶”。
目前,摩尔线程已将其最新成果在模型广场“夸娥工场”上对外开放。这一举措无疑为开发者们提供了更多可能性,使他们能够更加便捷地获取和利用这些先进的技术资源。此举不仅加速了技术创新的步伐,也为行业内的合作与交流搭建了一个更为广阔的平台。 通过将技术成果开放上线,摩尔线程展现了其对推动整个行业发展的积极态度。这不仅有助于激发更多的创新灵感,还可能催生出更多基于这些技术的新应用和服务,从而进一步丰富我们的数字生活。
夸娥工场作为摩尔线程精心打造的模型展示中心,不仅展示了先进的技术成果,也为用户提供了与未来科技接轨的独特体验。通过夸娥(KUAE)智算集群的支持,用户可以亲身体验到最前沿的模型能力。这不仅是对当前技术实力的一次全面展示,也预示着未来计算能力和应用模式的重大变革。 这样的展示中心体现了摩尔线程在技术创新方面的不懈追求,同时也标志着中国在智能计算领域取得了显著进展。对于行业内外的人来说,这是一个了解最新技术动态和发展趋势的重要窗口。随着技术的不断进步,我们有理由相信,类似的平台将会成为推动整个行业向前发展的关键力量。
夸娥工场体验地址:
https://playground.mthreads.com
QwQ-32B体验地址:
https://playground.mthreads.com:12019
摩尔线程模型广场“夸娥工场”体验界面
在多项权威基准测试中,千问QwQ-32B模型表现出色非凡,几乎全面超越了OpenAI-o1-mini,与顶级开源推理模型DeepSeek-R1不相上下。
虽然该模型仅拥有32B参数,但经过大规模强化学习训练,它在数学、编程和通用能力等方面取得了显著进展,展示了出色的智能水平。
从官方发布的benchmark测试对比图中可以看出,QwQ-32B在各项评估指标上均表现出色,其成绩明显优于OpenAI-o1-mini以及Deepseek的各种蒸馏版本。尤其值得一提的是,在LiveBench和BFCL测试中,QwQ-32B的表现甚至超越了完整版的Deepseek-R1-671B。这一结果不仅展示了QwQ-32B在技术上的先进性,也表明其在实际应用中的潜力巨大。这无疑为该领域的研究和发展注入了一剂强心针,预示着未来可能有更多突破性的进展。
免责声明:本站所有文章来源于网络或投稿,如果任何问题,请联系648751016@qq.com
页面执行时间0.012415秒