曦智科技引领计算新时代:光电混合计算卡惊艳问世
3月26日消息,曦智科技今日正式推出全新光电混合计算卡“曦智天枢”。这一突破性成果标志着光电混合计算技术首次成功应用于复杂的商业化模型中,为人工智能与高性能计算领域带来了新的可能性。 在我看来,“曦智天枢”的发布不仅是一次技术创新,更是对未来计算架构的一次重要探索。随着数据量的爆炸式增长和传统芯片性能瓶颈的到来,光电混合计算提供了全新的解决方案。它通过结合光子学的优势,在速度、能耗和并行处理能力上都展现出了巨大潜力。这对于推动AI模型训练效率提升以及降低数据中心能耗具有重要意义。 此外,这项技术的成功实践也表明中国企业在前沿科技领域的研发实力正在不断增强。期待未来能看到更多类似的技术成果落地应用,助力全球科技发展迈入新阶段。
曦智科技作为全球领先的光电融合算力企业,在集成光子技术方面实现了开创性进展,成功掌握了光子矩阵计算(oMAC)、片上光网络(oNOC)以及片间光网络(oNET)三大核心科技,构建了光子计算与光子网络两大产品系列。
2021年12月,曦智科技发布了其首款光电混合计算产品,并展示了这一技术在特定算法中的卓越性能。测试结果显示,相比主流GPU,该产品的速度优势达到了数百倍,这一突破令人振奋。 在我看来,这项成果不仅标志着计算领域的一次重要飞跃,也预示着未来计算架构的新方向。光电混合计算通过结合光子与电子的优势,在处理特定任务时展现出无可比拟的效率。这不仅仅是技术上的进步,更是对传统计算模式的一种挑战和革新。随着数据量的不断增长和复杂算法的需求日益增加,这种高速计算能力无疑将为人工智能、大数据分析等领域带来革命性的变化。期待未来能看到更多类似的技术突破,推动整个行业向前发展。
曦智科技提出,光电融合技术有望为人工智能、大语言模型以及智能制造等行业带来算力上的突破性变革。
此次推出的曦智天枢,将光芯片与电芯片的优势深度整合,并运用3D先进封装工艺,具备可编程能力。
它在光电集成度、光子矩阵规模、精度、可编程性等方面,都比前代产品实现了明显的性能提升。
例如,在具备科学计算能力(如支持伊辛算法)的基础上,进一步增强了对ResNet50等商用算法的应用支持,不仅保留了光计算的优势,还显著提高了产品的通用兼容性。
天枢运用了非相干架构设计,这种设计不仅便于系统的扩展,而且拥有卓越的抗干扰性能和更高的计算精度。
这款产品的核心处理器集成了光学处理单元(OPU)与电学专用集成电路(ASIC)。光芯片和电芯片采用3D TSV硅通孔和Flip Chip倒装芯片封装技术相结合的方式,实现高效整合与协同运作,从而大幅减少延迟并增强信号传输的完整性。其中,光芯片的面积达到了600平方毫米,相比上一代产品扩大了三倍。
芯片主频为1GHz,输出精度8bit。
光芯片上集成了超过4万个器件,同时器件尺寸进一步减小,使得整体集成度大幅提升。
新一代产品最大可支持128x128矩阵规模,相较于上一代提升了4倍,其运算能力和灵活性均实现了显著增强。
此外,用户能够借助API灵活设定矩阵系数,从而获得更高的适应能力与优化潜力。
据悉,光子计算是一种被动运算,运算任务在光通过光子矩阵的过程中即可完成,颠覆了传统CMOS电子芯片的运算逻辑。
光子芯片的性能优化与光子矩阵规模、主频速率以及波长数量等因素密切相关,而并非依赖于晶体管密度或芯片制程的进步。
曦智科技率先提出了等效光算力(EOPP)标准,这是一种综合考量矩阵规模、输出精度以及权重刷新速度等因素的算力评估方式。与目前主流的电芯片性能计算方法相比,这一标准更加贴合光计算的基本原理及其特性。
软件方面,天枢配备了曦智光电混合计算软件平台,其算子库涵盖了RVV(RiscV向量)算子、电矩阵(dMAC)加速算子以及光矩阵(oMAC)加速算子,能够支持计算机视觉(CV)类和大型语言模型(LLM)类的应用场景,并且包含如Ising、LineSolver等非AI领域的算子。
用户通过曦智编译器,能够便捷地利用这些算子来开发高性能的应用模型。
此外,平台允许用户自定义算子,借助OpenCL C/C++语言完成编译与优化,从而进一步提升了算法开发的灵活性。
曦智科技的软件平台与Pytorch、ONNX等主流框架实现了深度融合,用户能够借助该平台直接利用天枢芯片中的光矩阵和电矩阵加速单元来优化模型和算法,并完成性能验证。同时,通过曦智自主研发的编译工具链,还可以将模型部署到终端设备上,实现高效的推理运行。
通过软件栈,天枢顺利部署了ResNet50深度卷积神经网络与Llama2大语言模型,率先在商业领域落地光电混合计算技术。
目前,曦智科技已开启下一代光电混合计算产品的新一轮研发工作,预计将进一步增强计算性能。
免责声明:本站所有文章来源于网络或投稿,如果任何问题,请联系648751016@qq.com
页面执行时间0.007354秒