微软 AI 推理框架 ONNX Runtime 新增支持龙芯 LoongArch 龙架构

图片

IT之家注:ONNX Runtime(ORT)是近年来兴起的 AI 推理框架软件,被大量 AI 应用作为基础 AI 推理引擎。ORT 可支持 PyTorch、Tensorflow、TFLite 等多种格式的模型输入,以及 CPU、GPU、IoT、NPU、FPGA 等多样化算力后端。

龙芯中科表示,在 ONNX Runtime 社区 1.17.0 版本的研制过程中,龙芯中科技术团队与社区保持紧密合作,期间向 ONNX Runtime 社区代码仓库提交了 7697 行代码,对矩阵乘法、卷积、转置等核心算子进行深度向量优化。

在社区支持下,龙架构优化代码通过了检视、测试验证等质量保证流程,ONNX Runtime 社区自 1.17.0 版本起正式实现对龙架构的原生支持。

IT之家附 ONNX Runtime 源码下载地址:

https://github.com/microsoft/onnxruntime

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

未经允许不得转载:新聚网 » 微软 AI 推理框架 ONNX Runtime 新增支持龙芯 LoongArch 龙架构

赞 (0) 打赏