ONNXRuntime【推理框架，用户可以非常便利的用其运行一个onnx模型】
框架 一个 用户 模型 运行 可以 非常 推理
2023-09-27 14:20:40 时间
ONNXRuntime是微软推出的一款推理框架，用户可以非常便利的用其运行一个onnx模型。ONNXRuntime支持多种运行后端包括CPU，GPU，TensorRT，DML等。可以说ONNXRuntime是对ONNX模型最原生的支持。
虽然大家用ONNX时更多的是作为一个中间表示，从pytorch转到onnx后直接喂到TensorRT或MNN等各种后端框架了= =，但这并不能否认ONNXRuntime是一款非常优秀的推理框架（微软出品，必属精品）。
而且由于其自身只包含推理功能（1.2版本，最新的ONNXRuntime甚至已经可以训练，可见微软在其上面的野心还是有的），对比主流框架源码看起来没有那么复杂难懂，通过阅读其源码可以非常清晰的理解深度学习框架的一些核心功能原理（op注册，内存管理，运行逻辑等）。
接下来的一系列文章尝试对ONNXRuntime的源码进行阅读学习，对理解深度学习框架的工作原理还是很有帮助的。
相关文章
- Swagger框架【一个规范且完整的框架，用于生成、描述、调用和可视化 RESTful 风格的 Web 服务】
- 大数据框架Hadoop主要模块介绍
- CTFcrackTools-V3 – 一款旨在帮助 CTFer 在 CTF 中发挥作用的一个框架
- Node.js基于Express框架搭建一个简单的注册登录Web功能
- 一个iOS 框架介绍：MKNetworkKit
- ASP.NET MVC搭建项目后台UI框架—6、客户管理（添加、修改、查询、分页）
- Mybaits 源码解析 （一）----- 搭建一个mybatis框架（MyBatis HelloWorld）
- 一个 JS 框架需要做什么
- CI框架常用函数（AR数据库操作的常用函数）
- ****CI框架源码阅读笔记7 配置管理组件 Config.php
- mybatis由浅入深day01_3mybatis框架介绍
- 使用GIN框架创建一个简单的web服务
- 第15.36节 PyQt(Python+Qt)入门学习：containers容器类部件QFrame框架部件介绍
- 使用ThinkPHP框架高速开发站点(多图)
- 【集合框架】JDK1.8源码分析之ArrayList（六）
- 一个简易版的T4代码生成"框架"
- 初学 go 入门-案例-教程-记录（14）gin + gorm 两个框架结合做一个简单的小案例（一）实现读取数据
- springMVC和struts2有什么不同？为什么要用springMVC或者struts2？让你实现一个MVC框架大概如何设计？
- 使用BEEGO建立一个基本的API框架
- 2019-5-24-WPF-源代码-从零开始写一个-UI-框架
- Java集合框架：LinkedHashMap