GPU服务研究学习...
2023-09-11 14:15:22 时间
windows10 版本安装 CUDA ,首先需要下载两个安装包
CUDA toolkit(toolkit就是指工具包)
cuDNN
# 安装CUDA
https://developer.nvidia.com/cuda-downloads
# 安装cuDNN
https://developer.nvidia.com/cudnn
软件包安装(zip) 在以下步骤中,“<packagepath>”表示软件包目录路径进入包含cuDNN软件包的<packagepath>目录。 # 解压缩cuDNN软件包。 cudnn-windows-x86_64--archive.zip # 从解压缩的软件包中复制以下文件到NVIDIA cuDNN目录中。 将bin\cudnn.dll复制到C:\Program Files\NVIDIA\CUDNN\v8.x\bin 将include\cudnn*.h复制到C:\Program Files\NVIDIA\CUDNN\v8.x\include 将lib\cudnn*.lib复制到C:\Program Files\NVIDIA\CUDNN\v8.x\lib
设置以下环境变量以指向cuDNN所在的位置。要访问“$(PATH)”环境变量的值,请执行以下步骤: 从“开始”菜单中打开命令提示符,输入“运行”,然后按Enter键 发出“控制sysdm.cpl”命令 在窗口的顶部选择“高级”选项卡。 在窗口底部单击“环境变量”。 将NVIDIA cuDNN bin目录路径添加到PATH变量中: 变量名称:PATH 添加的值:C:\Program Files\NVIDIA\CUDNN\v8.x\bin
安装完毕后验证
# 查看Cuda版本
nvcc --version
# 查看GPU使用情况
nvidia-smi
字段名 | 值 | 描述 |
---|---|---|
Fan | 风扇转速 (0%--100%) | 风扇转速各适量,N/A 表示没有风扇 |
Temp | GPU 温度 (GPU 温度过高会导致 GPU 频率下降) | GPU 温度各适量,过高的温度可能导致 GPU 性能下降 |
Perf | 性能状态 (从 P0(最大性能) 到 P12(最小性能)) | GPU 性能状态各适量,P0 表示最大性能,P12 表示最小性能 |
Pwr | GPU 功耗 | GPU 功耗各适量,越高的功耗表示更高的性能 |
Persistence-M | 持续模式的状态 (持续模式耗能大,但在新的 GPU 应用启动时花费时间更少) | 持续模式状态各适量,持续模式会提高 GPU 的启动速度 |
Bus-Id | GPU 总线 (domain:bus:device.function) | GPU 总线 ID 各适量,用于确定 GPU 的总线关联 |
Disp.A | Display Active | GPU 显示是否初始化,为 1 表示 GPU 已初始化 |
Memory-Usage | 显存使用率 | 显存使用率各适量,越高的使用率表示 GPU 需要更多的显存资源 |
Volatile GPU-Util | GPU 使用率 | GPU 使用率各适量,越高的使用率表示 GPU 性能越好 |
ECC | 是否开启错误检查和纠正技术,0/DISABLED, 1/ENABLED | 是否开启错误检查和纠正技术,0 表示禁用,1 表示启用 |
Compute M. | 计算模式 (0/DEFAULT,1/EXCLUSIVE_PROCESS,2/PROHIBITED) | 计算模式各适量,0 表示 DEFAULT,1 表示 EXCLUSIVE_PROCESS,2 表示 PROHIBITED |
#查看 CUDA 设置的环境变量
set cuda
# 列出所有可用的 NVIDIA 设备信息
nvidia-smi -L
# 定时刷新,1秒1次
nvidia-smi dmon
# 监控应用对GPU的使用率,1秒1次
nvidia-smi pmon
相关文章
- 反射实现Model修改前后的内容对比 【API调用】腾讯云短信 Windows操作系统下Redis服务安装图文详解 Redis入门学习
- Dubbo -- 系统学习 笔记 -- 示例 -- 静态服务
- kali 服务篇-Linux存储 学习笔记
- kali 服务篇-DVWA靶机搭建 学习笔记
- 企业IT架构转型之道:阿里巴巴中台战略思想与架构实战. 2.1 回归SOA的本质——服务重用
- D-News|英特尔首推融合现实,亚马逊云服务市场占比超3成
- 使用Roslyn的C#语言服务实现UML类图的自动生成
- 【HMS Core】一张图片带你玩转机器学习服务
- 【HMS Core】【FAQ】【Health Kit】集成运动健康服务过程中,遇到一些小问题,今天分享给大家(华为手表、手环+运动健康服务问题合集)
- 快速集成华为AGC云存储服务-Web
- 添加或修改ssh服务的端口
- Spring Cloud 微服务架构学习笔记与示例
- 面对不同用户,数据中心如何将服务做到极致
- phpmyadmin 在服务起上检测到错误,请查看窗口底部
- 微服务学习一:idea中springboot集成mybatis
- Dynamic CRM 2013学习笔记(二十二)插件里调用WCF服务
- 通过ribbon 根据服务名获取所有服务实例的IP和端口列表
- 微盟电子商城网络交易系统——Day03【商品服务-API-三级分类】
- Android学习之服务
- 9.Laravel5学习笔记:在laravel中注冊自己的服务到容器中
- Fast Data(FD.io)开源项目发布,瞄准高性能IO服务框架
- 初步了解学习将传统单机应用改造成Dubbo服务的过程
- 基于Spring Boot和Spring Cloud实现微服务架构学习--转