GPU开启了持久模式以后，即使没有活动的客户端，NVIDIA驱动程序也会保持加载状态，这样可以很大程度减少与运行依赖程序的加载时间，适用于所有的CUDA产品。
Persistence-M (Persistence Mode)
persistence mode 持续模式默认关闭。persistence mode 能够让 GPU 更快响应任务，待机功耗增加。关闭 persistence mode 同样能够启动任务。
具体命令如下
nvidia-smi -pm 1
Persistence-M 从 Off 变成 On，持久模式打开，也可以添加成服务的形式
sudo tee /etc/systemd/system/nvidia-persistence-mode.service >/dev/null <<EOF
[Unit]
Description=Enable NVIDIA GPU Persistence Mode
After=display-manager.service
Wants=sysinit.target
[Service]
Type=oneshot
ExecStart=/usr/bin/nvidia-smi -pm 1
User=root
[Install]
WantedBy=multi-user.target
EOF
sudo systemctl daemon-reload
sudo systemctl enable nvidia-persistence-mode.service
sudo systemctl start nvidia-persistence-mode.service- 标签
- gpu
- nvidia
- persistence
内容版权声明：除非注明，否则皆为本站原创文章。
转载注明出处：https://sulao.cn/post/881
相关阅读
- ubuntu24.04卸载apt安装的驱动nccl和cuda库
- AI程序索引越界引起的nvidia-fabricnamage异常问题排查
- linux内核无法加载nvidia-peermem模块的问题分析
- 英伟达GPU内核和驱动优化参数介绍
- 英伟达GPU nvidia-smi常用命令详解
- GPU卡住且dmesg日志中打印NVRM: _threadNodecheckTimeout错误排查
- linux下gpu降速问题排查
- ubuntu22.04安装dcgm和基本用法
- RTX 5090在cuda13.0下gpu-burn编译报错的解决方法
- k8s集群部署gpu-operator支持gpu节点自动发现和gpu上报
评论列表