GPU开启了持久模式以后，即使没有活动的客户端，NVIDIA驱动程序也会保持加载状态，这样可以很大程度减少与运行依赖程序的加载时间，适用于所有的CUDA产品。
Persistence-M (Persistence Mode)
persistence mode 持续模式默认关闭。persistence mode 能够让 GPU 更快响应任务，待机功耗增加。关闭 persistence mode 同样能够启动任务。
具体命令如下
nvidia-smi -pm 1
Persistence-M 从 Off 变成 On，持久模式打开，也可以添加成服务的形式
sudo tee /etc/systemd/system/nvidia-persistence-mode.service >/dev/null <<EOF
[Unit]
Description=Enable NVIDIA GPU Persistence Mode
After=display-manager.service
Wants=sysinit.target
[Service]
Type=oneshot
ExecStart=/usr/bin/nvidia-smi -pm 1
User=root
[Install]
WantedBy=multi-user.target
EOF
sudo systemctl daemon-reload
sudo systemctl enable nvidia-persistence-mode.service
sudo systemctl start nvidia-persistence-mode.service- 标签
- gpu
- nvidia
- persistence
内容版权声明：除非注明，否则皆为本站原创文章。
转载注明出处：https://sulao.cn/post/881
评论列表