GPU开启了持久模式以后，即使没有活动的客户端，NVIDIA驱动程序也会保持加载状态，这样可以很大程度减少与运行依赖程序的加载时间，适用于所有的CUDA产品。

Persistence-M (Persistence Mode)

persistence mode 持续模式默认关闭。persistence mode 能够让 GPU 更快响应任务，待机功耗增加。关闭 persistence mode 同样能够启动任务。

具体命令如下

nvidia-smi -pm 1

Persistence-M 从 Off 变成 On，持续模式打开