CUDA 计算模式

发表于 分类于 ， ， 阅读次数： 本文字数： 340 阅读时长 ≈ 1 分钟

CUDA有三种计算模式，分别为: DEFAULT、EXCLUSIVE_PROCESS和PROHIBITED

区别

DEFAULT

默认模式：每个设备上允许有多个上下文，也就是说可以有多个主机线程使用此设备

EXCLUSIVE_PROCESS

独占模式：只运行每个设备上存在一个上下文，也就是说同一时间只能有一个主机线程使用。

上下文可以是创建该上下文的进程中任意多个线程的当前上下文，在使用MPS时，通常会切换到此模式。

PROHIBITED

禁止计算模式：不允许创建上下文，此时不能使用CUDA进行计算。

参考

https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html#compute-modes
nvidia-smi的man手册