py-smi
¿Quieres poder usar nvidia-smi desde Python? Aquí tienes una librería para hacerlo.
Instalación
Para poder instalarla ejecuta:
pip install python-smi
Uso
Importamos la librería
Input Pythonfrom py_smi import NVMLCopied
Creamos un objeto de pynvml (la librería detrás de nvidia-smi)
Input Pythonnv = NVML()Copied
Obtenemos la versión del driver y de CUDA
Input Pythonnv.driver_version, nv.cuda_versionCopied
Output('560.35.03', '12.6')
Como en mi caso tengo dos GPUs creo una variable con el número de GPUs
Input Pythonnum_gpus = 2Copied
Obtengo la memoria de cada GPU
Input Python[nv.mem(i) for i in range(num_gpus)]Copied
Output[_Memory(free=24136.6875, total=24576.0, used=439.3125),_Memory(free=23509.0, total=24576.0, used=1067.0)]
La utilización
Input Python[nv.utilization() for i in range(num_gpus)]Copied
Output[_Utilization(gpu=0, memory=0, enc=0, dec=0),_Utilization(gpu=0, memory=0, enc=0, dec=0)]
La potencia usada
Esto me viene muy bien, porque cuando entrenaba un modelo y tenía las dos GPUs llenas a veces se me apagaba el ordenador, y viendo la potencia, veo que la segunda consume mucho, por lo que puede que sea lo que yo ya sospechaba, que era por alimentación.
Input Python[nv.power(i) for i in range(num_gpus)]Copied
Output[_Power(usage=15.382, limit=350.0), _Power(usage=40.573, limit=350.0)]
Los relojes de cada GPU
Input Python[nv.clocks(i) for i in range(num_gpus)]Copied
Output[_Clocks(graphics=0, sm=0, mem=405), _Clocks(graphics=540, sm=540, mem=810)]
Datos del PCI
Input Python[nv.pcie_throughput(i) for i in range(num_gpus)]Copied
Output[_PCIeThroughput(rx=0.0, tx=0.0),_PCIeThroughput(rx=0.1630859375, tx=0.0234375)]
Y los procesos (ahora no estoy corriendo nada)
Input Python[nv.processes(i) for i in range(num_gpus)]Copied
Output[[], []]
