py-smi: Monitor de GPU NVIDIA em Python

14 de dezembro de 2024

py-smi

Aviso: Este post foi traduzido para o português usando um modelo de tradução automática. Por favor, me avise se encontrar algum erro.

Queres poder usar nvidia-smi desde Python? Aqui tens uma biblioteca para fazê-lo.

Instalação

Para poder instalá-la execute:

pip install python-smi

Uso

Importamos a biblioteca

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		from py_smi import NVML
	
	Copied

Criamos um objeto de pynvml (a biblioteca por trás de nvidia-smi)

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		nv = NVML()
	
	Copied

Obtemos a versão do driver e do CUDA

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		nv.driver_version, nv.cuda_version
	
	Copied

>_ Output

			
				('560.35.03', '12.6')

Como no meu caso tenho duas GPUs, crio uma variável com o número de GPUs

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		num_gpus = 2
	
	Copied

Obtenho a memória de cada GPU

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		[nv.mem(i) for i in range(num_gpus)]
	
	Copied

>_ Output

			
				[_Memory(free=24136.6875, total=24576.0, used=439.3125),
 _Memory(free=23509.0, total=24576.0, used=1067.0)]

A utilização

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		[nv.utilization() for i in range(num_gpus)]
	
	Copied

>_ Output

			
				[_Utilization(gpu=0, memory=0, enc=0, dec=0),
 _Utilization(gpu=0, memory=0, enc=0, dec=0)]

A potência usada

Isso me dá muito jeito, porque quando eu treinava um modelo e tinha as duas GPUs cheias, às vezes o meu computador desligava, e vendo a potência, vejo que a segunda consome muito, por isso pode ser o que eu já suspeitava, que era por alimentação.

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		[nv.power(i) for i in range(num_gpus)]
	
	Copied

>_ Output

			
				[_Power(usage=15.382, limit=350.0), _Power(usage=40.573, limit=350.0)]

Os relógios de cada GPU

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		[nv.clocks(i) for i in range(num_gpus)]
	
	Copied

>_ Output

			
				[_Clocks(graphics=0, sm=0, mem=405), _Clocks(graphics=540, sm=540, mem=810)]

Dados do PCI

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		[nv.pcie_throughput(i) for i in range(num_gpus)]
	
	Copied

>_ Output

			
				[_PCIeThroughput(rx=0.0, tx=0.0),
 _PCIeThroughput(rx=0.1630859375, tx=0.0234375)]

E os processos (agora não estou executando nada)

	
		
			< >
			Input
		
		
			Python
			
		
	
	
		[nv.processes(i) for i in range(num_gpus)]
	
	Copied

>_ Output

			
				[[], []]

Perguntas frequentes

Como obter em Python a versão do driver, a do CUDA e a memória de cada GPU, sem precisar analisar a saída do nvidia-smi?

Instale a biblioteca com pip install python-smi, importe com from py_smi import NVML e crie nv = NVML() (que envolve o pynvml, a biblioteca por trás do nvidia-smi). nv.driver_version, nv.cuda_version retorna algo como ('560.35.03', '12.6'), e [nv.mem(i) for i in range(num_gpus)] retorna objetos _Memory(free=..., total=..., used=...) em MiB para cada GPU.

Como usar o py-smi para diagnosticar por que o computador desliga ao treinar com duas GPUs ao mesmo tempo?

nv.power(i) retorna um _Power(usage, limit) por GPU (no exemplo, _Power(usage=15.382, limit=350.0) para uma e _Power(usage=40.573, limit=350.0) para a outra). O autor usou exatamente esse dado para confirmar que uma das duas GPUs consumia muito mais energia que a outra, apontando para um problema na fonte de alimentação como causa dos desligamentos ao treinar com as duas em carga máxima.

Continuar lendo

Como parsear tool calls da OpenAI, Anthropic e Google

Como transformar chamadas de tools de diferentes provedores de LLMs em uma interface comum sem perder os identificadores que correlacionam cada resultado.

Como declarar tools confiáveis para OpenAI, Anthropic e Google

Guia prático para criar tools que um LLM consiga descobrir, adaptar para qualquer provedor de LLMs, executar com seguran...

Gymnasia: arquitetura de um agente de IA que roda no celular

Como o agente de IA do Gymnasia foi construído: um coach conversacional BYOK com tools locais e um estimador de refeiçõe...

Últimos posts -->

Você viu esses projetos?

Gymnasia

LangGraph Deep Researcher

Tau

Ver todos os projetos -->

>_ Disponível para projetos

Tem um projeto com IA?

Vamos conversar.

maximofn@gmail.com

Especialista em Machine Learning e Inteligência Artificial. Desenvolvo soluções com IA generativa, agentes inteligentes e modelos personalizados.

Escreva-me LinkedIn

Quer assistir alguma palestra?

Agentes do Amanhã: Descifrando os Mistérios da Planificação, UX e Memória

Agentes de IA, impulsionados por LLMs, prometem transformar aplicações. Mas eles são meros executores hoje ou futuros colaboradores inteligentes? Para...

Crie sua própria inteligência Apple

Aprenda a criar um sistema de IA para executar eficientemente em um dispositivo

Últimas palestras -->

Quer melhorar com essas dicas?

Boas práticas criando agentes com Claude Code

Palestra técnica: skills, subagentes, slash commands e MCPs no Claude Code

o1 prompt engineering

Criar prompts melhores para o1 seguindo um exemplo

Memory profiler

Ver o uso de memória de um script

Últimos tips -->

Use isso localmente

Os espaços do Hugging Face nos permitem executar modelos com demos muito simples, mas e se a demo quebrar? Ou se o usuário a deletar? Por isso, criei contêineres docker com alguns espaços interessantes, para poder usá-los localmente, aconteça o que acontecer. Na verdade, se você clicar em qualquer botão de visualização de projeto, ele pode levá-lo a um espaço que não funciona.