Ver o uso de memória de um script

Ver o uso de memória de um script

Ver o uso de memória de um scriptlink image 10

Aviso: Este post foi traduzido para o português usando um modelo de tradução automática. Por favor, me avise se encontrar algum erro.

Se um script estiver consumindo muita RAM, podemos monitorizá-lo para ver o que está consumindo.

Instalaçãolink image 11

Para poder monitorizá-lo, vamos a instalar memory_profiler. Podemos instalá-lo com Conda

conda install memory_profiler
      

ou com pip

pip install memory_profiler
      

Usolink image 12

Decoradorlink image 13

Podemos colocar um decorador na função que queremos monitorar.

from memory_profiler import profile
      
      @profile
      def minha_funcao():
          pass
      
	
< > Input
Python
%%writefile memory_profiler_decorator.py
from memory_profiler import profile
@profile
def my_function():
a = [1] * (10 ** 6)
b = [2] * (2 * 10 ** 7)
del b
return a
if __name__ == '__main__':
my_function()
Copied
>_ Output
			
Overwriting memory_profiler_decorator.py

Agora o executamos usando -m memory_profiles memory_profiler_decorator.py

	
< > Input
Python
!python -m memory_profiler memory_profiler_decorator.py
Copied
>_ Output
			
Filename: memory_profiler_decorator.py
Line # Mem usage Increment Occurrences Line Contents
=============================================================
3 49.5 MiB 49.5 MiB 1 @profile
4 def my_function():
5 57.0 MiB 7.5 MiB 1 a = [1] * (10 ** 6)
6 209.6 MiB 152.6 MiB 1 b = [2] * (2 * 10 ** 7)
7 57.2 MiB -152.4 MiB 1 del b
8 57.2 MiB 0.0 MiB 1 return a

Como vemos, obtemos o uso de memória de cada linha do script.

Uso de memória ao longo do tempolink image 14

Podemos obter um gráfico do uso de memória ao longo do tempo fazendo

mprof run memory_profiler_decorator.py
      mprof plot
      
	
< > Input
Python
!mprof run memory_profiler_decorator.py
Copied
>_ Output
			
mprof: Sampling memory every 0.1s
running new process
running as a Python program...
Filename: memory_profiler_decorator.py
Line # Mem usage Increment Occurrences Line Contents
=============================================================
3 49.5 MiB 49.5 MiB 1 @profile
4 def my_function():
5 57.0 MiB 7.5 MiB 1 a = [1] * (10 ** 6)
6 209.6 MiB 152.6 MiB 1 b = [2] * (2 * 10 ** 7)
7 57.2 MiB -152.4 MiB 1 del b
8 57.2 MiB 0.0 MiB 1 return a
	
< > Input
Python
!mprof plot
Copied
>_ Output
			
Using last profile data.
Figure(1260x540)

Ao executá-lo, é criado este gráfico

memory_profiler plot

Perguntas frequentes

Como interpretar a coluna "Increment" na saída do memory_profiler?

Ao decorar uma função com @profile (de from memory_profiler import profile) e executá-la com python -m memory_profiler script.py, cada linha mostra "Mem usage" (memória total do processo naquele ponto) e "Increment" (a variação em relação à linha anterior). No exemplo, b = [2] * (2 * 10 ** 7) tem um Increment de 152.6 MiB (o que aquela lista ocupou) e, depois do del b, o Increment é -152.4 MiB, mostrando a memória liberada.

Como ver um gráfico do consumo de memória de um script ao longo do tempo, em vez de só linha por linha?

Em vez de (ou além de) python -m memory_profiler, use mprof run script.py seguido de mprof plot. O mprof amostra a memória a cada 0.1s ("mprof: Sampling memory every 0.1s") e gera um gráfico temporal do uso de RAM de todo o processo, útil para identificar picos que a tabela linha a linha não deixa tão claros.

Continuar lendo

Últimos posts -->

Você viu esses projetos?

Tutor educacional multiagente

Tutor educacional multiagente Tutor educacional multiagente
Python
LangChain

Sistema multiagente de tutoria para estudantes do ensino médio, com um agente por disciplina e material de curso elaborado e validado por uma equipe de professores. Chegou a ser usado com alunos reais em um colégio privado na Espanha e em uma escola de ensino médio na Colômbia.

Gymnasia

Gymnasia Gymnasia
Expo
React Native
TypeScript
OpenAI
Anthropic

App de fitness com dois agentes que são executados integralmente no dispositivo, sem backend, de forma que os dados do usuário nunca saem do celular. Um coach conversacional BYOK com adaptadores para OpenAI, Anthropic e Google, 12 tools locais e system prompt remoto com fallback offline, e um subagente de visão que estima macronutrientes a partir de fotos de comida, com leitura de códigos de barras contra o OpenFoodFacts.

Horeca chatbot

Horeca chatbot Horeca chatbot
Python
LangChain
PostgreSQL
PGVector
React
Kubernetes
Docker
GitHub Actions

Chatbot conversacional para cozinheiros de hotéis e restaurantes. Um cozinheiro, gerente de cozinha ou serviço de quarto de um hotel ou restaurante pode falar com o chatbot para obter informações sobre receitas e menus. Mas também implementa agentes, com os quais pode editar ou criar novas receitas ou menus

Ver todos os projetos -->
>_ Disponível para projetos

Tem um projeto com IA?

Vamos conversar.

maximofn@gmail.com

Especialista em Machine Learning e Inteligência Artificial. Desenvolvo soluções com IA generativa, agentes inteligentes e modelos personalizados.

Quer assistir alguma palestra?

Últimas palestras -->

Quer melhorar com essas dicas?

Últimos tips -->

Use isso localmente

Os espaços do Hugging Face nos permitem executar modelos com demos muito simples, mas e se a demo quebrar? Ou se o usuário a deletar? Por isso, criei contêineres docker com alguns espaços interessantes, para poder usá-los localmente, aconteça o que acontecer. Na verdade, se você clicar em qualquer botão de visualização de projeto, ele pode levá-lo a um espaço que não funciona.

Flow edit

Flow edit Flow edit

Edite imagens com este modelo de Flow. Baseado em SD3 ou FLUX, você pode editar qualquer imagem e gerar novas

FLUX.1-RealismLora

FLUX.1-RealismLora FLUX.1-RealismLora
Ver todos os contêineres -->
>_ Disponível para projetos

Tem um projeto com IA?

Vamos conversar.

maximofn@gmail.com

Especialista em Machine Learning e Inteligência Artificial. Desenvolvo soluções com IA generativa, agentes inteligentes e modelos personalizados.

Você quer treinar seu modelo com esses datasets?

short-jokes-dataset

HuggingFace

Dataset com piadas em inglês

Uso: Fine-tuning de modelos de geração de texto humorístico

231K linhas 2 colunas 45 MB
Ver no HuggingFace →

opus100

HuggingFace

Dataset com traduções de inglês para espanhol

Uso: Treinamento de modelos de tradução inglês-espanhol

1M linhas 2 colunas 210 MB
Ver no HuggingFace →

netflix_titles

HuggingFace

Dataset com filmes e séries da Netflix

Uso: Análise de catálogo Netflix e sistemas de recomendação

8.8K linhas 12 colunas 3.5 MB
Ver no HuggingFace →
Ver mais datasets -->