Gymnasia: arquitetura de um agente de IA que roda no celular

Gymnasia: arquitetura de um agente de IA que roda no celular

O que é o Gymnasialink image

O Gymnasia é um aplicativo móvel de treino pessoal feito com React Native e Expo. Dentro dele há dois agentes de IA: um coach conversacional e um estimador de refeições que calcula calorias e macronutrientes a partir de fotos.

Eles funcionam em paralelo, e não um dentro do outro: nenhum é subagente do outro, não se chamam entre si, vivem em telas diferentes e cada um tem o seu próprio system prompt, as suas próprias tools e o seu próprio fornecedor de LLM. Compartilham exatamente uma coisa: os dados do usuário guardados no celular.

O interessante, e o assunto deste post, é que os dois são executados inteiramente no dispositivo. Não existe backend próprio: quem decide o que fazer, quem executa as tools e quem guarda os dados é o próprio app, dentro do celular. O modelo é chamado direto de lá com uma chave de API fornecida pelo usuário, o que costuma se chamar BYOK, Bring Your Own Key: cada usuário traz a sua própria chave e, com ela, paga e controla o seu acesso ao fornecedor. Os dados do usuário nunca saem do celular, com uma única exceção explicada mais abaixo.

Este é o post principal da série. Abaixo estão os dois grafos de arquitetura e, no final, o índice da série com os posts que cobrem cada parte do desenvolvimento.

O agente geral: Gymnasia Coachlink image

Lê-se de cima para baixo pela coluna central: é isso que acontece no tempo. A caixa da esquerda não são passos: são as peças que se somam umas às outras e entram juntas em cada chamada, daí a seta larga. A da direita é o que acontece quando o modelo pede uma tool. A linha tracejada clara volta atrás: o resultado é acrescentado ao histórico e chama-se outra vez. A vermelha é a única coisa que sai do dispositivo. E as caixas de borda tracejada são a chamada ao modelo: aí quem manda é o fornecedor, não o código do app.
O QUE ENTRA EM CADA CHAMADA QUANDO O MODELO PEDE UMA TOOL +++ sim não + tool_result volta n+1 (máx. 10)
System promptremoto, com cache
Catálogo de toolso que pode fazer
Históricoo dito até agora
FornecedorBYOK, posto pelo usuário
Utilizador (chat)escreve uma mensagem
Pedido ao fornecedortudo junto, numa só chamada
Resposta do modelotexto e/ou pedido de tool
Pede para usar uma tool?
Resposta finalao utilizador, em streaming
O app executa a tooldentro do celular
Dados locaisdieta · rotinas · medidas · memória
create_feature_issuea única tool que sai do celular

Deslize o grafo na horizontal para o ver inteiro.

Passo seguinte Entra na chamada Volta atrás (laço) Sai do dispositivo Fora do teu código

O Gymnasia Coach é o agente conversacional geral do app. É um agente BYOK: o utilizador configura a chave de API do fornecedor de LLM que preferir, e o app chama esse fornecedor diretamente a partir do dispositivo. Não existe backend próprio: a orquestração, a execução das tools e o armazenamento acontecem dentro do próprio app.

Configuração e escolha de fornecedorlink image

Definições BYOK

O utilizador guarda a sua API key

Guarda a chave dos fornecedores que quiser e escolhe qual atende o chat. O chat e o estimador de refeições configuram-se em separado: cada um pode usar um fornecedor diferente.

Armazenamento seguro do dispositivo
System prompt remoto

O prompt não viaja dentro do app

O system prompt é descarregado de um ficheiro público no repositório, guardado em cache local, e recorre a uma cópia embutida se a rede falhar.

Editável sem publicar o app

Isto último não é um capricho de arquitetura, é uma válvula de segurança. Se um dia o agente anda a dizer barbaridades como «passa uma semana sem comer para baixar a gordura» e coisas assim, quero poder corrigir as instruções, ou seja, o system prompt, o mais depressa possível, não daqui a duas semanas, e muito menos dependendo de cada usuário se lembrar de atualizar o app. Com o prompt remoto, corrigir é editar um ficheiro de texto: a mensagem seguinte que qualquer pessoa enviar já vai com a versão corrigida. A cópia embutida existe apenas para o app continuar a funcionar sem ligação.

O preço é que esse ficheiro passa a ser uma entrada de confiança para todos os usuários ao mesmo tempo, por isso tem de ser tratado como código: revisto, versionado e com cache.

Chamada ao fornecedorlink image

O app não fala com um fornecedor concreto, fala com «o fornecedor da vez». Hoje há três suportados, e a lista foi pensada para crescer:

OpenAIResponses API · streaming SSE/XHR
AnthropicMessages API · thinking ativado
GoogleGemini generateContent

Cada fornecedor tem o seu próprio adaptador de request/response, porque os formatos de tools, de streaming e de blocos de conteúdo são diferentes em cada um. Adicionar um fornecedor novo é escrever mais um adaptador, não mexer no agente: todos partilham o mesmo laço agentic que vem a seguir.

Laço agentic (tool use)link image

Passo 1

O modelo responde

Texto em streaming e/ou blocos tool_use / function_call.

Passo 2

O app executa a tool

O modelo não executa nada: só pede. Quem executa é o app, em local e sobre os seus próprios dados.

Passo 3

Resultado → modelo

É reinjetado como tool_result / function_call_output. Repete-se até não pedir mais tools.

As toolslink image

O coach mexe sim nos dados do utilizador: lê-os e escreve-os. Pode apontar o peso de hoje, adicionar um alimento a uma refeição ou criar uma rotina inteira. O que não pode é sair daí: a sua capacidade de agir é exatamente a lista de tools declaradas, nem mais uma. Estão agrupadas em quatro famílias, e todas são executadas dentro do celular.

🧠 Memória pessoal

Ler e guardar o que o utilizador conta sobre si: objetivo, lesões, preferências. É o que faz o coach lembrar-se de uma conversa para a seguinte.

🍽️ Dieta

Procurar alimentos no catálogo que vem com o app, ler o que já foi comido numa data e adicionar alimentos a uma refeição.

🏋️ Treino

Procurar exercícios por músculo, equipamento ou dificuldade, ler as rotinas do utilizador e criar rotinas novas.

📏 Medidas

Ler e escrever medidas corporais por data: peso, percentagem de gordura, perímetros.

A exceção

create_feature_issue

A única tool que sai do dispositivo: quando o utilizador pede uma melhoria do app, abre um issue no repositório. É o único ponto por onde algo escrito no chat acaba fora do celular, e por isso está separada das restantes.

Externo

Como se declara cada uma destas tools, nome, descrição, esquema de argumentos, e como esse catálogo é traduzido para o formato que cada fornecedor espera dá para um post inteiro, e tem um: Como declarar tools confiáveis para OpenAI, Anthropic e Google.

Armazenamento e saídalink image

Sem base de dados

Tudo no dispositivo

Dieta, rotinas, medidas e dados pessoais vivem no armazenamento local do celular. Os catálogos de alimentos e exercícios são ficheiros estáticos empacotados com o app.

Exceção

A criação de issues

Único ponto de saída para um serviço externo diferente do fornecedor de LLM: create_feature_issue.

Externo
Ressalva de plataforma: o mesmo agente a correr no navegador esbarra em CORS. Alguns fornecedores permitem a chamada direta a partir do navegador e outros não, e para esses é preciso um proxy local em desenvolvimento. No celular o problema não existe. É o tipo de detalhe que não aparece no desenho do agente e aparece no primeiro dia em que se tenta depurá-lo na web.

O segundo agente: o estimador de refeiçõeslink image

Mesma leitura e mesmas caixas do grafo do coach. Atenção ao desvio do código de barras: não é uma alternativa à estimativa, é mais uma volta do laço. O dado exato volta ao modelo e a estimativa é produzida na mesma, só que com números reais em vez de a olho. As três caixas de borda tracejada são chamadas ao modelo.
O QUE ENTRA EM CADA CHAMADA QUANDO O MODELO PEDE A TOOL ++ sim não + tool_result volta n+1 (máx. 5)
System promptpróprio do estimador
A sua única toolscan_barcode
Fornecedorescolhido à parte do chat
Utilizador1–6 fotos + texto opcional
Pedido ao fornecedortudo junto, numa só chamada
Resposta do modeloolha para as imagens
Pede para usar scan_barcode?
Estimativakcal e macros, com intervalos
Segunda chamada ao modelosó se o utilizador aceitar: «devolve-me em JSON»
add_meal_food()→ dieta local do dia
O app executa scan_barcodedentro do celular
OpenFoodFactsAPI pública, fora do celular

Deslize o grafo na horizontal para o ver inteiro.

Passo seguinte Entra na chamada Volta atrás (laço) Sai do dispositivo Fora do teu código

O estimador de refeições tira calorias e macros de uma foto do prato. Não é um subagente do coach: o coach nunca o chama, nem sabe que ele existe. É um segundo agente, com o seu próprio system prompt, a sua própria tool e a sua própria escolha de fornecedor, que se abre a partir de outra tela e escreve nos mesmos dados locais.

Entradalink image

Input do utilizador

1–6 fotos da refeição

Câmara ou galeria. Também aceita texto (perguntas de seguimento sobre a estimativa), reutilizando o contexto da conversa.

O seu próprio fornecedorlink image

O estimador não herda o fornecedor do chat: escolhe-se à parte, nas definições. E faz sentido que assim seja, porque os dois agentes não competem pela mesma coisa. Ao coach pede-se raciocínio sobre texto; ao estimador pede-se olhar para uma foto.

Se o utilizador não mexer em nada, o estimador arranca com o fornecedor que hoje dá melhor relação custo/qualidade em visão, e só procura outro se essa chave não estiver configurada. A lição geral: a escolha de modelo é por tarefa, não por app. Assim que um produto tem dois usos de IA com perfis de custo diferentes, prendê-los ao mesmo fornecedor é pagar a mais no caro ou render menos no barato.

System prompt especializadolink image

Nutricionista visual

Estima sempre kcal, proteína (g), hidratos de carbono (g), gordura (g) e peso total (g). Dá intervalos se houver incerteza.

Classificação

Determina se é producto_comercial, receta ou alimento base genérico.

Saída estruturada

Se o utilizador pedir "Devuelve json", responde apenas com JSON: dish_name, calories_kcal, protein_g, carbs_g, fat_g.

Laço agentic com o código de barraslink image

Deteção

Há um código de barras na foto?

O prompt obriga o modelo a usar a tool se detetar um EAN/UPC em qualquer das imagens.

Única tool

scan_barcode(barcode)

Chama o OpenFoodFacts (API pública) com o código lido e devolve dados nutricionais exatos do produto.

Externo · world.openfoodfacts.org

Produto comercial confirmado

Se foi usado scan_barcode, a classificação é sempre producto_comercial, com dados exatos em vez de estimados.

Tal como no coach, o resultado da tool é reinjetado no modelo e o laço repete-se, com um máximo de 5 rondas, até obter uma resposta final. Esse limite não é decorativo: sem ele, um modelo que insista em chamar a mesma tool fica a dar voltas e a gastar tokens do utilizador.

Persistência do resultadolink image

Nada se guarda sozinho

Confirmação do utilizador

A estimativa é mostrada primeiro em linguagem natural. Só quando o utilizador a aceita é pedida uma segunda resposta, desta vez em JSON, e feito o parse.

add_meal_food

É adicionado à dieta local do dia e refeição selecionados, nos mesmos dados que o coach usa.

Variante: estimativa manuallink image

Sem câmara

O utilizador descreve um alimento por texto

Fluxo conversacional: o utilizador nomeia o alimento, o modelo pergunta ingredientes e quantidades em falta, calcula valores por 100 g ou unidade, o utilizador confirma e devolve o JSON para guardar no catálogo de alimentos.

Sem tools · sem imagens
Decisão de design: o estimador e o coach não partilham fornecedor, nem prompt, nem tools. Partilham apenas os dados. Mantê-los separados é o que permite ajustar o custo de cada um por si e mudar um sem partir o outro.

A sérielink image

Este post é a capa. Cada parte do desenvolvimento do agente tem o seu próprio post, e todos são ligados a partir daqui.

Entretanto, a página do projeto está em maximofn.com/pt-br/gymnasia e o código é aberto, no GitHub.

Continuar lendo

Últimos posts -->

Você viu esses projetos?

Gymnasia

Gymnasia Gymnasia
Expo
React Native
TypeScript
OpenAI
Anthropic

App de fitness com dois agentes que são executados integralmente no dispositivo, sem backend, de forma que os dados do usuário nunca saem do celular. Um coach conversacional BYOK com tools locais e system prompt remoto com fallback offline, e um estimador de refeições que tira os macronutrientes de uma foto do prato, com leitura de códigos de barras contra o OpenFoodFacts.

LangGraph Deep Researcher

LangGraph Deep Researcher LangGraph Deep Researcher
Python
LangGraph
FastAPI
React
TypeScript
Docker

Sistema multiagente de pesquisa construído com LangGraph. Um supervisor decompõe sua pergunta em tópicos e lança subagentes de busca em paralelo; cada um comprime seus achados antes de repassá-los a um agente redator que escreve o relatório final em markdown com suas fontes. Streaming ao vivo por WebSockets, modelo configurável por papel e chaves de API próprias que nunca são armazenadas no servidor.

Tau

Tau Tau
Python
LangChain

Sistema multiagente de tutoria para estudantes do ensino médio, com um agente por disciplina e material de curso elaborado e validado por uma equipe de professores. Chegou a ser usado com alunos reais em um colégio privado na Espanha e em uma escola de ensino médio na Colômbia.

Ver todos os projetos -->
>_ Disponível para projetos

Tem um projeto com IA?

Vamos conversar.

maximofn@gmail.com

Especialista em Machine Learning e Inteligência Artificial. Desenvolvo soluções com IA generativa, agentes inteligentes e modelos personalizados.

Quer assistir alguma palestra?

Últimas palestras -->

Quer melhorar com essas dicas?

Últimos tips -->

Use isso localmente

Os espaços do Hugging Face nos permitem executar modelos com demos muito simples, mas e se a demo quebrar? Ou se o usuário a deletar? Por isso, criei contêineres docker com alguns espaços interessantes, para poder usá-los localmente, aconteça o que acontecer. Na verdade, se você clicar em qualquer botão de visualização de projeto, ele pode levá-lo a um espaço que não funciona.

Flow edit

Flow edit Flow edit

Edite imagens com este modelo de Flow. Baseado em SD3 ou FLUX, você pode editar qualquer imagem e gerar novas

FLUX.1-RealismLora

FLUX.1-RealismLora FLUX.1-RealismLora
Ver todos os contêineres -->
>_ Disponível para projetos

Tem um projeto com IA?

Vamos conversar.

maximofn@gmail.com

Especialista em Machine Learning e Inteligência Artificial. Desenvolvo soluções com IA generativa, agentes inteligentes e modelos personalizados.

Você quer treinar seu modelo com esses datasets?

short-jokes-dataset

HuggingFace

Dataset com piadas em inglês

Uso: Fine-tuning de modelos de geração de texto humorístico

231K linhas 2 colunas 45 MB
Ver no HuggingFace →

opus100

HuggingFace

Dataset com traduções de inglês para espanhol

Uso: Treinamento de modelos de tradução inglês-espanhol

1M linhas 2 colunas 210 MB
Ver no HuggingFace →

netflix_titles

HuggingFace

Dataset com filmes e séries da Netflix

Uso: Análise de catálogo Netflix e sistemas de recomendação

8.8K linhas 12 colunas 3.5 MB
Ver no HuggingFace →
Ver mais datasets -->