Como escolher e rodar modelos open source para agentes de IA em português

Para o CTO de uma fintech brasileira, a pergunta sobre IA quase nunca é só qual modelo é o melhor. É onde ele roda, quem vê os dados e quanto custa quando o volume do Pix multiplicar o número de chamadas. Modelos de pesos abertos mudaram essa conta: hoje dá para rodar um modelo forte na sua própria conta de nuvem, em São Paulo, com uma licença que o jurídico aprova. Com isso, cada caso a mais praticamente não custa nada além da infraestrutura. O que continua difícil é escolher bem e provar que o modelo funciona com os seus casos, em português.

Este é um guia prático para CTOs e líderes de engenharia de fintechs no Brasil: quais modelos open source usar em cada trabalho dos seus agentes, como rodá-los no país, como avaliá-los com casos brasileiros e como o Runtime encaixa isso sem prender você a um fornecedor.

O que faz. Ajuda você a escolher dois ou três modelos candidatos por caso de uso, a partir do nosso comparativo de modelos open source, e a montar uma avaliação com seus próprios casos.

O que não é. Um ranking com números de benchmark. Benchmark público não mede se o modelo entende um ticket de "Pix não caiu" escrito às pressas no WhatsApp. Só seus casos medem isso.

Por que considerar modelos open source

Modelos fechados continuam sendo uma ótima opção para muitos trabalhos. O ponto é poder escolher por processo.

Os modelos por caso de uso

As escolhas abaixo vêm do nosso comparativo, atualizado todo mês. Cada linha leva à página do caso de uso com os critérios e à página de cada modelo.

Licença: leia antes de escolher

Para quem precisa do caminho mais curto até produção, começar por um modelo Apache 2.0 ou MIT poupa semanas.

Rodando em São Paulo

AWS, Google Cloud e Azure têm regiões em São Paulo. Você tem três caminhos:

1. Serviço gerenciado. Bedrock na AWS ou Vertex AI no Google Cloud, quando o modelo estiver disponível na região que você precisa.
2. Seu próprio endpoint. Você hospeda o modelo em GPUs na sua conta. O Qwen3.8 27B roda em hardware modesto, e o gpt-oss-120b cabe numa única GPU de 80 GB.
3. Misto. Modelo pequeno no seu endpoint para os passos que tocam dado sensível, modelo maior gerenciado para o raciocínio pesado.

A disponibilidade de modelos e de GPUs muda por região e por mês. Confira no console antes de fechar a arquitetura.

Passo 1: monte um conjunto de casos brasileiros

Este passo é do seu time. Junte de 50 a 100 casos já resolvidos de um processo, com a resposta certa. O que faz um bom conjunto em português:

• Texto do jeito que o cliente escreve. "vc", "pq", "fiz um pix pro meu primo e n caiu", áudio transcrito do WhatsApp.
• Formatos brasileiros. R$ 1.234,56 com vírgula decimal, datas em dd/mm/aaaa, CPF e CNPJ com e sem pontuação, linha digitável de boleto.
• Vocabulário de pagamentos. Pix, EndToEndId, chave, MED, boleto, NF-e, CNAE.
• Os casos difíceis. O que seu time errou no passado e o que não pode errar.

Passo 2: defina o que é acertar

Para cada processo, escreva o critério antes de testar: o agente encontrou a transação certa? A conclusão bate com a do analista? O tom está adequado? Revelou algum dado que não devia? Inclua custo por caso e tempo de resposta.

Passo 3: teste dois ou três modelos

Rode os mesmos casos com os candidatos da tabela, na região de São Paulo, dentro do mesmo agente e com as mesmas instruções. Compare acertos, erros graves, custo e tempo.

Rode o conjunto de 80 tickets de Pix com GLM-5.3 Flash, DeepSeek V4.1 Flash e o modelo que usamos hoje. Para cada um, compare a resposta com a que nosso time enviou, marque erros de valor, de data e de transação, conte quantas vezes algum dado de terceiro apareceu e me mostre custo e tempo médio por ticket.

Passo 4: coloque em produção com controles

Escolhido o modelo, ele entra no agente com os mesmos controles de qualquer outro: acesso só de leitura, aprovação antes de responder a um cliente ou movimentar dinheiro, mascaramento de dados e registro.

Passo 5: reavalie a cada modelo novo

Modelos novos saem todo mês. Com o conjunto de casos pronto, testar um candidato novo vira rotina de uma tarde, não um projeto.

Como o Runtime roda isso

O Runtime é o sistema operacional para agentes de IA e é neutro em modelos: seus agentes podem usar Claude Code, Codex ou modelos open source via Bedrock, Vertex AI ou o seu próprio endpoint. Cada agente roda no seu próprio computador isolado, apagado no fim da sessão, com credenciais restritas; CPF, contas e cartões são mascarados antes de chegar ao modelo ou aos logs; ações sensíveis esperam aprovação; e cada execução fica registrada e pode ser exportada. O Runtime pode rodar na sua conta de AWS, GCP ou Azure, inclusive em São Paulo, ou self-hosted, nunca treina com seus dados e é auditado SOC 2. Um engenheiro de IA do Runtime ajuda a configurar o primeiro agente.

O que o jurídico e o compliance vão perguntar

• Para onde vão os dados. A LGPD não obriga a manter dados no Brasil, mas a transferência internacional precisa de base legal, como as cláusulas-padrão do regulamento da ANPD de 2024. Rodar em São Paulo simplifica.
• Qual a licença do modelo. Veja a tabela acima.
• Onde roda a infraestrutura. Contratação de nuvem e processamento segue as normas do CMN e do Bacen de segurança cibernética; veja o guia de compliance.
• Quem aprova o quê. Decisões que afetam o cliente ficam com uma pessoa, o que também atende ao artigo 20 da LGPD.

O que fica com seu time

Como medir resultado

Um cronograma realista

A Rain, emissora de cartões presente em mais de 150 países, usa o Runtime para suporte técnico, monitoramento de fraude e risco, compliance, cibersegurança, investigações de engenharia, revisão de PRs, QA e relatórios, e economizou $750k com fornecedores e folha.

Em resumo

O melhor modelo é o que acerta os seus casos, em português, no custo que o seu volume aguenta, rodando onde o seu jurídico quer. Monte o conjunto de casos, teste dois ou três candidatos em São Paulo e deixe a troca de modelo virar rotina. Para os processos em que esses modelos entram, veja os guias de operações de pagamentos, atendimento e prevenção de fraude.

Mãos à obra.

Perguntas frequentes

Qual o melhor modelo open source para uma fintech no Brasil?

Depende do trabalho. Para alto volume, como atendimento e triagem de alertas, modelos rápidos e baratos como GLM-5.3 Flash e DeepSeek V4.1 Flash; para investigações longas, como PLD/FT e conciliação, DeepSeek V4 Pro e GLM-5.3; para documentos e imagens no KYC, Qwen3.8 27B. Teste dois ou três com casos reais seus em português antes de decidir.

Dá para rodar modelos open source no Brasil, sem os dados saírem do país?

Dá. AWS, Google Cloud e Azure têm regiões em São Paulo. Você pode hospedar o modelo na sua conta, em GPUs próprias ou por um serviço gerenciado, e rodar o agente na mesma região. A disponibilidade de cada modelo e de cada tipo de GPU varia por região, então confira antes.

A LGPD obriga a manter os dados no Brasil?

Não obriga, mas regula a transferência internacional: ela precisa de uma das bases do artigo 33, como as cláusulas-padrão do regulamento da ANPD de 2024. Rodar modelo e agente em São Paulo simplifica bastante essa conversa com o jurídico e com o banco parceiro.

Modelo open source fala português bem o suficiente?

Muitos modelos de pesos abertos lidam com português, mas a qualidade varia por modelo e por tarefa. A única forma de saber é testar com seus próprios casos: tickets com gírias e abreviações, valores com vírgula decimal, datas no formato brasileiro, linhas digitáveis de boleto e o vocabulário de Pix.

Todo modelo open source pode ser usado comercialmente?

Não da mesma forma. Modelos com licença Apache 2.0 ou MIT, como gpt-oss-120b, Qwen3.8 27B e DeepSeek V4 Pro, são os mais simples para o jurídico aprovar. Outros, como GLM-5.3, Kimi K3 e MiniMax M3, têm licenças próprias que precisam ser lidas antes do uso em produção.

Como o Runtime roda modelos open source?

O Runtime é neutro em modelos. Seus agentes podem usar Claude Code, Codex ou modelos open source via Bedrock, Vertex AI ou o seu próprio endpoint, e o Runtime pode rodar na sua própria conta de AWS, GCP ou Azure, inclusive em São Paulo. Os controles são os mesmos para qualquer modelo: computador isolado, credenciais restritas, aprovações, mascaramento de dados e registro.