
Desenvolvimento de RAG
Pipelines de retrieval-augmented generation (RAG) que continuam funcionando depois que a demo acaba.

Criadores do RustyRAG
RAG em tempo real, feito em Rust · Sub-200 ms ponta a ponta
VersarWashington, DC
GynisusNova York
CampusReelNova York
LuniqAlemanhaHospitalityFlowSingapura
Desenvolvimento de RAG que funciona fora da demo
Numa demo com 50 documentos, busca vetorial ligada direto ao modelo parece resolver. Em produção, com milhares de documentos que mudam toda semana, o sistema cita a política errada com toda a confiança. Projetamos, construímos e operamos o pipeline inteiro, do chunking à avaliação, sobre o RustyRAG, nossa stack de RAG que responde em menos de 200 ms.
Como funciona o desenvolvimento de RAG
Três etapas, cada uma com saída concreta.
Por que investir em desenvolvimento de RAG
Serviços gerenciados resolvem a infraestrutura. O resultado continua dependendo de chunking, avaliação e integração das fontes. É nessa parte que trabalhamos.
Onde o RAG entra em ação
É a arquitetura por trás dos assistentes documentais, a categoria de aplicação de IA que mais cresce entre as empresas brasileiras.
Por que times técnicos nos chamam depois do protótipo de RAG
“Meu time monta isso com um serviço gerenciado.” Monta, e às vezes deve. Serviços como o Vertex AI RAG Engine resolvem a infraestrutura. Só que a parte que decide o resultado segue sendo chunking, avaliação e a integração de fontes estruturadas e não estruturadas. É nela que trabalhamos.
Também tratamos o corpus como superfície de ataque: corromper 0,04% dos documentos pode gerar 98,2% de taxa de sucesso em envenenamento adversarial, então a origem de cada trecho indexado é controlada.
E somos honestos sobre a alternativa. O Gemini 1.5 mantém o desempenho com contextos de até 2 milhões de tokens, já modelos abertos como o Llama-3.1-405B perdem qualidade acima de 32 mil tokens. Se contexto longo resolve o seu caso, o projeto encolhe.
A Agência Nacional de Proteção de Dados (ANPD) elegeu IA como eixo prioritário de fiscalização para 2026 e 2027. Um sistema de RAG reinterpreta e redistribui a informação da base, muitas vezes fora dos controles de acesso originais. Por isso as permissões da fonte vivem dentro do índice, conforme a Lei Geral de Proteção de Dados (LGPD).
O que separa um RAG de produção de um protótipo
O pipeline padrão tem cinco estágios, e cada um condiciona o que o modelo recebe: query encoding, retrieval, reranking, geração e pós-processamento. O trabalho de engenharia é medir a qualidade em cada um deles.
Na busca, combinamos vetores densos com BM25 e rodamos o reranker só sobre os primeiros candidatos, porque o custo dele cresce com o quadrado e estoura a latência se entrar cedo demais na fila. Para calibrar a ordem de grandeza do custo, enriquecer cada chunk com resumo contextual custa cerca de US$ 1,02 por milhão de tokens de documento usando cache de prompt.
Quando a resposta exige conectar informação espalhada pela base, montamos um grafo de conhecimento extraído por LLM, abordagem que a Microsoft abriu como código aberto. E quando o sistema precisa decidir quando e como buscar, entramos em RAG agêntico.
A demanda cresce rápido no Brasil: entre as empresas que já usam IA, a geração de linguagem natural saltou de 20% para 30% de 2024 para 2025, e a maioria contrata fornecedor externo para desenvolver. Traga o caso em que o seu protótipo respondeu errado: numa conversa de diagnóstico, reproduzimos o modo de falha e dizemos se RAG é mesmo a arquitetura certa. Quem atende é quem constrói.
