RAG ou fine-tuning: qual utilizar?

A conversa costuma começar com “vamos treinar um modelo com os PDFs da empresa”. Na prática, o que a empresa quer é resposta com o documento vigente, com permissão e com a possibilidade de atualizar o arquivo amanhã. Isso descreve RAG. Fine-tuning é outra ferramenta.

O problema

Modelo genérico inventa política. Modelo “treinado” de qualquer jeito memoriza trecho velho e fica caro de atualizar. Sem clareza da diferença, o projeto gasta orçamento no lugar errado e ainda assim não consegue dizer de qual arquivo veio a resposta.

Como funciona cada um

RAG (geração aumentada por recuperação) busca trechos autorizados na base — documentos, procedimentos, catálogo — e entrega esse contexto ao modelo na hora da pergunta. O modelo continua genérico. O que muda é o material que ele pode usar naquela resposta.

Fine-tuning ajusta pesos do modelo com exemplos. Serve para formato de resposta, estilo, tarefa repetida com muitos pares pergunta-resposta estáveis. Não é o jeito eficiente de “ensinar o PDF que o jurídico atualizou na terça”.

Quando utilizar RAG

• Política, procedimento e manual que mudam.
• Atendimento que precisa citar a regra vigente.
• Vários departamentos com bases diferentes e permissão diferente.
• Necessidade de saber que documento alimentou a resposta.

Quando fine-tuning pode entrar

Quando o problema é o jeito de responder — classificação estável, formato rígido, domínio estreito com milhares de exemplos curados — e a base documental não é o gargalo. Mesmo nesses casos, muitas equipes combinam: modelo ajustado para a tarefa, RAG para o fato.

Principais desafios do RAG

Documento sem dono. Pasta inteira indexada sem recorte. Agente comercial lendo arquivo de RH. Índice que não atualiza quando o PDF muda. Pergunta que na verdade é status de pedido — e deveria ir para a API, não para o índice semântico.

Erros comuns

• Fine-tuning porque o termo parece mais avançado.
• Jogar o drive inteiro no índice e chamar isso de governança.
• Não ter resposta “não sei, transfira”.
• Medir sucesso só por “parece inteligente” em vez de acerto em política real.

Experiência prática

Em plataformas com múltiplos agentes e bases de conhecimento, é essencial definir quais documentos cada agente pode consultar, quem é responsável por eles e como o consumo será monitorado. RAG sem controle de acesso pode expor informações; fine-tuning sem dados revisados produz respostas pouco confiáveis e desatualizadas.