Prompt e RAG

Um prompt eficaz costuma ter quatro partes:

1. Papel e objetivo — quem o modelo é e o que precisa entregar. 2. Contexto — os dados necessários para a tarefa. 3. Formato de saída — a estrutura esperada, de preferência com exemplo. 4. Restrições — o que não fazer, e o que responder quando faltar informação.

Você é um analista de suporte.
Classifique o chamado abaixo em: cobrança, técnico ou cancelamento.
Responda apenas com uma dessas três palavras.
Se não for possível decidir, responda: indefinido.

Chamado: "{texto}"

Dar exemplos (few-shot) costuma ajudar mais do que descrever a regra em palavras — principalmente para formato de saída.

RAG (Retrieval-Augmented Generation) resolve o problema de o modelo não conhecer seus dados:

1. Quebrar os documentos em trechos (chunks)
2. Gerar embeddings e guardar num banco vetorial
3. Na pergunta, buscar os trechos mais similares
4. Injetar esses trechos no prompt
5. O modelo responde com base neles

RAG não "ensina" nada ao modelo. Ele apenas coloca a informação certa dentro do contexto na hora da pergunta. Encerrada a resposta, o modelo não retém nada.

Quando usar o quê:

• RAG — a informação muda com frequência, é sua e precisa ser citável.
• Fine-tuning — você quer mudar estilo, formato ou comportamento consistente, não injetar conhecimento factual.
• Prompt bem-feito — resolve a maioria dos casos, e é o mais barato de iterar. Comece por ele.