Todo projeto que tenta fazer uma IA responder com base em documentos próprios esbarra no mesmo obstáculo. O modelo não conhece o seu conteúdo, e não dá para mandar tudo junto na pergunta, porque não cabe. A solução exige encontrar, dentro de um acervo grande, os poucos trechos relevantes para cada pergunta específica.
Busca tradicional não resolve bem esse problema, e o motivo é simples: ela procura palavras, e a pergunta do usuário raramente usa as mesmas palavras do documento.
O problema com a busca por palavra
Imagine uma base de artigos de suporte e um usuário perguntando: meu site está fora do ar. O artigo que resolveria o caso se chama diagnóstico de indisponibilidade em aplicações web.
Nenhuma palavra em comum. A busca tradicional não encontra nada, embora qualquer pessoa entenda na hora que são o mesmo assunto. O que falta à busca por palavra é a noção de significado.
O que é um vetor, sem matemática
Um modelo de embedding lê um texto e devolve uma lista de números que representa o sentido daquele texto. Essa lista é o vetor.
A propriedade que torna isso útil é a seguinte: textos com significado parecido produzem listas de números parecidas, mesmo sem nenhuma palavra em comum. A frase sobre site fora do ar e o artigo sobre indisponibilidade geram vetores próximos, porque o modelo aprendeu que falam da mesma coisa.
Com isso, buscar por significado vira um problema geométrico: transforme a pergunta em vetor, e procure os vetores mais próximos dele no acervo. É isso que um banco vetorial faz.
Para que serve na prática
O uso mais comum tem nome, RAG, e a sigla esconde um fluxo bem direto:
- Você quebra seus documentos em pedaços e gera um vetor para cada pedaço, guardando os dois juntos.
- Quando chega uma pergunta, você gera o vetor dela.
- Busca os pedaços mais próximos.
- Manda a pergunta junto com esses pedaços para o modelo, e pede que responda usando esse material.
O resultado é uma IA que responde sobre o seu conteúdo sem ter sido treinada nele, e que pode citar a fonte, porque você sabe exatamente de qual pedaço veio cada resposta.
Quando o projeto precisa de um
Três sinais indicam que sim:
- O acervo não cabe no prompt. Se você conseguiria mandar todo o conteúdo junto da pergunta, mande. Banco vetorial só faz sentido quando o volume ultrapassa isso.
- As perguntas são variadas e imprevisíveis. Se elas seguem poucos formatos conhecidos, uma consulta comum resolve melhor e mais barato.
- O vocabulário do usuário difere do vocabulário do conteúdo. Esse é o sinal mais forte, e é onde a busca por significado ganha de goleada.
Quando não precisa
Vale dizer com todas as letras, porque muito projeto adota banco vetorial por moda e paga complexidade sem retorno.
Não precisa quando o acervo é pequeno e estável, porque mandar tudo junto é mais simples e dá resultado melhor. Não precisa quando a busca é por dado estruturado, como pedido, data ou status, porque para isso banco comum é insuperável. E não precisa quando a resposta certa depende de precisão exata, como número de contrato ou código de produto, já que busca por significado é aproximada por natureza, o que é virtude num caso e defeito no outro.
Onde a qualidade se decide
Aqui está a parte que quase nenhum tutorial enfatiza. Trocar de banco vetorial muda pouco o resultado. O que muda muito é como o conteúdo foi dividido.
Pedaços grandes demais trazem muito ruído junto da informação útil, e o modelo se perde. Pedaços pequenos demais perdem o contexto: um trecho que diz isso não se aplica ao plano anterior é inútil sem saber do que fala o parágrafo acima.
Duas práticas ajudam bastante. Dividir respeitando a estrutura do documento, por seção e por título, em vez de cortar a cada tanto de caracteres. E manter uma pequena sobreposição entre pedaços vizinhos, para que uma frase relevante na fronteira não fique órfã dos dois lados.
Comece simples
Não é necessário contratar um serviço dedicado para começar. Extensões de banco relacional oferecem busca vetorial com qualidade suficiente para a maioria dos projetos, e têm uma vantagem grande: o dado vetorial fica no mesmo lugar que o resto, o que evita sincronizar duas fontes de verdade.
A migração para um serviço especializado faz sentido quando o volume cresce a ponto de a busca ficar lenta, o que acontece bem depois do que a ansiedade sugere.
O que realmente pesa na infraestrutura é memória e velocidade de disco, porque cada consulta percorre o índice. É por isso que armazenamento NVMe faz diferença perceptível nesse tipo de projeto.
Se você está montando o ambiente para esse tipo de carga, vale conferir as opções da StayCloud.
