Como funciona a memória de um agente de IA (e o que acontece quando ela esquece do jeito errado)
Modelo de linguagem não lembra de nada. Cada chamada recebe um prompt, gera uma resposta e pronto, esqueceu. Quando um agente "lembra" que o projeto usa pytest , quem lembrou foi um sistema fora do modelo, que guardou isso em algum lugar e recolocou no prompt na hora certa. Esse sistema é a memória do agente. Nesse post eu explico como ela funciona, mostro quatro políticas de memória que…
A memória de um agente de IA funciona por meio de etapas de escrita, armazenamento, busca e esquecimento. Cada etapa possui decisões que podem levar ao comportamento do agente. O processo de escrita envolve decidir o que escrever, em que formato e com quais metadados. O armazenamento armazena texto, embbedings e metadados como fonte, data, confiança e uso.
A busca é semântica, transformando a pergunta em um vetor e comparando com o que está guardado para pegar os k mais parecidos. O esquecimento substitui, rebaixa ou arquivam o que ficou velho. Foi implementado quatro políticas de memória com a mesma interface e banco de dados, mas cada política ataca os problemas de memória de maneiras diferentes.
Written by urgent.news from Dev.to's reporting — not their text. Machine-written — may contain errors; check the original before relying on it.