O que é Harness?
A camada em volta da LLM O harness é uma camada de software que constrói o que vai enviar e também transforma a resposta do LLM em ação. O LLM não tem memória, apesar de super inteligente ele não guarda um histórico e não executa ações, ele sinaliza o que fazer e o harness executa. Podemos dizer que o harness decide o que vai para o modelo e como vai. Se você leu o artigo anterior vai lembrar que…
Harness é uma camada de software que constrói o prompt enviado para um LLM (Large Language Model) e transforma a resposta do LLM em ação. O LLM não possui memória e não executa ações, mas indica o que fazer. O Harness decide o que vai para o modelo e como vai. Quando você interage com um chatbot como ChatGPT, sua mensagem não é enviada diretamente ao modelo.
Em vez disso, existe uma engenharia de software em volta que cria o prompt para o envio para o modelo. Essa engenharia inclui informações sobre a ferramentas disponíveis, seu nome, descrição e argumentos de formato, bem como o conteúdo e a memória da conversa inteira. O Harness é responsável por montar esse prompt e gerenciar o contexto para o LLM.
Written by urgent.news from Dev.to's reporting — not their text. Machine-written — may contain errors; check the original before relying on it.
