Por que os assistentes de IA ainda erram tanto (e o que fazer sobre isso)

Em janeiro de 2023, eu perguntei a meu assistente de IA sobre AWS Lambda Durable Functions, mas o assistente me disse que eu estava ficando maluca, afirmando que AWS não tinha essa feature. Na verdade, essa feature havia sido lançada apenas em dezembro do ano anterior, e o assistente não tinha ferramentas para consultar a documentação da AWS. Essa experiência me mostrou que trabalhar com IA é um desafio, e muitas vezes, os resultados que parecem corretos podem não ser exatamente o que estamos procurando.

Para trabalhar melhor com IA, é importante entender como os modelos de IA são construídos e como funcionam. A maioria dos assistentes de IA atuais é baseada em LLMs, ou Grandes Modelos de Linguagem, que são treinados com um volume massivo de dados para entender, interpretar e produzir texto. Quando damos um prompt a um assistente de IA, o modelo por trás realiza um cálculo probabilístico para gerar uma resposta parte a parte, prevendo qual é a próxima palavra mais provável de se encaixar no contexto do usuário. Isso pode gerar resultados coerentes, mas não necessariamente a melhor solução para nosso problema.

Para lidar com esses desafios, podemos usar MCP, ou Model Context Protocol, um protocolo aberto que conecta assistentes de IA a ferramentas e fontes de informação externas. Ao conectar seu assistente a ferramentas externas, ele pode acessar informações atualizadas e evitar ficar preso no conhecimento limitado de seus dados de treinamento.

Por exemplo, AWS fornece um servidor MCP, o aws-knowledge-mcp-server, que permite que o assistente consulte a documentação oficial da AWS e responda com base nela. Ao configurar esse servidor MCP, eu consegui resolver meu problema em relação ao AWS Lambda Durable Functions.