O effort da tarefa: quando pensar demais vira stage 3 na fatura do agente

Quando eu era jovem, pedi ao mecânico para modificar minha Harley-Davidson Heritage, adicionando um motor 1600 cc, um módulo ECM e várias outras alterações. Não era uma demonstração para quem passeava, mas sim um aumento de potência real. Na prática, o consumo de combustível diminuiu de 23 km por litro para apenas 12 km por litro.

Eu não precisava dessa potência constantemente, pois não dirigia tanto e não conduzia à velociadeira. Mesmo assim, cada quilômetro rodado carregava o custo dessa configuração avançada. No agente de serviços, a mesma regra se aplica: manter o nível de reasoning (argumentação) no máximo para tarefas triviais (como renomear variáveis, listar arquivos ou formatar import) significa pagar o reasoning stage 3 em cada execução desnecessária.

O modelo continua funcionando, mas a fatura vem a cada execução. Ao definir qual LLM será utilizado para cada tarefa, há uma segunda configuração que ainda não está claro: "reasoning effort" (ou quantos recursos de raciocínio o modelo pode gastar nesta execução). Sem essa segunda configuração, manter o reasoning ativo pode ser desperdiçar recursos, mesmo quando a tarefa apenas requer chegar a um ponto.