Jev e Laya além do hype: o que modelos de decisão fazem que o LLM não faz
No meu setup de agentes, eu fiz o que todo dev faz no começo: cada subagente acordava com o melhor modelo do SWE-bench por padrão. Typo no README, rename de variável, tudo rodando no topo do ranking. Com 5 spawns por dia, parecia produtividade. Quando o volume cresceu, veio a fatura e a inconsistência: a mesma tarefa simples consumia o modelo caro, e o custo por tarefa só subia. Traduzindo para…
No meu setup de agentes, cada subagente começava com o melhor modelo do SWE-bench por padrão. O resultado parecia produtivo, com 5 spawns por dia. No entanto, à medida que o volume cresceu, surgiram problemas de inconsistência e custo. A solução foi o Downshift, que separa quem decide de quem resolve. Antes de qualquer modelo caro operar, uma camada fina olha e despacha a tarefa para o lado certo.
Jev e Laya são os modelos de decisão, com Jev escolhendo entre um conjunto finito de opções e LLM escrevendo quando necessário. Isso resulta em um processo mais determinístico e barato. O Downshift é um produto que lê assim: triagem antes do especialista.
Written by urgent.news from Dev.to's reporting — not their text. Machine-written — may contain errors; check the original before relying on it.