Jak pisać prompty po polsku taniej? Sprawdziłem 7 wersji (GPT i Mistral)
Polski należy do najdroższych języków w promptach: ten sam tekst zajmuje w GPT prawie dwa razy więcej tokenów niż po angielsku. W dyskusji na forum 4programmers padła dobra uwaga: może to wina samego tekstu, a native speaker napisze go krócej? Sprawdziłem to, razem z kilkoma innymi sposobami na tańszy prompt po polsku. Test Prośba o streszczenie e-maila klienta, w siedmiu wersjach. Tokeny…
Jak pisać prompty po polsku taniej? Testowałem siedem wersji, porównując GPT i Mistral. Polski jest znacznie droższy niż angielski, ponieważ model musi zrozumieć i analizować dłużej. Umożliwiłem siedmiu wersjom skrócenia tekstu, uzyskając spory zniwelowanie kosztów. Krótsze polskie pisma dają o 30-34% mniej tokenów niż formalne, gdyż ksiegawki i terminologia są częściej podzielone na pojedyncze tokeny.
Usuwanie polskich znaków nie pomaga, a przejście na angielski daje 28 tokenów, a skrócona polska 42. Prompty systemowe, wysyłane z każdym zapytaniem, liczą każdy token, więc maksymalne skrócenie tam jest najbardziej kosztowne. Testowanie wykazało, że skrócona polska i polskie polecenia są tanny, jak angielskie, pod warunkiem klasyfikacji i czytelnicy. Aby oszczędzić tokeny, liczę je w przeglądarce i dodaje "Reply in Polish."
Written by urgent.news from Dev.to's reporting — not their text. Machine-written — may contain errors; check the original before relying on it.
