LightOn signale une baisse des jetons de recherche avec ColGrep-Agent

Les chercheurs de LightOn ont présenté le 12 octobre ColGrep-Agent-2B, un modèle local qui recherche dans des dépôts de code et renvoie les fichiers et extraits pertinents à un agent de programmation plus grand. Leur test a utilisé Claude Code avec Sonnet 5.5 pour 52 questions de recherche dans 13 dépôts, chaque question étant exécutée trois fois dans quatre configurations. La configuration déléguée a consommé en moyenne 93 000 jetons API par question, contre 142 000 avec grep.

LightOn rapporte 34,3 % de jetons API en moins et un coût API tenant compte du cache inférieur de 40 %, mais le taux de réponses correctes observé était de 80,8 %, contre 83,3 % pour grep; le temps moyen était de 21,6 secondes contre 13. L’écart de précision n’était pas statistiquement significatif, mais l’intervalle publié n’exclut pas une baisse notable. Ces résultats portent sur la recherche de code, et non sur des tâches complètes de programmation, et proviennent des mesures des auteurs.