LightOn informa de menos tokens de búsqueda con ColGrep-Agent

Los investigadores de LightOn presentaron el 12 de octubre ColGrep-Agent-2B, un modelo local que busca en repositorios y devuelve archivos y fragmentos a un agente de programación mayor. El equipo probó Claude Code con Sonnet 5.5 en 52 preguntas de búsqueda de código y 13 repositorios; ejecutó cada pregunta tres veces en cuatro configuraciones. El sistema delegado usó una media de 93.000 tokens de API por pregunta, frente a 142.000 con grep.

LightOn informa de un 34,3% menos de tokens de API y un coste de API con caché un 40% menor, pero la proporción observada de respuestas correctas fue del 80,8%, frente al 83,3% de grep; el tiempo medio fue de 21,6 segundos frente a 13. La diferencia de precisión no fue estadísticamente significativa, aunque el intervalo comunicado no descarta una caída relevante. Los resultados corresponden a búsquedas de código, no a tareas completas de programación, y son mediciones de los autores.