README.md

metadata

license: cc-by-sa-4.0
pretty_name: estimate-bench
task_categories:
  - text-generation
tags:
  - llm
  - benchmark
  - token-estimation
  - calibration
  - metacognition
  - self-knowledge
size_categories:
  - n<1K

estimate-bench

⚠️ Esto es un prototipo. estimate-bench es un estudio exploratorio: 14 tareas, una sola ejecución por par (modelo, tarea) y una selección de 12 modelos. Los resultados son indicativos, no definitivos — trátalos como punto de partida para la discusión, no como un ranking oficial. This is a prototype: 14 tasks, one sample per (model, task) pair. Treat results as indicative, not definitive.

¿Qué es esto?

Los modelos de lenguaje cobran por tokens, consumen tokens y producen tokens — pero ¿saben cuántos tokens van a usar antes de empezar a trabajar? estimate-bench mide exactamente eso: la capacidad de un LLM de predecir el tamaño de su propia respuesta.

El procedimiento es muy simple, como un examen de dos preguntas:

1. Primera llamada — la predicción. Le enseñamos al modelo una tarea (por ejemplo, "escribe un ensayo de 500 palabras sobre la Primera Guerra Mundial") y le decimos: no la hagas, solo dime cuántos tokens usarías si la hicieras. Debe responder con un solo número.
2. Segunda llamada — la realidad. En una conversación completamente nueva, le pedimos que haga la tarea de verdad y contamos los tokens que realmente usó.
3. La comparación. Si dijo 500 y usó 700, su error es del 40%. Repetimos esto con 14 tareas de todo tipo (preguntas de una palabra, poemas, código, traducciones, tablas largas…) y promediamos.

El resultado es una medida de autoconocimiento del modelo: no si es capaz de resolver la tarea, sino si es capaz de planificarla. Esto importa para estimar costes de API, para agentes que deben decidir si una subtarea cabe en su contexto, y como ventana a la metacognición de estos sistemas.

El hallazgo principal: todos los modelos subestiman. Dicen que escribirán menos de lo que realmente escriben — típicamente predicen entre un 30% y un 60% de su longitud real. Ordenan bien las tareas (saben que una tabla de 50 estados es más larga que un haiku), pero fallan estrepitosamente en la magnitud absoluta.

TL;DR (English): estimate-bench measures whether LLMs can predict how many output tokens their own answer will use before answering. Each model sees 14 tasks twice: first to estimate its output length (without solving), then to actually solve it. We compare prediction vs. reality with MAPE, bias factor, and Spearman correlation. Key finding: every model systematically underestimates its own verbosity (bias factors of 0.1x–0.6x), and reasoning models like Kimi K2 underestimate by ~10x because they don't account for their hidden chain-of-thought tokens.

Resultados

12 modelos (4 gamas de precio × 3 orígenes: EE.UU., Europa, China), 14 tareas cada uno, n=14/14. Ordenados por MAPE (error porcentual medio — menor es mejor):

#	modelo	gama	origen	MAPE	MAE	sesgo	dentro de 2x	Spearman
1	openai/gpt-4o-mini	mini	🇺🇸	49.2%	220	0.51x	50%	0.81
2	qwen/qwen3-max	frontera	🇨🇳	52.0%	158	0.45x	50%	0.82
3	mistralai/mistral-large-2512	frontera	🇪🇺	52.6%	296	0.46x	50%	0.89
4	anthropic/claude-opus-5.5	frontera	🇺🇸	56.1%	419	0.38x	36%	0.87
5	mistralai/mistral-medium-3-5	media	🇪🇺	62.4%	185	0.57x	50%	0.90
6	openai/gpt-4o-2024-11-20	media	🇺🇸	62.6%	252	0.35x	36%	0.83
7	qwen/qwen3-30b-a3b-instruct-2507	económica	🇨🇳	64.9%	260	0.30x	29%	0.88
8	deepseek/deepseek-chat-v3.1	mini	🇨🇳	66.6%	307	0.44x	29%	0.88
9	mistralai/mistral-small-3.2-24b-instruct	económica	🇪🇺	70.2%	316	0.27x	29%	0.85
10	moonshotai/kimi-k2.6	media	🇨🇳	87.2%	1187	0.09x	0%	0.68
11	mistralai/mistral-small-2603	mini	🇪🇺	93.7%	342	0.30x	7%	0.75
12	meta-llama/llama-3.1-8b-instruct	económica	🇺🇸	137.4%	240	1.10x	43%	0.81

Columnas:

• MAPE: error porcentual absoluto medio entre lo estimado y lo real. 50% significa que, de media, la estimación se desvía la mitad de la realidad.
• Sesgo (factor): cuánto multiplica la estimación respecto a la realidad, en promedio geométrico. 1.0x sería perfecto; 0.5x significa que estima la mitad de lo que usa; 2x que estima el doble.
• Dentro de 2x: porcentaje de tareas donde la estimación cayó entre la mitad y el doble de la realidad.
• Spearman: correlación de rangos entre lo estimado y lo real. 1.0 = ordena perfectamente las tareas por longitud, aunque falle en la magnitud.

Contenido del dataset

archivo	descripción
tasks.jsonl	Las 14 tareas: id, category, prompt.
results.jsonl	Una fila por par (modelo, tarea): estimación, tokens reales, texto completo de la respuesta, error si lo hubo.
estimate_bench.py	El código exacto del runner para reproducir o extender el benchmark.
lm_eval_tasks/	Adaptación del benchmark como tarea de lm-evaluation-harness (ver su README).

Esquema de results.jsonl:

{
  "model": "openai/gpt-4o-mini",
  "task_id": "essay-500",
  "category": "long-form",
  "estimated_tokens": 600,
  "actual_tokens": 698,
  "estimate_raw": "600",
  "response": "The First World War was...",
  "error": null
}

Cómo reproducir

pip install -r requirements.txt   # openai + huggingface_hub
export OPENROUTER_API_KEY=sk-or-...
python estimate_bench.py --model openai/gpt-4o-mini --model qwen/qwen3-max

El runner funciona con cualquier endpoint compatible con la API de OpenAI (OpenRouter por defecto). Cada par (modelo, tarea) hace dos llamadas independientes con temperatura 0: la de estimación (con la instrucción de no resolver la tarea) y la de ejecución (la tarea a secas). Los tokens reales son usage.completion_tokens devuelto por la API.

También puedes correrlo como tarea de lm-evaluation-harness (ver lm_eval_tasks/README.md):

pip install "lm-eval[api]" transformers
lm_eval --model local-chat-completions \
  --model_args "model=qwen/qwen3-max,base_url=https://openrouter.ai/api/v1/chat/completions,tokenizer=Qwen/Qwen2.5-7B-Instruct" \
  --apply_chat_template --tasks estimate_bench --include_path lm_eval_tasks

Limitaciones

• Una muestra por celda: cada par (modelo, tarea) se ejecutó una vez (temperatura 0); la longitud real puede variar entre ejecuciones.
• Modelos razonadores: completion_tokens incluye los tokens de razonamiento oculto. Kimi K2 y similares subestiman ~10x porque no "saben" cuánto van a razonar — lo cual es en sí mismo un hallazgo, pero conviene analizarlos aparte.
• Dependencia del prompt de estimación: pedir el número directamente, sin dejar razonar, puede penalizar a algunos modelos. Una variante con chain-of-thought en la estimación es trabajo futuro.
• Sustitución de un modelo: el representante chino económico previsto (qwen/qwen-2.5-7b-instruct) quedó sin disponibilidad en OpenRouter durante la corrida (404 persistente) y se sustituyó por qwen/qwen3-30b-a3b-instruct-2507, de precio equivalente.
• Dos respuestas ausentes: el pool compartido de Mistral en OpenRouter limitó persistentemente mistral-large-2512 (429); en essay-500 y code-small sus métricas son válidas pero response es null.
• Fecha de la corrida: octubre de 2026, vía OpenRouter. Los modelos y sus verbosidades cambian con el tiempo.

Licencia

Licencia dual (ver LICENSE.md):

• Datos (tasks.jsonl, results.jsonl, esta documentación): CC-BY-SA-4.0 — uso libre con atribución; los derivados deben compartirse igual.
• Código (estimate_bench.py, publish_hf.py): GPL-3.0-or-later.

Cita

@misc{estimate-bench,
  title  = {estimate-bench: can LLMs predict their own output length?},
  author = {David Coronel},
  year   = {2026},
  url    = {https://huggingface.co/datasets/David-Coronel/estimate-bench}
}