---
license: cc-by-sa-4.0
pretty_name: estimate-bench
task_categories:
  - text-generation
tags:
  - llm
  - benchmark
  - token-estimation
  - calibration
  - metacognition
  - self-knowledge
size_categories:
  - n<1K
---

# estimate-bench

> ⚠️ **Esto es un prototipo.** estimate-bench es un estudio exploratorio: 14 tareas, una sola ejecución por par (modelo, tarea) y una selección de 12 modelos. Los resultados son **indicativos, no definitivos** — trátalos como punto de partida para la discusión, no como un ranking oficial. *This is a prototype: 14 tasks, one sample per (model, task) pair. Treat results as indicative, not definitive.*

## ¿Qué es esto?

Los modelos de lenguaje cobran por tokens, consumen tokens y producen tokens — pero ¿saben cuántos tokens van a usar antes de empezar a trabajar? **estimate-bench mide exactamente eso: la capacidad de un LLM de predecir el tamaño de su propia respuesta.**

El procedimiento es muy simple, como un examen de dos preguntas:

1. **Primera llamada — la predicción.** Le enseñamos al modelo una tarea (por ejemplo, *"escribe un ensayo de 500 palabras sobre la Primera Guerra Mundial"*) y le decimos: **no la hagas, solo dime cuántos tokens usarías si la hicieras**. Debe responder con un solo número.
2. **Segunda llamada — la realidad.** En una conversación completamente nueva, le pedimos que haga la tarea de verdad y contamos los tokens que realmente usó.
3. **La comparación.** Si dijo 500 y usó 700, su error es del 40%. Repetimos esto con 14 tareas de todo tipo (preguntas de una palabra, poemas, código, traducciones, tablas largas…) y promediamos.

El resultado es una medida de **autoconocimiento del modelo**: no si es capaz de resolver la tarea, sino si es capaz de *planificarla*. Esto importa para estimar costes de API, para agentes que deben decidir si una subtarea cabe en su contexto, y como ventana a la metacognición de estos sistemas.

**El hallazgo principal: todos los modelos subestiman.** Dicen que escribirán menos de lo que realmente escriben — típicamente predicen entre un 30% y un 60% de su longitud real. Ordenan bien las tareas (saben que una tabla de 50 estados es más larga que un haiku), pero fallan estrepitosamente en la magnitud absoluta.

> **TL;DR (English):** estimate-bench measures whether LLMs can predict how many output tokens their own answer will use *before* answering. Each model sees 14 tasks twice: first to estimate its output length (without solving), then to actually solve it. We compare prediction vs. reality with MAPE, bias factor, and Spearman correlation. Key finding: **every model systematically underestimates its own verbosity** (bias factors of 0.1x–0.6x), and reasoning models like Kimi K2 underestimate by ~10x because they don't account for their hidden chain-of-thought tokens.

## Resultados

12 modelos (4 gamas de precio × 3 orígenes: EE.UU., Europa, China), 14 tareas cada uno, n=14/14. Ordenados por MAPE (error porcentual medio — menor es mejor):

| # | modelo | gama | origen | MAPE | MAE | sesgo | dentro de 2x | Spearman |
|---|---|---|---|---|---|---|---|---|
| 1 | `openai/gpt-4o-mini` | mini | 🇺🇸 | 49.2% | 220 | 0.51x | 50% | 0.81 |
| 2 | `qwen/qwen3-max` | frontera | 🇨🇳 | 52.0% | 158 | 0.45x | 50% | 0.82 |
| 3 | `mistralai/mistral-large-2512` | frontera | 🇪🇺 | 52.6% | 296 | 0.46x | 50% | 0.89 |
| 4 | `anthropic/claude-opus-5.5` | frontera | 🇺🇸 | 56.1% | 419 | 0.38x | 36% | 0.87 |
| 5 | `mistralai/mistral-medium-3-5` | media | 🇪🇺 | 62.4% | 185 | 0.57x | 50% | 0.90 |
| 6 | `openai/gpt-4o-2024-11-20` | media | 🇺🇸 | 62.6% | 252 | 0.35x | 36% | 0.83 |
| 7 | `qwen/qwen3-30b-a3b-instruct-2507` | económica | 🇨🇳 | 64.9% | 260 | 0.30x | 29% | 0.88 |
| 8 | `deepseek/deepseek-chat-v3.1` | mini | 🇨🇳 | 66.6% | 307 | 0.44x | 29% | 0.88 |
| 9 | `mistralai/mistral-small-3.2-24b-instruct` | económica | 🇪🇺 | 70.2% | 316 | 0.27x | 29% | 0.85 |
| 10 | `moonshotai/kimi-k2.6` | media | 🇨🇳 | 87.2% | 1187 | 0.09x | 0% | 0.68 |
| 11 | `mistralai/mistral-small-2603` | mini | 🇪🇺 | 93.7% | 342 | 0.30x | 7% | 0.75 |
| 12 | `meta-llama/llama-3.1-8b-instruct` | económica | 🇺🇸 | 137.4% | 240 | 1.10x | 43% | 0.81 |

**Columnas:**

- **MAPE**: error porcentual absoluto medio entre lo estimado y lo real. 50% significa que, de media, la estimación se desvía la mitad de la realidad.
- **Sesgo (factor)**: cuánto multiplica la estimación respecto a la realidad, en promedio geométrico. **1.0x sería perfecto**; 0.5x significa que estima la mitad de lo que usa; 2x que estima el doble.
- **Dentro de 2x**: porcentaje de tareas donde la estimación cayó entre la mitad y el doble de la realidad.
- **Spearman**: correlación de rangos entre lo estimado y lo real. 1.0 = ordena perfectamente las tareas por longitud, aunque falle en la magnitud.

## Contenido del dataset

| archivo | descripción |
|---|---|
| `tasks.jsonl` | Las 14 tareas: `id`, `category`, `prompt`. |
| `results.jsonl` | Una fila por par (modelo, tarea): estimación, tokens reales, texto completo de la respuesta, error si lo hubo. |
| `estimate_bench.py` | El código exacto del runner para reproducir o extender el benchmark. |
| `lm_eval_tasks/` | Adaptación del benchmark como tarea de [lm-evaluation-harness](https://github.com/EleutherAI/lm-evaluation-harness) (ver su README). |

Esquema de `results.jsonl`:

```json
{
  "model": "openai/gpt-4o-mini",
  "task_id": "essay-500",
  "category": "long-form",
  "estimated_tokens": 600,
  "actual_tokens": 698,
  "estimate_raw": "600",
  "response": "The First World War was...",
  "error": null
}
```

## Cómo reproducir

```bash
pip install -r requirements.txt   # openai + huggingface_hub
export OPENROUTER_API_KEY=sk-or-...
python estimate_bench.py --model openai/gpt-4o-mini --model qwen/qwen3-max
```

El runner funciona con cualquier endpoint compatible con la API de OpenAI (OpenRouter por defecto). Cada par (modelo, tarea) hace dos llamadas independientes con temperatura 0: la de estimación (con la instrucción de no resolver la tarea) y la de ejecución (la tarea a secas). Los tokens reales son `usage.completion_tokens` devuelto por la API.

También puedes correrlo como tarea de lm-evaluation-harness (ver `lm_eval_tasks/README.md`):

```bash
pip install "lm-eval[api]" transformers
lm_eval --model local-chat-completions \
  --model_args "model=qwen/qwen3-max,base_url=https://openrouter.ai/api/v1/chat/completions,tokenizer=Qwen/Qwen2.5-7B-Instruct" \
  --apply_chat_template --tasks estimate_bench --include_path lm_eval_tasks
```

## Limitaciones

- **Una muestra por celda**: cada par (modelo, tarea) se ejecutó una vez (temperatura 0); la longitud real puede variar entre ejecuciones.
- **Modelos razonadores**: `completion_tokens` incluye los tokens de razonamiento oculto. Kimi K2 y similares subestiman ~10x porque no "saben" cuánto van a razonar — lo cual es en sí mismo un hallazgo, pero conviene analizarlos aparte.
- **Dependencia del prompt de estimación**: pedir el número directamente, sin dejar razonar, puede penalizar a algunos modelos. Una variante con chain-of-thought en la estimación es trabajo futuro.
- **Sustitución de un modelo**: el representante chino económico previsto (`qwen/qwen-2.5-7b-instruct`) quedó sin disponibilidad en OpenRouter durante la corrida (404 persistente) y se sustituyó por `qwen/qwen3-30b-a3b-instruct-2507`, de precio equivalente.
- **Dos respuestas ausentes**: el pool compartido de Mistral en OpenRouter limitó persistentemente `mistral-large-2512` (429); en `essay-500` y `code-small` sus métricas son válidas pero `response` es `null`.
- **Fecha de la corrida**: octubre de 2026, vía OpenRouter. Los modelos y sus verbosidades cambian con el tiempo.

## Licencia

Licencia dual (ver `LICENSE.md`):

- **Datos** (`tasks.jsonl`, `results.jsonl`, esta documentación): [CC-BY-SA-4.0](https://creativecommons.org/licenses/by-sa/4.0/) — uso libre con atribución; los derivados deben compartirse igual.
- **Código** (`estimate_bench.py`, `publish_hf.py`): [GPL-3.0-or-later](https://www.gnu.org/licenses/gpl-3.0.txt).

## Cita

```
@misc{estimate-bench,
  title  = {estimate-bench: can LLMs predict their own output length?},
  author = {David Coronel},
  year   = {2026},
  url    = {https://huggingface.co/datasets/David-Coronel/estimate-bench}
}
```