data: move dados brutos consolidados para data/raw/
Browse filesSepara o bruto consolidado (uma linha por medicao) dos CSV agregados de
analise que ficam na raiz de data/. Ajusta o script gerador e o README.
- README.md +12 -9
- data/{full_raw.csv → raw/full_raw.csv} +0 -0
- data/{full_raw_serving.csv → raw/full_raw_serving.csv} +0 -0
- data/{raw_embed.csv → raw/raw_embed.csv} +0 -0
- data/{raw_ocr.csv → raw/raw_ocr.csv} +0 -0
- data/{raw_ollama.csv → raw/raw_ollama.csv} +0 -0
- data/{raw_rerank.csv → raw/raw_rerank.csv} +0 -0
- data/{raw_stt.csv → raw/raw_stt.csv} +0 -0
- data/{raw_vision.csv → raw/raw_vision.csv} +0 -0
- scripts/build_full_raw_csv.py +11 -7
README.md
CHANGED
|
@@ -380,16 +380,19 @@ Consolidam **100% de `raw/`**: os 282 JSON e também os 60 CSV que não têm JSO
|
|
| 380 |
par (rodadas em que apenas o agregado foi gravado). Cobertura verificada:
|
| 381 |
**342 de 342 arquivos**.
|
| 382 |
|
|
|
|
|
|
|
|
|
|
| 383 |
| Arquivo | Linhas | Colunas | Conteúdo |
|
| 384 |
|---|---|---|---|
|
| 385 |
-
| **`data/full_raw_serving.csv`** | 5.818 | 65 | **5.610 medições individuais** (uma linha por repetição) + 208 agregadas |
|
| 386 |
-
| `data/raw_ocr.csv` | 316 | 70 | latência por documento (304) e acurácia CER (12) |
|
| 387 |
-
| `data/raw_ollama.csv` | 440 | 72 | serving via ollama, só agregados |
|
| 388 |
-
| `data/raw_stt.csv` | 128 | 63 | transcrição de áudio, só agregados |
|
| 389 |
-
| `data/raw_embed.csv` | 88 | 61 | embeddings, só agregados |
|
| 390 |
-
| `data/raw_vision.csv` | 64 | 59 | multimodal, só agregados |
|
| 391 |
-
| `data/raw_rerank.csv` | 53 | 58 | reranking, só agregados |
|
| 392 |
-
| `data/full_raw.csv` | 6.907 | 210 | **tudo numa tabela só** — a soma exata dos acima |
|
| 393 |
|
| 394 |
Cada arquivo traz o conjunto completo de metadados descrito abaixo; separar por
|
| 395 |
workload apenas remove as colunas que aquele experimento não usa (o consolidado
|
|
@@ -439,7 +442,7 @@ Nenhum outro campo é inferido. Colunas que a coleta criou mas nunca preencheu
|
|
| 439 |
| `1` | 1.297 | Estatística do ponto (`median`, `q1`, `q3`, `min`, `max`), porque a coleta desses workloads não guardou os valores individuais. | `ollama`, `ocr`, `stt`, `embed`, `vision`, `rerank` |
|
| 440 |
|
| 441 |
Para análise estatística com dado bruto de verdade (intervalo de confiança,
|
| 442 |
-
teste de hipótese, distribuição), use **`data/full_raw_serving.csv`** com
|
| 443 |
`is_aggregate == 0`: são 5.610 execuções individuais com `output_throughput`,
|
| 444 |
`request_throughput`, `mean_ttft_ms`, `median_ttft_ms`, `p99_ttft_ms`,
|
| 445 |
`mean_tpot_ms`, `mean_itl_ms`, `mean_e2el_ms`, `total_input_tokens`,
|
|
|
|
| 380 |
par (rodadas em que apenas o agregado foi gravado). Cobertura verificada:
|
| 381 |
**342 de 342 arquivos**.
|
| 382 |
|
| 383 |
+
Ficam em **`data/raw/`**, separados dos CSV agregados de análise que estão na
|
| 384 |
+
raiz de `data/`:
|
| 385 |
+
|
| 386 |
| Arquivo | Linhas | Colunas | Conteúdo |
|
| 387 |
|---|---|---|---|
|
| 388 |
+
| **`data/raw/full_raw_serving.csv`** | 5.818 | 65 | **5.610 medições individuais** (uma linha por repetição) + 208 agregadas |
|
| 389 |
+
| `data/raw/raw_ocr.csv` | 316 | 70 | latência por documento (304) e acurácia CER (12) |
|
| 390 |
+
| `data/raw/raw_ollama.csv` | 440 | 72 | serving via ollama, só agregados |
|
| 391 |
+
| `data/raw/raw_stt.csv` | 128 | 63 | transcrição de áudio, só agregados |
|
| 392 |
+
| `data/raw/raw_embed.csv` | 88 | 61 | embeddings, só agregados |
|
| 393 |
+
| `data/raw/raw_vision.csv` | 64 | 59 | multimodal, só agregados |
|
| 394 |
+
| `data/raw/raw_rerank.csv` | 53 | 58 | reranking, só agregados |
|
| 395 |
+
| `data/raw/full_raw.csv` | 6.907 | 210 | **tudo numa tabela só** — a soma exata dos acima |
|
| 396 |
|
| 397 |
Cada arquivo traz o conjunto completo de metadados descrito abaixo; separar por
|
| 398 |
workload apenas remove as colunas que aquele experimento não usa (o consolidado
|
|
|
|
| 442 |
| `1` | 1.297 | Estatística do ponto (`median`, `q1`, `q3`, `min`, `max`), porque a coleta desses workloads não guardou os valores individuais. | `ollama`, `ocr`, `stt`, `embed`, `vision`, `rerank` |
|
| 443 |
|
| 444 |
Para análise estatística com dado bruto de verdade (intervalo de confiança,
|
| 445 |
+
teste de hipótese, distribuição), use **`data/raw/full_raw_serving.csv`** com
|
| 446 |
`is_aggregate == 0`: são 5.610 execuções individuais com `output_throughput`,
|
| 447 |
`request_throughput`, `mean_ttft_ms`, `median_ttft_ms`, `p99_ttft_ms`,
|
| 448 |
`mean_tpot_ms`, `mean_itl_ms`, `mean_e2el_ms`, `total_input_tokens`,
|
data/{full_raw.csv → raw/full_raw.csv}
RENAMED
|
File without changes
|
data/{full_raw_serving.csv → raw/full_raw_serving.csv}
RENAMED
|
File without changes
|
data/{raw_embed.csv → raw/raw_embed.csv}
RENAMED
|
File without changes
|
data/{raw_ocr.csv → raw/raw_ocr.csv}
RENAMED
|
File without changes
|
data/{raw_ollama.csv → raw/raw_ollama.csv}
RENAMED
|
File without changes
|
data/{raw_rerank.csv → raw/raw_rerank.csv}
RENAMED
|
File without changes
|
data/{raw_stt.csv → raw/raw_stt.csv}
RENAMED
|
File without changes
|
data/{raw_vision.csv → raw/raw_vision.csv}
RENAMED
|
File without changes
|
scripts/build_full_raw_csv.py
CHANGED
|
@@ -1,8 +1,10 @@
|
|
| 1 |
#!/usr/bin/env python3
|
| 2 |
"""
|
| 3 |
-
Gera data/
|
| 4 |
-
|
| 5 |
-
|
|
|
|
|
|
|
| 6 |
|
| 7 |
Cobre 100% do que está em raw/:
|
| 8 |
- os JSON (com "reps" = repetições individuais, ou só o agregado)
|
|
@@ -18,7 +20,9 @@ E preserva 100% dos metadados existentes, sem lista fixa de chaves:
|
|
| 18 |
import json, glob, csv, os, re, sys
|
| 19 |
|
| 20 |
RAW = "raw"
|
| 21 |
-
|
|
|
|
|
|
|
| 22 |
|
| 23 |
# ordem preferida das primeiras colunas; qualquer chave nova entra depois
|
| 24 |
PREFIX = [
|
|
@@ -352,7 +356,7 @@ def main():
|
|
| 352 |
fixed = PREFIX + ["metric_family"] + POINT_CFG + IDX
|
| 353 |
ordered = [c for c in fixed if c in allcols] + sorted(allcols - set(fixed))
|
| 354 |
|
| 355 |
-
os.makedirs(
|
| 356 |
|
| 357 |
# 1) um arquivo por workload — sem a esparsidade de misturar schemas
|
| 358 |
by_wl = {}
|
|
@@ -363,10 +367,10 @@ def main():
|
|
| 363 |
for wl, wrows in sorted(by_wl.items()):
|
| 364 |
# serving é o único com repetições individuais, daí o nome distinto
|
| 365 |
name = "full_raw_serving.csv" if wl == "serving" else f"raw_{wl}.csv"
|
| 366 |
-
ncols = write_csv(os.path.join(
|
| 367 |
indiv = sum(1 for r in wrows if not r["is_aggregate"])
|
| 368 |
tipo = f"{indiv} individuais" if indiv else "só agregados"
|
| 369 |
-
print(f"
|
| 370 |
|
| 371 |
# 2) o consolidado de tudo continua existindo, para quem quer uma tabela só
|
| 372 |
ncols = write_csv(OUT, rows, ordered)
|
|
|
|
| 1 |
#!/usr/bin/env python3
|
| 2 |
"""
|
| 3 |
+
Gera data/raw/: TODAS as medições de TODOS os arquivos de raw/, uma linha por
|
| 4 |
+
repetição individual quando ela existe, ANTES de qualquer média/mediana.
|
| 5 |
+
|
| 6 |
+
Escreve um arquivo por workload (full_raw_serving.csv, raw_ocr.csv, ...) mais
|
| 7 |
+
o consolidado full_raw.csv com tudo numa tabela só.
|
| 8 |
|
| 9 |
Cobre 100% do que está em raw/:
|
| 10 |
- os JSON (com "reps" = repetições individuais, ou só o agregado)
|
|
|
|
| 20 |
import json, glob, csv, os, re, sys
|
| 21 |
|
| 22 |
RAW = "raw"
|
| 23 |
+
# data/raw/ separa o bruto consolidado dos CSV agregados de análise em data/
|
| 24 |
+
OUTDIR = "data/raw"
|
| 25 |
+
OUT = f"{OUTDIR}/full_raw.csv"
|
| 26 |
|
| 27 |
# ordem preferida das primeiras colunas; qualquer chave nova entra depois
|
| 28 |
PREFIX = [
|
|
|
|
| 356 |
fixed = PREFIX + ["metric_family"] + POINT_CFG + IDX
|
| 357 |
ordered = [c for c in fixed if c in allcols] + sorted(allcols - set(fixed))
|
| 358 |
|
| 359 |
+
os.makedirs(OUTDIR, exist_ok=True)
|
| 360 |
|
| 361 |
# 1) um arquivo por workload — sem a esparsidade de misturar schemas
|
| 362 |
by_wl = {}
|
|
|
|
| 367 |
for wl, wrows in sorted(by_wl.items()):
|
| 368 |
# serving é o único com repetições individuais, daí o nome distinto
|
| 369 |
name = "full_raw_serving.csv" if wl == "serving" else f"raw_{wl}.csv"
|
| 370 |
+
ncols = write_csv(os.path.join(OUTDIR, name), wrows, ordered)
|
| 371 |
indiv = sum(1 for r in wrows if not r["is_aggregate"])
|
| 372 |
tipo = f"{indiv} individuais" if indiv else "só agregados"
|
| 373 |
+
print(f" {OUTDIR}/{name:26} {len(wrows):5} linhas x {ncols:3} colunas ({tipo})")
|
| 374 |
|
| 375 |
# 2) o consolidado de tudo continua existindo, para quem quer uma tabela só
|
| 376 |
ncols = write_csv(OUT, rows, ordered)
|