msserpa commited on
Commit
4e1af64
·
1 Parent(s): b7f7d32

data: move dados brutos consolidados para data/raw/

Browse files

Separa o bruto consolidado (uma linha por medicao) dos CSV agregados de
analise que ficam na raiz de data/. Ajusta o script gerador e o README.

README.md CHANGED
@@ -380,16 +380,19 @@ Consolidam **100% de `raw/`**: os 282 JSON e também os 60 CSV que não têm JSO
380
  par (rodadas em que apenas o agregado foi gravado). Cobertura verificada:
381
  **342 de 342 arquivos**.
382
 
 
 
 
383
  | Arquivo | Linhas | Colunas | Conteúdo |
384
  |---|---|---|---|
385
- | **`data/full_raw_serving.csv`** | 5.818 | 65 | **5.610 medições individuais** (uma linha por repetição) + 208 agregadas |
386
- | `data/raw_ocr.csv` | 316 | 70 | latência por documento (304) e acurácia CER (12) |
387
- | `data/raw_ollama.csv` | 440 | 72 | serving via ollama, só agregados |
388
- | `data/raw_stt.csv` | 128 | 63 | transcrição de áudio, só agregados |
389
- | `data/raw_embed.csv` | 88 | 61 | embeddings, só agregados |
390
- | `data/raw_vision.csv` | 64 | 59 | multimodal, só agregados |
391
- | `data/raw_rerank.csv` | 53 | 58 | reranking, só agregados |
392
- | `data/full_raw.csv` | 6.907 | 210 | **tudo numa tabela só** — a soma exata dos acima |
393
 
394
  Cada arquivo traz o conjunto completo de metadados descrito abaixo; separar por
395
  workload apenas remove as colunas que aquele experimento não usa (o consolidado
@@ -439,7 +442,7 @@ Nenhum outro campo é inferido. Colunas que a coleta criou mas nunca preencheu
439
  | `1` | 1.297 | Estatística do ponto (`median`, `q1`, `q3`, `min`, `max`), porque a coleta desses workloads não guardou os valores individuais. | `ollama`, `ocr`, `stt`, `embed`, `vision`, `rerank` |
440
 
441
  Para análise estatística com dado bruto de verdade (intervalo de confiança,
442
- teste de hipótese, distribuição), use **`data/full_raw_serving.csv`** com
443
  `is_aggregate == 0`: são 5.610 execuções individuais com `output_throughput`,
444
  `request_throughput`, `mean_ttft_ms`, `median_ttft_ms`, `p99_ttft_ms`,
445
  `mean_tpot_ms`, `mean_itl_ms`, `mean_e2el_ms`, `total_input_tokens`,
 
380
  par (rodadas em que apenas o agregado foi gravado). Cobertura verificada:
381
  **342 de 342 arquivos**.
382
 
383
+ Ficam em **`data/raw/`**, separados dos CSV agregados de análise que estão na
384
+ raiz de `data/`:
385
+
386
  | Arquivo | Linhas | Colunas | Conteúdo |
387
  |---|---|---|---|
388
+ | **`data/raw/full_raw_serving.csv`** | 5.818 | 65 | **5.610 medições individuais** (uma linha por repetição) + 208 agregadas |
389
+ | `data/raw/raw_ocr.csv` | 316 | 70 | latência por documento (304) e acurácia CER (12) |
390
+ | `data/raw/raw_ollama.csv` | 440 | 72 | serving via ollama, só agregados |
391
+ | `data/raw/raw_stt.csv` | 128 | 63 | transcrição de áudio, só agregados |
392
+ | `data/raw/raw_embed.csv` | 88 | 61 | embeddings, só agregados |
393
+ | `data/raw/raw_vision.csv` | 64 | 59 | multimodal, só agregados |
394
+ | `data/raw/raw_rerank.csv` | 53 | 58 | reranking, só agregados |
395
+ | `data/raw/full_raw.csv` | 6.907 | 210 | **tudo numa tabela só** — a soma exata dos acima |
396
 
397
  Cada arquivo traz o conjunto completo de metadados descrito abaixo; separar por
398
  workload apenas remove as colunas que aquele experimento não usa (o consolidado
 
442
  | `1` | 1.297 | Estatística do ponto (`median`, `q1`, `q3`, `min`, `max`), porque a coleta desses workloads não guardou os valores individuais. | `ollama`, `ocr`, `stt`, `embed`, `vision`, `rerank` |
443
 
444
  Para análise estatística com dado bruto de verdade (intervalo de confiança,
445
+ teste de hipótese, distribuição), use **`data/raw/full_raw_serving.csv`** com
446
  `is_aggregate == 0`: são 5.610 execuções individuais com `output_throughput`,
447
  `request_throughput`, `mean_ttft_ms`, `median_ttft_ms`, `p99_ttft_ms`,
448
  `mean_tpot_ms`, `mean_itl_ms`, `mean_e2el_ms`, `total_input_tokens`,
data/{full_raw.csv → raw/full_raw.csv} RENAMED
File without changes
data/{full_raw_serving.csv → raw/full_raw_serving.csv} RENAMED
File without changes
data/{raw_embed.csv → raw/raw_embed.csv} RENAMED
File without changes
data/{raw_ocr.csv → raw/raw_ocr.csv} RENAMED
File without changes
data/{raw_ollama.csv → raw/raw_ollama.csv} RENAMED
File without changes
data/{raw_rerank.csv → raw/raw_rerank.csv} RENAMED
File without changes
data/{raw_stt.csv → raw/raw_stt.csv} RENAMED
File without changes
data/{raw_vision.csv → raw/raw_vision.csv} RENAMED
File without changes
scripts/build_full_raw_csv.py CHANGED
@@ -1,8 +1,10 @@
1
  #!/usr/bin/env python3
2
  """
3
- Gera data/full_raw.csv: TODAS as medições de TODOS os arquivos de raw/,
4
- uma linha por repetição individual quando ela existe, ANTES de qualquer
5
- média/mediana.
 
 
6
 
7
  Cobre 100% do que está em raw/:
8
  - os JSON (com "reps" = repetições individuais, ou só o agregado)
@@ -18,7 +20,9 @@ E preserva 100% dos metadados existentes, sem lista fixa de chaves:
18
  import json, glob, csv, os, re, sys
19
 
20
  RAW = "raw"
21
- OUT = "data/full_raw.csv"
 
 
22
 
23
  # ordem preferida das primeiras colunas; qualquer chave nova entra depois
24
  PREFIX = [
@@ -352,7 +356,7 @@ def main():
352
  fixed = PREFIX + ["metric_family"] + POINT_CFG + IDX
353
  ordered = [c for c in fixed if c in allcols] + sorted(allcols - set(fixed))
354
 
355
- os.makedirs("data", exist_ok=True)
356
 
357
  # 1) um arquivo por workload — sem a esparsidade de misturar schemas
358
  by_wl = {}
@@ -363,10 +367,10 @@ def main():
363
  for wl, wrows in sorted(by_wl.items()):
364
  # serving é o único com repetições individuais, daí o nome distinto
365
  name = "full_raw_serving.csv" if wl == "serving" else f"raw_{wl}.csv"
366
- ncols = write_csv(os.path.join("data", name), wrows, ordered)
367
  indiv = sum(1 for r in wrows if not r["is_aggregate"])
368
  tipo = f"{indiv} individuais" if indiv else "só agregados"
369
- print(f" data/{name:26} {len(wrows):5} linhas x {ncols:3} colunas ({tipo})")
370
 
371
  # 2) o consolidado de tudo continua existindo, para quem quer uma tabela só
372
  ncols = write_csv(OUT, rows, ordered)
 
1
  #!/usr/bin/env python3
2
  """
3
+ Gera data/raw/: TODAS as medições de TODOS os arquivos de raw/, uma linha por
4
+ repetição individual quando ela existe, ANTES de qualquer média/mediana.
5
+
6
+ Escreve um arquivo por workload (full_raw_serving.csv, raw_ocr.csv, ...) mais
7
+ o consolidado full_raw.csv com tudo numa tabela só.
8
 
9
  Cobre 100% do que está em raw/:
10
  - os JSON (com "reps" = repetições individuais, ou só o agregado)
 
20
  import json, glob, csv, os, re, sys
21
 
22
  RAW = "raw"
23
+ # data/raw/ separa o bruto consolidado dos CSV agregados de análise em data/
24
+ OUTDIR = "data/raw"
25
+ OUT = f"{OUTDIR}/full_raw.csv"
26
 
27
  # ordem preferida das primeiras colunas; qualquer chave nova entra depois
28
  PREFIX = [
 
356
  fixed = PREFIX + ["metric_family"] + POINT_CFG + IDX
357
  ordered = [c for c in fixed if c in allcols] + sorted(allcols - set(fixed))
358
 
359
+ os.makedirs(OUTDIR, exist_ok=True)
360
 
361
  # 1) um arquivo por workload — sem a esparsidade de misturar schemas
362
  by_wl = {}
 
367
  for wl, wrows in sorted(by_wl.items()):
368
  # serving é o único com repetições individuais, daí o nome distinto
369
  name = "full_raw_serving.csv" if wl == "serving" else f"raw_{wl}.csv"
370
+ ncols = write_csv(os.path.join(OUTDIR, name), wrows, ordered)
371
  indiv = sum(1 for r in wrows if not r["is_aggregate"])
372
  tipo = f"{indiv} individuais" if indiv else "só agregados"
373
+ print(f" {OUTDIR}/{name:26} {len(wrows):5} linhas x {ncols:3} colunas ({tipo})")
374
 
375
  # 2) o consolidado de tudo continua existindo, para quem quer uma tabela só
376
  ncols = write_csv(OUT, rows, ordered)