Add methodology spec v0
Browse files- methodology/SPEC.md +24 -0
methodology/SPEC.md
ADDED
|
@@ -0,0 +1,24 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Especificação de Metodologia — v0 (rascunho)
|
| 2 |
+
|
| 3 |
+
> Versionada. Cada release do benchmark fixa estes parâmetros e os publica junto dos resultados.
|
| 4 |
+
|
| 5 |
+
## Hardware coberto
|
| 6 |
+
- NVIDIA DGX Spark (GB10, 128 GB memória unificada)
|
| 7 |
+
- NVIDIA RTX PRO 6000 Blackwell (96 GB GDDR7)
|
| 8 |
+
- NVIDIA HGX B200
|
| 9 |
+
|
| 10 |
+
## Ferramenta de medição
|
| 11 |
+
- NVIDIA GenAI-Perf / AIPerf
|
| 12 |
+
- Engines: vLLM, TensorRT-LLM (versão registrada por execução)
|
| 13 |
+
|
| 14 |
+
## Parâmetros fixos por execução (a definir e congelar)
|
| 15 |
+
- batch size: TBD
|
| 16 |
+
- context length: TBD
|
| 17 |
+
- precisão / quantização: FP8, AWQ, etc. (registrada por linha)
|
| 18 |
+
- prompt/saída padrão: TBD
|
| 19 |
+
|
| 20 |
+
## Modelos avaliados (abertos)
|
| 21 |
+
- Llama, Qwen, DeepSeek, Gemma, GPT-OSS
|
| 22 |
+
|
| 23 |
+
## Métricas reportadas
|
| 24 |
+
TTFT · TPOT/ITL · throughput (prefill e decode) · "cabe?" (VRAM+KV cache) · energia/token
|