matheusserpa's picture
Add methodology spec v0
e79fd6c verified
|
Raw
History Blame Contribute Delete
798 Bytes

Especificação de Metodologia — v0 (rascunho)

Versionada. Cada release do benchmark fixa estes parâmetros e os publica junto dos resultados.

Hardware coberto

  • NVIDIA DGX Spark (GB10, 128 GB memória unificada)
  • NVIDIA RTX PRO 6000 Blackwell (96 GB GDDR7)
  • NVIDIA HGX B200

Ferramenta de medição

  • NVIDIA GenAI-Perf / AIPerf
  • Engines: vLLM, TensorRT-LLM (versão registrada por execução)

Parâmetros fixos por execução (a definir e congelar)

  • batch size: TBD
  • context length: TBD
  • precisão / quantização: FP8, AWQ, etc. (registrada por linha)
  • prompt/saída padrão: TBD

Modelos avaliados (abertos)

  • Llama, Qwen, DeepSeek, Gemma, GPT-OSS

Métricas reportadas

TTFT · TPOT/ITL · throughput (prefill e decode) · "cabe?" (VRAM+KV cache) · energia/token