Throughput, latency and resource benchmarks for on-premise LLM inference across a wide range of GPUs — datacenter (B200, L40S), Blackwell workstation (RTX PRO 6000), consumer (RTX 4090/4070), unified-memory (DGX Spark / GB10) and legacy/AMD — covering the full stack of a production assistant: chat serving, embeddings, reranking, vision, OCR and speech-to-text.

Engine: vLLM (mostly the NGC 26.03 image, engine v0.17.1; Blackwell needs it for sm_120/121 kernels). Each measurement is taken on a fully dedicated GPU (--exclusive), inference only (server already warm — no model load/download counted).

→ See REPRODUCING.md to reproduce every experiment on your own hardware. Raw per-experiment CSVs live under raw/<machine>/; consolidated tables under data/.

🚀 Run it on your own Slurm cluster (NVIDIA or AMD)

Self-contained jobs in scripts/portable-slurm/ recreate everything from scratch — they download the runners straight from this repo, no setup of ours required. Four flavors (nvidia_container · nvidia_venv · amd_container · amd_venv); AMD/ROCm covers Frontier/ORNL.

# preview every job that would be submitted (nothing runs):
DRY_RUN=1 SBATCH_SCRIPT=amd_container.sbatch PARTITION=batch bash scripts/portable-slurm/run_all.sh
# then submit all benchmarks (all models × all tasks) with one chosen sbatch:
SBATCH_SCRIPT=amd_container.sbatch PARTITION=batch ACCOUNT=<projid> \
  SCRATCH=/lustre/orion/<projid>/scratch/$USER bash scripts/portable-slurm/run_all.sh

See scripts/portable-slurm/README.md for which flavor to pick and what to adapt to your cluster.

🏆 Ranking de GPU por modelo (pico de throughput, tok/s)

AWQ = 4-bit quantizado; BF16 = precisão cheia. A maioria das GPUs roda AWQ (cabe mais); a RTX PRO 6000 (96GB) roda ambos — a comparação AWQ×BF16 aparece onde há as duas.

Qwen2.5-7B (chat)

#	GPU	quant	tok/s	@conc
1	NVIDIA B200	AWQ	17470	1024
2	NVIDIA RTX PRO 6000 Blackwell	AWQ	7762	128
3	NVIDIA RTX PRO 6000 Blackwell	BF16	6496	128
4	NVIDIA L40S	AWQ	3504	64
5	NVIDIA L40S (Grace ARM)	AWQ	3121	128
6	NVIDIA RTX 4090	AWQ	2710	128
7	NVIDIA GB10 (DGX Spark)	AWQ	1291	64
8	NVIDIA RTX 4070	AWQ	1085	64

Qwen2.5-14B (chat)

#	GPU	quant	tok/s	@conc
1	NVIDIA B200	AWQ	8758	512
2	NVIDIA RTX PRO 6000 Blackwell	AWQ	3573	128
3	NVIDIA RTX PRO 6000 Blackwell	BF16	1746	128
4	NVIDIA L40S	AWQ	1660	64
5	NVIDIA L40S (Grace ARM)	AWQ	1469	128
6	NVIDIA RTX 4090	AWQ	984	32
7	NVIDIA GB10 (DGX Spark)	AWQ	422	32

Qwen2.5-32B (chat)

#	GPU	quant	tok/s	@conc
1	NVIDIA B200	AWQ	5089	512
2	NVIDIA RTX PRO 6000 Blackwell	AWQ	1735	128
3	NVIDIA RTX PRO 6000 Blackwell	BF16	1156	128
4	NVIDIA L40S	AWQ	852	64
5	NVIDIA L40S (Grace ARM)	AWQ	516	32
6	NVIDIA RTX 4090	AWQ	392	16
7	NVIDIA GB10 (DGX Spark)	AWQ	297	64

Qwen2.5-72B (≥80GB)

#	GPU	quant	tok/s	@conc
1	NVIDIA B200	AWQ	2672	512
2	NVIDIA RTX PRO 6000 Blackwell	AWQ	860	128

Qwen2.5-Coder-7B

#	GPU	quant	tok/s	@conc
1	NVIDIA B200	AWQ	13832	256
2	NVIDIA RTX PRO 6000 Blackwell	AWQ	7763	128
3	NVIDIA RTX PRO 6000 Blackwell	BF16	3708	128
4	NVIDIA L40S	AWQ	3491	64
5	NVIDIA L40S (Grace ARM)	AWQ	3172	128
6	NVIDIA RTX 4090	AWQ	2023	128
7	NVIDIA GB10 (DGX Spark)	AWQ	1172	64
8	NVIDIA RTX 4070	AWQ	857	64

Qwen2.5-Coder-14B

#	GPU	quant	tok/s	@conc
1	NVIDIA B200	AWQ	7040	512
2	NVIDIA RTX PRO 6000 Blackwell	AWQ	3572	128
3	NVIDIA L40S	AWQ	1646	64
4	NVIDIA L40S (Grace ARM)	AWQ	1502	128
5	NVIDIA RTX 4090	AWQ	990	64
6	NVIDIA GB10 (DGX Spark)	AWQ	554	64

Qwen2.5-Coder-32B

#	GPU	quant	tok/s	@conc
1	NVIDIA B200	AWQ	4577	512
2	NVIDIA RTX PRO 6000 Blackwell	AWQ	1735	128
3	NVIDIA L40S	AWQ	867	64
4	NVIDIA GB10 (DGX Spark)	AWQ	299	64

Llama-3.3-70B (AWQ)

#	GPU	quant	tok/s	@conc
1	NVIDIA RTX PRO 6000 Blackwell	AWQ	391	128

Mixtral-8x7B (AWQ)

#	GPU	quant	tok/s	@conc
1	NVIDIA RTX PRO 6000 Blackwell	AWQ	3229	128

Llama-Guard-3-8B (guardrail)

#	GPU	quant	tok/s	@conc
1	NVIDIA RTX PRO 6000 Blackwell	BF16	5258	128
2	NVIDIA L40S (Grace ARM)	BF16	2096	128

🧩 Stack do assistente além do chat

Embeddings — `BAAI/bge-m3` (embeddings/s, pico)

#	GPU	emb/s
1	NVIDIA RTX PRO 6000 Blackwell	1706
2	NVIDIA L40S (Grace ARM)	729
3	NVIDIA RTX 4090	727
4	NVIDIA L40S	685
5	NVIDIA RTX 4070	291
6	NVIDIA RTX 2080 Ti	61
7	NVIDIA GB10 (DGX Spark)	59
8	NVIDIA GTX 1080 Ti	27
9	AMD RX 7900 XT	11

Reranking — `BAAI/bge-reranker-v2-m3` (pairs/s, pico)

#	GPU	pairs/s
1	NVIDIA RTX PRO 6000 Blackwell	6407
2	NVIDIA RTX 4090	4000
3	NVIDIA L40S (Grace ARM)	3681
4	NVIDIA RTX 4070	2132

Speech-to-text — `whisper-large-v3` (faster-whisper, audio-seconds/s, pico)

#	GPU	audio_s/s
1	NVIDIA RTX PRO 6000 Blackwell	449
2	NVIDIA RTX 4090	343
3	NVIDIA RTX 4070	182

STT roda só em GPUs x86 — o L40S aqui é Grace (ARM/aarch64), onde CTranslate2/faster-whisper não compila. RTF medido < 0,02 (transcreve muito mais rápido que tempo real).

Vision — `Qwen2.5-VL-7B-Instruct` (tok/s, pico)

#	GPU	tok/s
1	NVIDIA RTX 4090	2264
2	NVIDIA L40S (Grace ARM)	2067
3	NVIDIA RTX PRO 6000 Blackwell	1404
4	NVIDIA L40S	1171

📄 OCR de documentos — latência por página (doc 1 página)

Extração de documentos com modelos de visão (vLLM). Página A4 jurídica típica.

Modelo	GPU	ms/página	tok/s	nota
DeepSeek-OCR (3B)	RTX PRO 6000	320	512	🥇 OCR-direto, ~11× mais rápido que NuMarkdown
DeepSeek-OCR-2 (3B)	RTX PRO 6000	394	413	quase igual
Qwen2.5-VL-7B	RTX 4090	1148	56	VLM genérico
NuMarkdown-8B-Thinking	RTX PRO 6000	3554	101	thinking model (gera raciocínio/página)
NuMarkdown-8B-Thinking	RTX 4090	5520	57	—

DeepSeek-OCR vs NuMarkdown: na RTX PRO 6000, o DeepSeek-OCR (3B) é ~11× mais rápido (320 vs 3554 ms/página). O NuMarkdown é um thinking model de 8B (Qwen2.5-VL por baixo) que gera centenas de tokens de raciocínio por página antes do markdown; o DeepSeek-OCR é 3B otimizado pra OCR direto. Para extração em volume, DeepSeek-OCR é o caminho. (Acurácia CER/WER pendente de ground-truth — o texto extraído de cada modelo está salvo para comparação.)

NuMarkdown-8B em todas as GPUs (baseline cross-GPU, doc 1 página)

Dados consolidados em data/ocr_pages_ALL.csv; brutos em raw/.

GPU	VRAM	ms/pág	tok/s	doc 50 págs (total)
B200	180GB	2133	152	167s (~3min) 🥇
RTX PRO 6000	96GB	3554	101	555s (~9min)
RTX 4090	24GB	5520	57	842s (~14min) 🥉 melhor custo
L40S	48GB	6424	49	518s (~9min)
DGX Spark (GB10)	128GB	25617	13	1981s (~33min) 🐌 memory-bound

Sizing pro OCR: banda de memória > VRAM total. B200 (HBM3e) faz OCR a 152 tok/s — 12× a Spark. A RTX 4090 (consumer) é ~4,5× mais rápida que a DGX Spark no decode do thinking-model. OCR pesado nunca deve rodar na Spark. GPUs Pascal/Turing e a RTX 4070 (12GB, OOM) não rodam OCR-8B.

💰 Custo-benefício — tok/s por US$1.000 (Qwen2.5-32B AWQ, faixa de produção)

GPU	preço aprox.	tok/s (pico)	tok/s por US$1k
RTX PRO 6000 Blackwell	$9.000	1735	193 🥇
RTX 4090	$3.549	392	110
L40S	$8.300	852	103
DGX Spark (GB10)	$4.699	297	63
B200 (1 GPU)	~$40.000	5089	127

A RTX PRO 6000 lidera o custo-benefício single-GPU na faixa de produção (32B-AWQ): cabe o modelo com folga em 96GB e entrega o melhor tok/s por dólar. O B200 é imbatível em throughput absoluto, mas a um custo por GPU ~4,5× maior.

🗺️ Matriz de cobertura — o que rodou em cada GPU

GPU	serving	embed	rerank	stt	vision	ocr
B200	✅	—	—	—	—	✅
RTX PRO 6000 Blackwell	✅	✅	✅	✅	✅	✅
L40S	✅	✅	✅	⛔ARM	✅	✅
RTX 4090	✅	✅	✅	✅	✅	✅
RTX 4070	✅	✅	✅	✅	⛔12GB	⛔12GB
GB10 (DGX Spark)	✅	✅	—	—	—	✅
RTX 2080 Ti / 1080 Ti / P100	ollama	✅	⛔	⛔	⛔	⛔
AMD RX 7900 XT	ollama	✅	⛔ROCm	⛔ROCm	⛔ROCm	⛔ROCm

Tetos físicos (não são lacunas, são limites de hardware):

AMD RX 7900 XT — vLLM-ROCm só faz serving de texto; pooling (rerank), vision e CTranslate2-STT não têm caminho ROCm.
L40S (Grace) — aarch64; faster-whisper/CTranslate2 não compila → sem STT.
GPUs pré-2020 (P100, 1080Ti, 2080Ti) — sem vLLM moderno; só ollama (serving) + embeddings.
RTX 4070 (12GB) — não cabe modelos de visão/OCR de 7-8B (OOM).

📁 Estrutura do repositório

data/        *_ALL.csv consolidados (schema único, 1 linha por ponto medido)
raw/         CSV bruto por experimento, por máquina (gppd/ b200/ spark/ rtx-6000/)
scripts/     runners + jobs por plataforma (runners/ gppd-slurm/ b200-apptainer/ rtx-docker/ spark-ollama/)
REPRODUCING.md  passo-a-passo para reproduzir em cada hardware

⚠️ Nota sobre engines

A maioria dos resultados usa a imagem NGC vLLM (26.03, engine v0.17.1) para uniformidade e suporte Blackwell. Alguns runs antigos usaram vLLM v0.11.0; DeepSeek-OCR usa a imagem oficial vllm/vllm-openai (a NGC não traz torchaudio, dependência da inspeção da arquitetura). Para comparação justa entre GPUs, prefira linhas com o mesmo engine.

Downloads last month: 452

Total file size:

1.21 MB

Scherm On-Premise LLM Inference Benchmark — v0.7