max-num-seqs 64 : le defaut 256 depasse les blocs Mamba sur 32 Go

banc_carte.py

@@ -70,6 +70,12 @@ BASE = ["vllm", "serve", MODEL,
         "--mamba-cache-mode", "align",
         "--async-scheduling",
         "--max-num-batched-tokens", "8192",
+        # Sur un hybride Mamba, CHAQUE sequence en decodage consomme un bloc de
+        # cache Mamba. Le defaut de vLLM (256) depasse ce qu'une carte de 32 Go
+        # peut loger -- 117 blocs mesures sur RTX 5090 -- et la capture des
+        # graphes CUDA refuse alors de demarrer. 64 suffit largement : le banc
+        # ne monte qu'a 8 sessions.
+        "--max-num-seqs", os.environ.get("BANC_SEQS", "64"),
         "--reasoning-parser", "nemotron_v3",
         "--tool-call-parser", "qwen3_coder",
         "--enable-auto-tool-choice"]