模型加载完成。

===== 场景：prefill640_decode512 | prefill=640, decode=512 =====

--- 批量大小 bs=1 ---
Adding requests: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 431.65it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████████████| 1/1 [00:02<00:00,  2.57s/it, est. speed input: 249.31 toks/s, output: 199.44 toks/s]
执行时间: 2.5731 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 512
吞吐(生成tokens/秒): 198.98
TTFT (V1 metrics): 0.0238 s
解码吞吐 (V1 metrics): 200.69 tok/s

--- 批量大小 bs=2 ---
Adding requests: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 2/2 [00:00<00:00, 202.04it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████████████| 2/2 [00:02<00:00,  1.36s/it, est. speed input: 470.56 toks/s, output: 376.45 toks/s]
执行时间: 2.7325 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 1024
吞吐(生成tokens/秒): 374.75
TTFT (V1 metrics): 0.0129 s
解码吞吐 (V1 metrics): 188.36 tok/s

--- 批量大小 bs=4 ---
Adding requests: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 4/4 [00:00<00:00, 210.51it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████████████| 4/4 [00:03<00:00,  1.33it/s, est. speed input: 852.39 toks/s, output: 681.91 toks/s]
执行时间: 3.0248 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 2048
吞吐(生成tokens/秒): 677.07
TTFT (V1 metrics): 0.0164 s
解码吞吐 (V1 metrics): 170.68 tok/s

--- 批量大小 bs=8 ---
Adding requests: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 8/8 [00:00<00:00, 229.89it/s]
Processed prompts: 100%|█████████████████████████████████████████████████████████████████| 8/8 [00:03<00:00,  2.59it/s, est. speed input: 1658.80 toks/s, output: 1327.03 toks/s]
执行时间: 3.1236 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 4096
吞吐(生成tokens/秒): 1311.31
TTFT (V1 metrics): 0.0219 s
解码吞吐 (V1 metrics): 165.93 tok/s

--- 批量大小 bs=16 ---
Adding requests: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 16/16 [00:00<00:00, 259.80it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████████| 16/16 [00:03<00:00,  5.28it/s, est. speed input: 3376.77 toks/s, output: 2701.40 toks/s]
执行时间: 3.0966 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 8192
吞吐(生成tokens/秒): 2645.49
TTFT (V1 metrics): 0.0314 s
解码吞吐 (V1 metrics): 168.86 tok/s

--- 批量大小 bs=32 ---
Adding requests: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 32/32 [00:00<00:00, 335.64it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████████| 32/32 [00:03<00:00,  9.64it/s, est. speed input: 6170.77 toks/s, output: 4936.59 toks/s]
执行时间: 3.4167 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 16384
吞吐(生成tokens/秒): 4795.34
TTFT (V1 metrics): 0.0426 s
解码吞吐 (V1 metrics): 154.14 tok/s

--- 批量大小 bs=64 ---
Adding requests: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 64/64 [00:00<00:00, 449.34it/s]
Processed prompts: 100%|██████████████████████████████████████████████████████████████| 64/64 [00:03<00:00, 16.67it/s, est. speed input: 10672.90 toks/s, output: 8538.28 toks/s]
执行时间: 3.9839 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 32768
吞吐(生成tokens/秒): 8225.04
TTFT (V1 metrics): 0.0638 s
解码吞吐 (V1 metrics): 133.10 tok/s

--- 批量大小 bs=128 ---
Adding requests: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 128/128 [00:00<00:00, 489.69it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████| 128/128 [00:04<00:00, 26.33it/s, est. speed input: 16849.84 toks/s, output: 13425.52 toks/s]
执行时间: 5.1276 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 65272
吞吐(生成tokens/秒): 12729.46
TTFT (V1 metrics): 0.1208 s
解码吞吐 (V1 metrics): 104.39 tok/s

--- 批量大小 bs=256 ---
Adding requests: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 256/256 [00:00<00:00, 351.03it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████| 256/256 [00:07<00:00, 35.75it/s, est. speed input: 22881.00 toks/s, output: 18304.75 toks/s]
执行时间: 7.8977 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 131072
吞吐(生成tokens/秒): 16596.30
TTFT (V1 metrics): 0.4649 s
解码吞吐 (V1 metrics): 69.79 tok/s

--- 批量大小 bs=512 ---
Adding requests: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 512/512 [00:00<00:00, 535.56it/s]
Processed prompts: 100%|███████████████████████████████████████████████████████████| 512/512 [00:12<00:00, 41.03it/s, est. speed input: 26258.02 toks/s, output: 21006.35 toks/s]
执行时间: 13.4567 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 262144
吞吐(生成tokens/秒): 19480.62
TTFT (V1 metrics): 0.4882 s
解码吞吐 (V1 metrics): 40.60 tok/s

--- 批量大小 bs=1024 ---
Adding requests: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1024/1024 [00:01<00:00, 553.17it/s]
Processed prompts: 100%|█████████████████████████████████████████████████████████| 1024/1024 [00:24<00:00, 41.44it/s, est. speed input: 26524.06 toks/s, output: 21219.22 toks/s]
执行时间: 26.5997 s
实际平均输入 tokens: 640.00（目标 640）
生成总 tokens: 524288
吞吐(生成tokens/秒): 19710.29
TTFT (V1 metrics): 0.9604 s
解码吞吐 (V1 metrics): 20.56 tok/s

完成。提示：在 Nsight Systems 中可通过 NVTX 区间快速定位各场景/批量的调用。
[rank0]:[W813 18:53:54.532255598 ProcessGroupNCCL.cpp:1479] Warning: WARNING: destroy_process_group() was not called before program exit, which can leak resources. For more info, please see https://pytorch.org/docs/stable/distributed.html#shutdown (function operator())