YUGOROU commited on
Commit
f8977ef
·
verified ·
1 Parent(s): d343eab

fix: sync eqbench-ja/serve_translate.sh

Browse files
Files changed (1) hide show
  1. eqbench-ja/serve_translate.sh +4 -1
eqbench-ja/serve_translate.sh CHANGED
@@ -33,7 +33,10 @@ echo ""
33
  python -c "import vllm; print(f' vLLM バージョン : {vllm.__version__}')" 2>/dev/null || true
34
  echo ""
35
 
36
- # Qwen3.5 は VLM アーキテクチャの --language-model-only が必要
 
 
 
37
  # --enable-prefix-caching: 翻訳プロンプトの共通システムプロンプト部分をキャッシュ
38
  exec vllm serve "${MODEL}" \
39
  --host "${HOST}" \
 
33
  python -c "import vllm; print(f' vLLM バージョン : {vllm.__version__}')" 2>/dev/null || true
34
  echo ""
35
 
36
+ # Qwen3.5 は Vision encoder を内蔵しVLM(pipeline_tag: image-text-to-text)のため
37
+ # --language-model-only が必須。このフラグなしでは vLLM が vision モードで起動しようとし
38
+ # テキスト専用タスクでエラーまたはパフォーマンス劣化が発生する。
39
+ # 参考: HF model card https://huggingface.co/Qwen/Qwen3.5-9B (image-text-to-text)
40
  # --enable-prefix-caching: 翻訳プロンプトの共通システムプロンプト部分をキャッシュ
41
  exec vllm serve "${MODEL}" \
42
  --host "${HOST}" \