fix: sync eqbench-ja/serve_translate.sh
Browse files
eqbench-ja/serve_translate.sh
CHANGED
|
@@ -33,7 +33,10 @@ echo ""
|
|
| 33 |
python -c "import vllm; print(f' vLLM バージョン : {vllm.__version__}')" 2>/dev/null || true
|
| 34 |
echo ""
|
| 35 |
|
| 36 |
-
# Qwen3.5 は
|
|
|
|
|
|
|
|
|
|
| 37 |
# --enable-prefix-caching: 翻訳プロンプトの共通システムプロンプト部分をキャッシュ
|
| 38 |
exec vllm serve "${MODEL}" \
|
| 39 |
--host "${HOST}" \
|
|
|
|
| 33 |
python -c "import vllm; print(f' vLLM バージョン : {vllm.__version__}')" 2>/dev/null || true
|
| 34 |
echo ""
|
| 35 |
|
| 36 |
+
# Qwen3.5 は Vision encoder を内蔵した VLM(pipeline_tag: image-text-to-text)のため
|
| 37 |
+
# --language-model-only が必須。このフラグなしでは vLLM が vision モードで起動しようとし
|
| 38 |
+
# テキスト専用タスクでエラーまたはパフォーマンス劣化が発生する。
|
| 39 |
+
# 参考: HF model card https://huggingface.co/Qwen/Qwen3.5-9B (image-text-to-text)
|
| 40 |
# --enable-prefix-caching: 翻訳プロンプトの共通システムプロンプト部分をキャッシュ
|
| 41 |
exec vllm serve "${MODEL}" \
|
| 42 |
--host "${HOST}" \
|