sync: eqbench-ja/serve_translate.sh

eqbench-ja/serve_translate.sh

@@ -0,0 +1,48 @@
+#!/usr/bin/env bash
+# =============================================================================
+# serve_translate.sh — EQ-Bench 日本語化用 vLLM サーバー起動スクリプト
+# ベースモデル: Qwen/Qwen3.5-9B（日英翻訳品質が高い）
+# setup.sh からフォーク。翻訳タスク向けに最適化（長文対応・高精度設定）
+# =============================================================================
+# 使用方法:
+#   chmod +x serve_translate.sh && ./serve_translate.sh
+#
+# 環境変数で挙動を上書き可能:
+#   TRANSLATE_MODEL=Qwen/Qwen3.5-9B ./serve_translate.sh
+# =============================================================================
+
+set -euo pipefail
+
+MODEL="${TRANSLATE_MODEL:-Qwen/Qwen3.5-9B}"
+PORT="${VLLM_PORT:-8000}"
+HOST="${VLLM_HOST:-0.0.0.0}"
+GPU_UTIL="${VLLM_GPU_UTIL:-0.88}"
+MAX_MODEL_LEN="${VLLM_MAX_MODEL_LEN:-8192}"
+TENSOR_PARALLEL="${VLLM_TENSOR_PARALLEL:-1}"
+DTYPE="${VLLM_DTYPE:-auto}"
+MAX_NUM_SEQS="${VLLM_MAX_NUM_SEQS:-32}"
+
+echo "=== vLLM 翻訳サーバー起動 ==="
+echo "  モデル          : ${MODEL}"
+echo "  ポート          : ${PORT}"
+echo "  GPU 使用率      : ${GPU_UTIL}"
+echo "  最大コンテキスト: ${MAX_MODEL_LEN}"
+echo "  並列度          : ${TENSOR_PARALLEL}"
+echo ""
+
+python -c "import vllm; print(f'  vLLM バージョン : {vllm.__version__}')" 2>/dev/null || true
+echo ""
+
+# Qwen3.5 は VLM アーキテクチャのため --language-model-only が必要
+# --enable-prefix-caching: 翻訳プロンプトの共通システムプロンプト部分をキャッシュ
+exec vllm serve "${MODEL}" \
+    --host "${HOST}" \
+    --port "${PORT}" \
+    --dtype "${DTYPE}" \
+    --gpu-memory-utilization "${GPU_UTIL}" \
+    --max-model-len "${MAX_MODEL_LEN}" \
+    --tensor-parallel-size "${TENSOR_PARALLEL}" \
+    --max-num-seqs "${MAX_NUM_SEQS}" \
+    --language-model-only \
+    --enable-prefix-caching \
+    --trust-remote-code