sync: eqbench-ja-run/serve_test.sh

eqbench-ja-run/serve_test.sh

@@ -0,0 +1,36 @@
+#!/usr/bin/env bash
+# =============================================================================
+# serve_test.sh — TeenEmo（受験者）vLLM サーバー起動
+# モデル: YUGOROU/TeenEmo-LFM2.5-1.2B-DPO（LoRAアダプタ）
+# ポート: 8000
+# VRAM使用量: ~3GB（1.2B bf16）
+# =============================================================================
+
+set -euo pipefail
+
+TEST_MODEL="${TEST_MODEL:-YUGOROU/TeenEmo-LFM2.5-1.2B-DPO}"
+PORT="${TEST_PORT:-8000}"
+HOST="${VLLM_HOST:-0.0.0.0}"
+GPU_UTIL="${TEST_GPU_UTIL:-0.10}"  # 1.2Bは軽量なので10%に抑える（judge用にVRAMを残す）
+MAX_MODEL_LEN="${TEST_MAX_MODEL_LEN:-4096}"
+DTYPE="${VLLM_DTYPE:-auto}"
+HF_TOKEN="${HF_TOKEN:-}"
+
+echo "=== TeenEmo 受験者サーバー起動 ==="
+echo "  モデル          : ${TEST_MODEL}"
+echo "  ポート          : ${PORT}"
+echo "  GPU 使用率      : ${GPU_UTIL} (judge用にVRAMを確保)"
+echo ""
+
+# LoRAアダプタはHFから自動DL
+exec vllm serve "${TEST_MODEL}" \
+    --host "${HOST}" \
+    --port "${PORT}" \
+    --dtype "${DTYPE}" \
+    --gpu-memory-utilization "${GPU_UTIL}" \
+    --max-model-len "${MAX_MODEL_LEN}" \
+    --tensor-parallel-size 1 \
+    --max-num-seqs 16 \
+    --enable-prefix-caching \
+    --trust-remote-code \
+    ${HF_TOKEN:+--hf-token "${HF_TOKEN}"}