sync: eqbench-vast/setup_eqbench_vast.sh

eqbench-vast/setup_eqbench_vast.sh

@@ -0,0 +1,126 @@
+#!/usr/bin/env bash
+# =============================================================================
+# setup_eqbench_vast.sh — EQ-Bench3 評価セットアップ (Vast.ai + HF Inference Providers)
+#
+# 構成:
+#   受験者: TeenEmo-LFM2.5-1.2B-DPO (LoRA) on Vast.ai vLLM (port 8000)
+#   採点者: openai/gpt-oss-120b via HF Inference Providers / novita
+#           → 別インスタンス不要・OOM不要・$0.05/$0.25 per 1M tokens
+#
+# 今セッションで判明した問題と対策:
+#   [Fix-1] max_lora_rank=32: Unsloth LoRAはrank=32のためデフォルト16では失敗
+#   [Fix-2] max_model_len=32768: EQ-Bench3のmax_tokens=12000に対応
+#   [Fix-3] HF Inference ProvidersのJudge URL: router.huggingface.co/novita
+#   [Fix-4] --save-interval 1: 1タスクごとに保存して途中再開を保証
+#   [Fix-5] MAX_RETRIES=6, REQUEST_TIMEOUT=300: HF APIのレート制限・遅延に対応
+# =============================================================================
+
+set -euo pipefail
+
+HF_TOKEN="${HF_TOKEN:?HF_TOKEN が未設定です。export HF_TOKEN='hf_xxxx'}"
+HF_USERNAME="${HF_USERNAME:-YUGOROU}"
+WORKSPACE="/workspace/eqbench-run"
+TEST_PORT="${TEST_PORT:-8000}"
+LORA_NAME="${TEST_LORA_NAME:-teenemo-dpo}"
+
+echo "[setup] EQ-Bench3 Vast.ai セットアップ"
+echo "[setup] 採点者: HF Inference Providers / novita / gpt-oss-120b"
+
+# ── 依存パッケージ ──────────────────────────────────────────
+echo "[setup] 依存パッケージのインストール..."
+pip install -q requests python-dotenv tqdm numpy scipy trueskill 2>/dev/null || true
+apt-get install -y tmux git 2>/dev/null || true
+
+# ── EQ-Bench3 クローン ────────────────────────────────────────
+mkdir -p "${WORKSPACE}"
+if [ -d "${WORKSPACE}/eqbench3" ]; then
+    echo "[setup] EQ-Bench3 更新中..."
+    git -C "${WORKSPACE}/eqbench3" pull --ff-only 2>/dev/null || true
+else
+    echo "[setup] EQ-Bench3 クローン中..."
+    git clone --depth=1 https://github.com/EQ-bench/eqbench3.git "${WORKSPACE}/eqbench3"
+fi
+echo "[setup] ✅ EQ-Bench3"
+
+# ── 日本語版シナリオDL（存在する場合） ────────────────────
+echo "[setup] 日本語版シナリオをDL中..."
+for pair in \
+    "scenario_prompts_ja.txt|${WORKSPACE}/eqbench3/data/scenario_prompts.txt" \
+    "scenario_notes_ja.txt|${WORKSPACE}/eqbench3/data/scenario_notes.txt"; do
+    SRC="${pair%%|*}"; DEST="${pair##*|}"
+    cp "${DEST}" "${DEST}.en.bak" 2>/dev/null || true
+    if curl -sfL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "https://huggingface.co/datasets/${HF_USERNAME}/teememo-eq-bench-ja/resolve/main/data/${SRC}" \
+        -o "${DEST}"; then
+        echo "[setup] ✅ 日本語版差し替え: $(basename ${DEST})"
+    else
+        cp "${DEST}.en.bak" "${DEST}" 2>/dev/null || true
+        echo "[setup] ⚠️ 英語版を使用: $(basename ${DEST})"
+    fi
+done
+
+# ── serve_test_vast.sh DL ────────────────────────────────────
+curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+    "https://huggingface.co/datasets/${HF_USERNAME}/Test-2/resolve/main/eqbench-vast/serve_test_vast.sh" \
+    -o "${WORKSPACE}/serve_test_vast.sh"
+chmod +x "${WORKSPACE}/serve_test_vast.sh"
+echo "[setup] ✅ serve_test_vast.sh"
+
+# ── .env 生成 ─────────────────────────────────────────────────
+# [Fix-3] HF Inference Providers の正しいURL
+# [Fix-5] タイムアウト・リトライ値を強化
+cat > "${WORKSPACE}/eqbench3/.env" << ENVEOF
+# ==========================================================
+# EQ-Bench3 設定 (Vast.ai + HF Inference Providers)
+# 自動生成: $(date -u +%Y-%m-%dT%H:%M:%SZ)
+#
+# 受験者: TeenEmo LoRA on vLLM (localhost:${TEST_PORT})
+#   [Fix-1] --max-lora-rank 32 をserve_test_vast.shで設定済み
+#   [Fix-2] --max-model-len 32768 をserve_test_vast.shで設定済み
+#
+# 採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
+#   推定コスト: ~$0.024 (46シナリオ, Pro $2クレジット内)
+#   Input: $0.05/1M tokens, Output: $0.25/1M tokens
+# ==========================================================
+
+# 受験者: TeenEmo (vLLM ローカル)
+TEST_API_URL=http://localhost:${TEST_PORT}/v1/chat/completions
+TEST_API_KEY=dummy
+
+# [Fix-3] 採点者: HF Inference Providers → novita → gpt-oss-120b
+JUDGE_API_URL=https://router.huggingface.co/novita/v1/chat/completions
+JUDGE_API_KEY=${HF_TOKEN}
+
+# [Fix-5] HF APIのレート制限・遅延対応
+MAX_RETRIES=6
+RETRY_DELAY=10
+REQUEST_TIMEOUT=300
+ENVEOF
+echo "[setup] ✅ .env 生成完了"
+
+echo ""
+echo "[setup] =============================="
+echo "[setup] セットアップ完了"
+echo "[setup] =============================="
+echo ""
+echo "【実行手順】"
+echo ""
+echo "# Step 1: tmuxセッション作成 + TeenEmoサーバー起動"
+echo "tmux new-session -d -s eq_run"
+echo "tmux send-keys -t eq_run \"cd ${WORKSPACE} && export HF_TOKEN='${HF_TOKEN}' && ./serve_test_vast.sh\" Enter"
+echo ""
+echo "# Step 2: 起動確認（Application startup complete. まで待つ）"
+echo "tmux capture-pane -t eq_run -p | tail -5"
+echo ""
+echo "# Step 3: EQ-Bench3 実行"
+echo "cd ${WORKSPACE}/eqbench3"
+echo "python eqbench3.py \\"
+echo "  --test-model ${LORA_NAME} \\"
+echo "  --model-name TeenEmo-DPO \\"
+echo "  --judge-model openai/gpt-oss-120b \\"
+echo "  --no-elo \\"
+echo "  --save-interval 1 \\"
+echo "  --iterations 1"
+echo ""
+echo "# [Fix-4] 途中で失敗した場合は再実行するとチェックポイントから再開"
+echo "# 完了済みタスクはスキップされる"