sync: eqbench-ja-run/setup_eqbench_run.sh

eqbench-ja-run/setup_eqbench_run.sh

@@ -0,0 +1,132 @@
+#!/usr/bin/env bash
+# =============================================================================
+# setup_eqbench_run.sh — EQ-Bench3 日本語版 評価実行セットアップ
+#
+# やること:
+#   1. EQ-Bench3 リポジトリのクローン（翻訳済みファイルに差し替え）
+#   2. 依存関係のインストール
+#   3. .env ファイルの生成（ローカルvLLMを向く）
+#   4. 各種 serve スクリプトの配置
+#   5. 実行手順の表示
+# =============================================================================
+
+set -euo pipefail
+
+WORKSPACE="/workspace/eqbench-run"
+EQBENCH_REPO="https://github.com/EQ-bench/eqbench3.git"
+HF_SCRIPTS="https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run"
+
+echo "[setup] EQ-Bench3 評価環境セットアップ"
+
+# ── 依存関係 ──────────────────────────────────────────────────
+echo "[setup] 依存関係のインストール..."
+pip install -q requests python-dotenv tqdm numpy scipy trueskill 2>/dev/null || true
+
+# ── EQ-Bench3 クローン ────────────────────────────────────────
+mkdir -p "${WORKSPACE}"
+if [ -d "${WORKSPACE}/eqbench3" ]; then
+    echo "[setup] EQ-Bench3 既存リポジトリを更新中..."
+    git -C "${WORKSPACE}/eqbench3" pull --ff-only || true
+else
+    echo "[setup] EQ-Bench3 をクローン中..."
+    git clone --depth=1 "${EQBENCH_REPO}" "${WORKSPACE}/eqbench3"
+fi
+
+# ── 翻訳済みファイルをHFからDL（存在する場合）──────────────
+echo "[setup] 翻訳済みシナリオファイルのDL..."
+PREF_DATASET="YUGOROU/teememo-eq-bench-ja"
+for fname in scenario_prompts_ja.txt scenario_notes_ja.txt; do
+    OUT="${WORKSPACE}/eqbench3/data/${fname}"
+    if curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "https://huggingface.co/datasets/${PREF_DATASET}/resolve/main/data/${fname}" \
+        -o "${OUT}" 2>/dev/null; then
+        echo "[setup]   ✅ ${fname} DL完了"
+    else
+        echo "[setup]   ⚠️  ${fname} は未生成（先に translate_eqbench.py を実行してください）"
+    fi
+done
+
+# ── serve スクリプトのDL ──────────────────────────────────────
+echo "[setup] serve スクリプトのDL..."
+for script in serve_test.sh serve_judge.sh; do
+    curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+        "${HF_SCRIPTS}/${script}" \
+        -o "${WORKSPACE}/${script}"
+    chmod +x "${WORKSPACE}/${script}"
+    echo "[setup]   ✅ ${script}"
+done
+
+# ── .env ファイルの生成 ───────────────────────────────────────
+echo "[setup] .env ファイルを生成中..."
+cat > "${WORKSPACE}/eqbench3/.env" << ENVEOF
+# =============================================================================
+# EQ-Bench3 ローカルvLLM設定（自動生成）
+# 受験者: TeenEmo-LFM2.5-1.2B-DPO (port 8000)
+# 採点者: Qwen3.5-35B-A3B (port 8001)
+# =============================================================================
+
+# 受験者: TeenEmo（ローカルvLLM port 8000）
+TEST_API_URL=http://localhost:8000/v1/chat/completions
+TEST_API_KEY=dummy
+
+# 採点者: Qwen3.5-35B-A3B（ローカルvLLM port 8001）
+JUDGE_API_URL=http://localhost:8001/v1/chat/completions
+JUDGE_API_KEY=dummy
+
+# API設定
+MAX_RETRIES=3
+RETRY_DELAY=5
+REQUEST_TIMEOUT=300
+ENVEOF
+echo "[setup]   ✅ .env 生成完了"
+
+# ── シナリオファイルの差し替え（日本語版が存在する場合）──────
+JA_PROMPTS="${WORKSPACE}/eqbench3/data/scenario_prompts_ja.txt"
+EN_PROMPTS="${WORKSPACE}/eqbench3/data/scenario_prompts.txt"
+if [ -f "${JA_PROMPTS}" ]; then
+    cp "${EN_PROMPTS}" "${EN_PROMPTS}.bak"
+    cp "${JA_PROMPTS}" "${EN_PROMPTS}"
+    echo "[setup] ✅ scenario_prompts.txt を日本語版に差し替えました（英語版は .bak として保存）"
+else
+    echo "[setup] ⚠️  日本語版シナリオが未生成のため英語版で動作します"
+fi
+
+JA_NOTES="${WORKSPACE}/eqbench3/data/scenario_notes_ja.txt"
+EN_NOTES="${WORKSPACE}/eqbench3/data/scenario_notes.txt"
+if [ -f "${JA_NOTES}" ]; then
+    cp "${EN_NOTES}" "${EN_NOTES}.bak"
+    cp "${JA_NOTES}" "${EN_NOTES}"
+    echo "[setup] ✅ scenario_notes.txt を日本語版に差し替えました"
+fi
+
+echo ""
+echo "[setup] =============================="
+echo "[setup] セットアップ完了"
+echo "[setup] 作業ディレクトリ: ${WORKSPACE}"
+echo "[setup] =============================="
+echo ""
+echo "【実行手順】"
+echo ""
+echo "# Step 1: TeenEmo サーバー起動（port 8000）"
+echo "tmux new-session -d -s eq_run"
+echo "tmux new-window -t eq_run -n test"
+echo "tmux send-keys -t eq_run:test \"cd ${WORKSPACE} && export HF_TOKEN='\$HF_TOKEN' && ./serve_test.sh\" Enter"
+echo ""
+echo "# Step 2: 採点者サーバー起動（port 8001）"
+echo "tmux new-window -t eq_run -n judge"
+echo "tmux send-keys -t eq_run:judge \"cd ${WORKSPACE} && ./serve_judge.sh\" Enter"
+echo ""
+echo "# Step 3: 両サーバーの起動を確認"
+echo "tmux capture-pane -t eq_run:test -p | tail -3"
+echo "tmux capture-pane -t eq_run:judge -p | tail -3"
+echo ""
+echo "# Step 4: EQ-Bench3 実行"
+echo "cd ${WORKSPACE}/eqbench3"
+echo "python eqbench3.py \\"
+echo "  --test-model YUGOROU/TeenEmo-LFM2.5-1.2B-DPO \\"
+echo "  --model-name TeenEmo-DPO \\"
+echo "  --judge-model Qwen/Qwen3.5-35B-A3B \\"
+echo "  --no-elo \\"
+echo "  --iterations 1"
+echo ""
+echo "⚠️  OOMが発生した場合は順次実行モードを使用してください（README参照）"