sync: eqbench-ja-run/README.md

eqbench-ja-run/README.md

@@ -0,0 +1,88 @@
+# EQ-Bench3 ローカル評価セットアップ
+
+TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアップ。  
+受験者・採点者ともに同一A100インスタンス上のローカルvLLMを使用。
+
+## モデル構成
+
+| 役割 | モデル | VRAM | ポート |
+|------|--------|------|--------|
+| 受験者 | `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
+| 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
+
+## セットアップ
+
+```bash
+export HF_TOKEN="hf_xxxx" && export HF_USERNAME="YUGOROU"
+curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
+  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
+  -o /tmp/setup_eqbench_run.sh && bash /tmp/setup_eqbench_run.sh
+```
+
+## 同時起動モード（推奨）
+
+A100 80GBで両モデルを同時起動する。TeenEmoのGPU_UTIL=0.10で約3GBに抑える。
+
+```bash
+# Step 1: TeenEmo起動（port 8000）
+tmux new-session -d -s eq_run
+tmux new-window -t eq_run -n test
+tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter
+
+# Step 2: 採点者起動（port 8001）
+tmux new-window -t eq_run -n judge
+tmux send-keys -t eq_run:judge "cd /workspace/eqbench-run && ./serve_judge.sh" Enter
+
+# Step 3: 起動確認
+tmux capture-pane -t eq_run:test -p | grep "startup complete"
+tmux capture-pane -t eq_run:judge -p | grep "startup complete"
+
+# Step 4: 評価実行
+cd /workspace/eqbench-run/eqbench3
+python eqbench3.py \
+  --test-model YUGOROU/TeenEmo-LFM2.5-1.2B-DPO \
+  --model-name TeenEmo-DPO \
+  --judge-model Qwen/Qwen3.5-35B-A3B \
+  --no-elo \
+  --iterations 1
+```
+
+## 順次実行モード（OOM対策）
+
+同時起動でOOMが発生した場合。
+
+```bash
+# Phase 1: TeenEmoで全応答を生成
+./serve_test.sh &  # port 8000
+# （起動待機）
+cd /workspace/eqbench-run/eqbench3
+python eqbench3.py \
+  --test-model YUGOROU/TeenEmo-LFM2.5-1.2B-DPO \
+  --model-name TeenEmo-DPO \
+  --judge-model Qwen/Qwen3.5-35B-A3B \
+  --no-elo --iterations 1
+  # → 採点時にjudge APIが返せずエラーになるが応答データは保存される
+
+# Phase 2: TeenEmoを停止してJudgeで採点
+kill $(lsof -t -i:8000)
+JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &  # port 8001
+# （起動待機後、再実行で既存応答を再利用し採点のみ行う）
+python eqbench3.py \
+  --test-model YUGOROU/TeenEmo-LFM2.5-1.2B-DPO \
+  --model-name TeenEmo-DPO \
+  --judge-model Qwen/Qwen3.5-35B-A3B \
+  --no-elo --iterations 1
+```
+
+## 結果の確認
+
+```bash
+cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
+import json, sys
+data = json.load(sys.stdin)
+for run_id, run in data.items():
+    if 'TeenEmo' in run_id:
+        print(f'Run: {run_id}')
+        print(f'Score: {run.get(\"eq_bench_score\", \"N/A\")}')
+"
+```