eqbench-ja-run/README.md

EQ-Bench3 ローカル評価セットアップ

TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアップ。
受験者・採点者ともに同一A100インスタンス上のローカルvLLMを使用。

モデル構成

役割	モデル	VRAM	ポート
受験者	LiquidAI/LFM2.5-1.2B-Base + LoRA YUGOROU/TeenEmo-LFM2.5-1.2B-DPO	~3GB	8000
採点者	Qwen/Qwen3.5-35B-A3B	~70GB	8001

TeenEmoはLoRAアダプタのみ（88.9MB）のため、vLLMはベースモデルを指定して --enable-lora --lora-modules でアダプタを読み込む。

セットアップ

export HF_TOKEN="hf_xxxx" && export HF_USERNAME="YUGOROU"
curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
  -o /tmp/setup_eqbench_run.sh && bash /tmp/setup_eqbench_run.sh

同時起動モード（推奨）

# Step 1: TeenEmo（ベース+LoRA）起動（port 8000）
tmux new-session -d -s eq_run
tmux new-window -t eq_run -n test
tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter

# Step 2: 採点者起動（port 8001）
tmux new-window -t eq_run -n judge
tmux send-keys -t eq_run:judge "cd /workspace/eqbench-run && ./serve_judge.sh" Enter

# Step 3: 起動確認
tmux capture-pane -t eq_run:test -p | grep "startup complete"
tmux capture-pane -t eq_run:judge -p | grep "startup complete"

# Step 4: 評価実行
# --test-model はserve_test.shの LORA_NAME（デフォルト: teenemo-dpo）と一致させる
cd /workspace/eqbench-run/eqbench3
python eqbench3.py \
  --test-model teenemo-dpo \
  --model-name TeenEmo-DPO \
  --judge-model Qwen/Qwen3.5-35B-A3B \
  --no-elo \
  --save-interval 1 \
  --iterations 1

順次実行モード（OOM対策）

--save-interval 1 で1タスクごとに保存。サーバー切り替え後に再実行すると 完了済みタスクをスキップして再開できる。

# Phase 1: TeenEmoで応答生成（port 8000のみ）
cd /workspace/eqbench-run && ./serve_test.sh &
cd /workspace/eqbench-run/eqbench3
python eqbench3.py \
  --test-model teenemo-dpo \
  --model-name TeenEmo-DPO \
  --judge-model Qwen/Qwen3.5-35B-A3B \
  --no-elo --save-interval 1 --iterations 1
# Judge API失敗は想定内。--save-interval 1 で応答済みタスクは保存される

# Phase 2: TeenEmo停止→Judge起動（port 8001）で採点のみ再実行
pkill -f "vllm serve LiquidAI" 2>/dev/null || kill $(lsof -t -i:8000) 2>/dev/null || true
JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
python eqbench3.py \
  --test-model teenemo-dpo \
  --model-name TeenEmo-DPO \
  --judge-model Qwen/Qwen3.5-35B-A3B \
  --no-elo --save-interval 1 --iterations 1
# 完了済みタスクはスキップされ採点のみ実行される

結果確認

cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
import json, sys
data = json.load(sys.stdin)
for run_id, run in data.items():
    if 'TeenEmo' in run_id:
        print('Run:', run_id)
        print('Score:', run.get('eq_bench_score', 'N/A'))
"