fix: eqbench-ja-run/README.md (JA-D1 + JA-D2 + JA-M1 patches)
Browse files- eqbench-ja-run/README.md +26 -26
eqbench-ja-run/README.md
CHANGED
|
@@ -1,36 +1,41 @@
|
|
| 1 |
-
# EQ-Bench3 ローカル評価セットアップ
|
| 2 |
|
| 3 |
TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアップ。
|
| 4 |
-
受験者・採点者ともに同一
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 5 |
|
| 6 |
## モデル構成
|
| 7 |
|
| 8 |
| 役割 | モデル | VRAM | ポート |
|
| 9 |
|------|--------|------|--------|
|
| 10 |
-
| 受験者 | `LiquidAI/LFM2.5-1.2B-Base` + LoRA `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
|
| 11 |
-
| 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
|
| 12 |
-
|
| 13 |
-
TeenEmoはLoRAアダプタのみ(88.9MB)のため、vLLMはベースモデルを指定して
|
| 14 |
-
`--enable-lora --lora-modules` でアダプタを読み込む。
|
| 15 |
|
| 16 |
## セットアップ
|
| 17 |
|
| 18 |
```bash
|
| 19 |
-
export HF_TOKEN="hf_xxxx"
|
| 20 |
curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
|
| 21 |
"https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
|
| 22 |
-o /tmp/setup_eqbench_run.sh && bash /tmp/setup_eqbench_run.sh
|
| 23 |
```
|
| 24 |
|
| 25 |
-
## 同時起動モード(推奨)
|
| 26 |
|
| 27 |
```bash
|
| 28 |
-
# Step 1: TeenEmo
|
| 29 |
tmux new-session -d -s eq_run
|
| 30 |
tmux new-window -t eq_run -n test
|
| 31 |
-
tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='
|
| 32 |
|
| 33 |
-
# Step 2:
|
| 34 |
tmux new-window -t eq_run -n judge
|
| 35 |
tmux send-keys -t eq_run:judge "cd /workspace/eqbench-run && ./serve_judge.sh" Enter
|
| 36 |
|
|
@@ -39,7 +44,6 @@ tmux capture-pane -t eq_run:test -p | grep "startup complete"
|
|
| 39 |
tmux capture-pane -t eq_run:judge -p | grep "startup complete"
|
| 40 |
|
| 41 |
# Step 4: 評価実行
|
| 42 |
-
# --test-model はserve_test.shの LORA_NAME(デフォルト: teenemo-dpo)と一致させる
|
| 43 |
cd /workspace/eqbench-run/eqbench3
|
| 44 |
python eqbench3.py \
|
| 45 |
--test-model teenemo-dpo \
|
|
@@ -50,31 +54,27 @@ python eqbench3.py \
|
|
| 50 |
--iterations 1
|
| 51 |
```
|
| 52 |
|
| 53 |
-
## 順次実行モード(OOM対策)
|
| 54 |
|
| 55 |
-
`--save-interval 1` で1タスクごとに保存。サーバー切り替え後に再実行すると
|
| 56 |
-
完了済みタスクをスキップして再開できる。
|
| 57 |
|
| 58 |
```bash
|
| 59 |
-
# Phase 1: TeenEmoで応答生成(port 8000のみ)
|
| 60 |
-
|
| 61 |
cd /workspace/eqbench-run/eqbench3
|
| 62 |
python eqbench3.py \
|
| 63 |
-
--test-model teenemo-dpo \
|
| 64 |
-
--model-name TeenEmo-DPO \
|
| 65 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 66 |
--no-elo --save-interval 1 --iterations 1
|
| 67 |
-
# Judge API失敗は想定内。
|
| 68 |
|
| 69 |
-
# Phase 2: TeenEmo停止→Judge起動(port 8001)で採点のみ
|
| 70 |
-
pkill -f "vllm serve LiquidAI"
|
| 71 |
JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
|
| 72 |
python eqbench3.py \
|
| 73 |
-
--test-model teenemo-dpo \
|
| 74 |
-
--model-name TeenEmo-DPO \
|
| 75 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 76 |
--no-elo --save-interval 1 --iterations 1
|
| 77 |
-
# 完了済みタスクはスキップされ採点のみ実行される
|
| 78 |
```
|
| 79 |
|
| 80 |
## 結果確認
|
|
|
|
| 1 |
+
# EQ-Bench3 日本語版 ローカル評価セットアップ
|
| 2 |
|
| 3 |
TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアップ。
|
| 4 |
+
受験者・採点者ともに同一インスタンス上のローカルvLLMを使用。
|
| 5 |
+
|
| 6 |
+
## 修正済み問題
|
| 7 |
+
|
| 8 |
+
| # | 重大度 | 問題 | 修正 |
|
| 9 |
+
|---|--------|------|------|
|
| 10 |
+
| JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
|
| 11 |
+
| JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
|
| 12 |
+
| JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
|
| 13 |
|
| 14 |
## モデル構成
|
| 15 |
|
| 16 |
| 役割 | モデル | VRAM | ポート |
|
| 17 |
|------|--------|------|--------|
|
| 18 |
+
| 受験者 | `LiquidAI/LFM2.5-1.2B-Base` + LoRA `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB (GPU_UTIL=0.10) | 8000 |
|
| 19 |
+
| 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB (GPU_UTIL=0.88) | 8001 |
|
|
|
|
|
|
|
|
|
|
| 20 |
|
| 21 |
## セットアップ
|
| 22 |
|
| 23 |
```bash
|
| 24 |
+
export HF_TOKEN="hf_xxxx"
|
| 25 |
curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
|
| 26 |
"https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
|
| 27 |
-o /tmp/setup_eqbench_run.sh && bash /tmp/setup_eqbench_run.sh
|
| 28 |
```
|
| 29 |
|
| 30 |
+
## 同時起動モード(推奨: A100 80GB)
|
| 31 |
|
| 32 |
```bash
|
| 33 |
+
# Step 1: TeenEmo 起動(port 8000, GPU_UTIL=0.10)
|
| 34 |
tmux new-session -d -s eq_run
|
| 35 |
tmux new-window -t eq_run -n test
|
| 36 |
+
tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='$HF_TOKEN' && ./serve_test.sh" Enter
|
| 37 |
|
| 38 |
+
# Step 2: Judge 起動(port 8001, GPU_UTIL=0.88)
|
| 39 |
tmux new-window -t eq_run -n judge
|
| 40 |
tmux send-keys -t eq_run:judge "cd /workspace/eqbench-run && ./serve_judge.sh" Enter
|
| 41 |
|
|
|
|
| 44 |
tmux capture-pane -t eq_run:judge -p | grep "startup complete"
|
| 45 |
|
| 46 |
# Step 4: 評価実行
|
|
|
|
| 47 |
cd /workspace/eqbench-run/eqbench3
|
| 48 |
python eqbench3.py \
|
| 49 |
--test-model teenemo-dpo \
|
|
|
|
| 54 |
--iterations 1
|
| 55 |
```
|
| 56 |
|
| 57 |
+
## 順次実行モード(OOM 対策)
|
| 58 |
|
| 59 |
+
`--save-interval 1` で 1 タスクごとに保存。サーバー切り替え後に再実行すると完了済みタスクをスキップして再開できる。
|
|
|
|
| 60 |
|
| 61 |
```bash
|
| 62 |
+
# Phase 1: TeenEmo で応答生成(port 8000 のみ / Judge は失敗でOK)
|
| 63 |
+
TEST_GPU_UTIL=0.95 ./serve_test.sh &
|
| 64 |
cd /workspace/eqbench-run/eqbench3
|
| 65 |
python eqbench3.py \
|
| 66 |
+
--test-model teenemo-dpo --model-name TeenEmo-DPO \
|
|
|
|
| 67 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 68 |
--no-elo --save-interval 1 --iterations 1
|
| 69 |
+
# Judge API 失敗は想定内。応答済みタスクは保存される
|
| 70 |
|
| 71 |
+
# Phase 2: TeenEmo 停止 → Judge 起動(port 8001)で採点のみ
|
| 72 |
+
pkill -f "vllm serve LiquidAI" || kill $(lsof -t -i:8000) || true
|
| 73 |
JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
|
| 74 |
python eqbench3.py \
|
| 75 |
+
--test-model teenemo-dpo --model-name TeenEmo-DPO \
|
|
|
|
| 76 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 77 |
--no-elo --save-interval 1 --iterations 1
|
|
|
|
| 78 |
```
|
| 79 |
|
| 80 |
## 結果確認
|