YUGOROU commited on
Commit
65380d0
·
verified ·
1 Parent(s): 7d46d98

fix: eqbench-ja-run/README.md (JA-D1 + JA-D2 + JA-M1 patches)

Browse files
Files changed (1) hide show
  1. eqbench-ja-run/README.md +26 -26
eqbench-ja-run/README.md CHANGED
@@ -1,36 +1,41 @@
1
- # EQ-Bench3 ローカル評価セットアップ
2
 
3
  TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアップ。
4
- 受験者・採点者ともに同一A100インスタンス上のローカルvLLMを使用。
 
 
 
 
 
 
 
 
5
 
6
  ## モデル構成
7
 
8
  | 役割 | モデル | VRAM | ポート |
9
  |------|--------|------|--------|
10
- | 受験者 | `LiquidAI/LFM2.5-1.2B-Base` + LoRA `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
11
- | 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
12
-
13
- TeenEmoはLoRAアダプタのみ(88.9MB)のため、vLLMはベースモデルを指定して
14
- `--enable-lora --lora-modules` でアダプタを読み込む。
15
 
16
  ## セットアップ
17
 
18
  ```bash
19
- export HF_TOKEN="hf_xxxx" && export HF_USERNAME="YUGOROU"
20
  curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
21
  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
22
  -o /tmp/setup_eqbench_run.sh && bash /tmp/setup_eqbench_run.sh
23
  ```
24
 
25
- ## 同時起動モード(推奨)
26
 
27
  ```bash
28
- # Step 1: TeenEmo(ベース+LoRA)起動(port 8000)
29
  tmux new-session -d -s eq_run
30
  tmux new-window -t eq_run -n test
31
- tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter
32
 
33
- # Step 2: 採点者起動(port 8001)
34
  tmux new-window -t eq_run -n judge
35
  tmux send-keys -t eq_run:judge "cd /workspace/eqbench-run && ./serve_judge.sh" Enter
36
 
@@ -39,7 +44,6 @@ tmux capture-pane -t eq_run:test -p | grep "startup complete"
39
  tmux capture-pane -t eq_run:judge -p | grep "startup complete"
40
 
41
  # Step 4: 評価実行
42
- # --test-model はserve_test.shの LORA_NAME(デフォルト: teenemo-dpo)と一致させる
43
  cd /workspace/eqbench-run/eqbench3
44
  python eqbench3.py \
45
  --test-model teenemo-dpo \
@@ -50,31 +54,27 @@ python eqbench3.py \
50
  --iterations 1
51
  ```
52
 
53
- ## 順次実行モード(OOM対策)
54
 
55
- `--save-interval 1` で1タスクごとに保存。サーバー切り替え後に再実行すると
56
- 完了済みタスクをスキップして再開できる。
57
 
58
  ```bash
59
- # Phase 1: TeenEmoで応答生成(port 8000のみ)
60
- cd /workspace/eqbench-run && ./serve_test.sh &
61
  cd /workspace/eqbench-run/eqbench3
62
  python eqbench3.py \
63
- --test-model teenemo-dpo \
64
- --model-name TeenEmo-DPO \
65
  --judge-model Qwen/Qwen3.5-35B-A3B \
66
  --no-elo --save-interval 1 --iterations 1
67
- # Judge API失敗は想定内。--save-interval 1 で応答済みタスクは保存される
68
 
69
- # Phase 2: TeenEmo停止→Judge起動(port 8001)で採点のみ再実行
70
- pkill -f "vllm serve LiquidAI" 2>/dev/null || kill $(lsof -t -i:8000) 2>/dev/null || true
71
  JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
72
  python eqbench3.py \
73
- --test-model teenemo-dpo \
74
- --model-name TeenEmo-DPO \
75
  --judge-model Qwen/Qwen3.5-35B-A3B \
76
  --no-elo --save-interval 1 --iterations 1
77
- # 完了済みタスクはスキップされ採点のみ実行される
78
  ```
79
 
80
  ## 結果確認
 
1
+ # EQ-Bench3 日本語版 ローカル評価セットアップ
2
 
3
  TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアップ。
4
+ 受験者・採点者ともに同一インスタンス上のローカルvLLMを使用。
5
+
6
+ ## 修正済み問題
7
+
8
+ | # | 重大度 | 問題 | 修正 |
9
+ |---|--------|------|------|
10
+ | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
11
+ | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
12
+ | JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
13
 
14
  ## モデル構成
15
 
16
  | 役割 | モデル | VRAM | ポート |
17
  |------|--------|------|--------|
18
+ | 受験者 | `LiquidAI/LFM2.5-1.2B-Base` + LoRA `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB (GPU_UTIL=0.10) | 8000 |
19
+ | 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB (GPU_UTIL=0.88) | 8001 |
 
 
 
20
 
21
  ## セットアップ
22
 
23
  ```bash
24
+ export HF_TOKEN="hf_xxxx"
25
  curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
26
  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
27
  -o /tmp/setup_eqbench_run.sh && bash /tmp/setup_eqbench_run.sh
28
  ```
29
 
30
+ ## 同時起動モード(推奨: A100 80GB
31
 
32
  ```bash
33
+ # Step 1: TeenEmo 起動(port 8000, GPU_UTIL=0.10
34
  tmux new-session -d -s eq_run
35
  tmux new-window -t eq_run -n test
36
+ tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='$HF_TOKEN' && ./serve_test.sh" Enter
37
 
38
+ # Step 2: Judge 起動(port 8001, GPU_UTIL=0.88
39
  tmux new-window -t eq_run -n judge
40
  tmux send-keys -t eq_run:judge "cd /workspace/eqbench-run && ./serve_judge.sh" Enter
41
 
 
44
  tmux capture-pane -t eq_run:judge -p | grep "startup complete"
45
 
46
  # Step 4: 評価実行
 
47
  cd /workspace/eqbench-run/eqbench3
48
  python eqbench3.py \
49
  --test-model teenemo-dpo \
 
54
  --iterations 1
55
  ```
56
 
57
+ ## 順次実行モード(OOM 対策)
58
 
59
+ `--save-interval 1` で 1 タスクごとに保存。サーバー切り替え後に再実行すると完了済みタスクをスキップして再開できる。
 
60
 
61
  ```bash
62
+ # Phase 1: TeenEmo で応答生成(port 8000 のみ / Judge は失敗でOK
63
+ TEST_GPU_UTIL=0.95 ./serve_test.sh &
64
  cd /workspace/eqbench-run/eqbench3
65
  python eqbench3.py \
66
+ --test-model teenemo-dpo --model-name TeenEmo-DPO \
 
67
  --judge-model Qwen/Qwen3.5-35B-A3B \
68
  --no-elo --save-interval 1 --iterations 1
69
+ # Judge API 失敗は想定内。応答済みタスクは保存される
70
 
71
+ # Phase 2: TeenEmo 停止 Judge 起動(port 8001)で採点のみ
72
+ pkill -f "vllm serve LiquidAI" || kill $(lsof -t -i:8000) || true
73
  JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
74
  python eqbench3.py \
75
+ --test-model teenemo-dpo --model-name TeenEmo-DPO \
 
76
  --judge-model Qwen/Qwen3.5-35B-A3B \
77
  --no-elo --save-interval 1 --iterations 1
 
78
  ```
79
 
80
  ## 結果確認