YUGOROU commited on
Commit
216c4b2
·
verified ·
1 Parent(s): 5f4366f

fix: sync eqbench-ja-run/README.md

Browse files
Files changed (1) hide show
  1. eqbench-ja-run/README.md +24 -21
eqbench-ja-run/README.md CHANGED
@@ -7,9 +7,12 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアッ
7
 
8
  | 役割 | モデル | VRAM | ポート |
9
  |------|--------|------|--------|
10
- | 受験者 | `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
11
  | 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
12
 
 
 
 
13
  ## セットアップ
14
 
15
  ```bash
@@ -21,10 +24,8 @@ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
21
 
22
  ## 同時起動モード(推奨)
23
 
24
- A100 80GBで両モデルを同時起動する。TeenEmoのGPU_UTIL=0.10で約3GBに抑える。
25
-
26
  ```bash
27
- # Step 1: TeenEmo起動(port 8000)
28
  tmux new-session -d -s eq_run
29
  tmux new-window -t eq_run -n test
30
  tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter
@@ -38,43 +39,45 @@ tmux capture-pane -t eq_run:test -p | grep "startup complete"
38
  tmux capture-pane -t eq_run:judge -p | grep "startup complete"
39
 
40
  # Step 4: 評価実行
 
41
  cd /workspace/eqbench-run/eqbench3
42
  python eqbench3.py \
43
- --test-model YUGOROU/TeenEmo-LFM2.5-1.2B-DPO \
44
  --model-name TeenEmo-DPO \
45
  --judge-model Qwen/Qwen3.5-35B-A3B \
46
  --no-elo \
 
47
  --iterations 1
48
  ```
49
 
50
  ## 順次実行モード(OOM対策)
51
 
52
- 同時起動OOMが発生した場合
 
53
 
54
  ```bash
55
- # Phase 1: TeenEmoで応答生成
56
- ./serve_test.sh & # port 8000
57
- # (起動待機)
58
  cd /workspace/eqbench-run/eqbench3
59
  python eqbench3.py \
60
- --test-model YUGOROU/TeenEmo-LFM2.5-1.2B-DPO \
61
  --model-name TeenEmo-DPO \
62
  --judge-model Qwen/Qwen3.5-35B-A3B \
63
- --no-elo --iterations 1
64
- # 採点時にjudge APIが返せずエラーになるが応答データは保存される
65
 
66
- # Phase 2: TeenEmo停止してJudgeで採点
67
- kill $(lsof -t -i:8000)
68
- JUDGE_GPU_UTIL=0.90 ./serve_judge.sh & # port 8001
69
- # (起動待機後、再実行で既存応答を再利用し採点のみ行う)
70
  python eqbench3.py \
71
- --test-model YUGOROU/TeenEmo-LFM2.5-1.2B-DPO \
72
  --model-name TeenEmo-DPO \
73
  --judge-model Qwen/Qwen3.5-35B-A3B \
74
- --no-elo --iterations 1
 
75
  ```
76
 
77
- ## 結果確認
78
 
79
  ```bash
80
  cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
@@ -82,7 +85,7 @@ import json, sys
82
  data = json.load(sys.stdin)
83
  for run_id, run in data.items():
84
  if 'TeenEmo' in run_id:
85
- print(f'Run: {run_id}')
86
- print(f'Score: {run.get(\"eq_bench_score\", \"N/A\")}')
87
  "
88
  ```
 
7
 
8
  | 役割 | モデル | VRAM | ポート |
9
  |------|--------|------|--------|
10
+ | 受験者 | `LiquidAI/LFM2.5-1.2B-Base` + LoRA `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
11
  | 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
12
 
13
+ TeenEmoはLoRAアダプタのみ(88.9MB)のため、vLLMはベースモデルを指定して
14
+ `--enable-lora --lora-modules` でアダプタを読み込む。
15
+
16
  ## セットアップ
17
 
18
  ```bash
 
24
 
25
  ## 同時起動モード(推奨)
26
 
 
 
27
  ```bash
28
+ # Step 1: TeenEmo(ベース+LoRA)起動(port 8000)
29
  tmux new-session -d -s eq_run
30
  tmux new-window -t eq_run -n test
31
  tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter
 
39
  tmux capture-pane -t eq_run:judge -p | grep "startup complete"
40
 
41
  # Step 4: 評価実行
42
+ # --test-model はserve_test.shの LORA_NAME(デフォルト: teenemo-dpo)と一致させる
43
  cd /workspace/eqbench-run/eqbench3
44
  python eqbench3.py \
45
+ --test-model teenemo-dpo \
46
  --model-name TeenEmo-DPO \
47
  --judge-model Qwen/Qwen3.5-35B-A3B \
48
  --no-elo \
49
+ --save-interval 1 \
50
  --iterations 1
51
  ```
52
 
53
  ## 順次実行モード(OOM対策)
54
 
55
+ `--save-interval 1` 1タスクごとに保存サーバー切り替え後に再実行すると
56
+ 完了済みタスクをスキップして再開できる。
57
 
58
  ```bash
59
+ # Phase 1: TeenEmoで応答生成(port 8000のみ)
60
+ cd /workspace/eqbench-run && ./serve_test.sh &
 
61
  cd /workspace/eqbench-run/eqbench3
62
  python eqbench3.py \
63
+ --test-model teenemo-dpo \
64
  --model-name TeenEmo-DPO \
65
  --judge-model Qwen/Qwen3.5-35B-A3B \
66
+ --no-elo --save-interval 1 --iterations 1
67
+ # Judge API失敗は想定内。--save-interval 1 で応答済みスクは保存される
68
 
69
+ # Phase 2: TeenEmo停止Judge起動(port 8001)で採点のみ再実行
70
+ pkill -f "vllm serve LiquidAI" 2>/dev/null || kill $(lsof -t -i:8000) 2>/dev/null || true
71
+ JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
 
72
  python eqbench3.py \
73
+ --test-model teenemo-dpo \
74
  --model-name TeenEmo-DPO \
75
  --judge-model Qwen/Qwen3.5-35B-A3B \
76
+ --no-elo --save-interval 1 --iterations 1
77
+ # 完了済みタスクはスキップされ採点のみ実行される
78
  ```
79
 
80
+ ## 結果確認
81
 
82
  ```bash
83
  cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
 
85
  data = json.load(sys.stdin)
86
  for run_id, run in data.items():
87
  if 'TeenEmo' in run_id:
88
+ print('Run:', run_id)
89
+ print('Score:', run.get('eq_bench_score', 'N/A'))
90
  "
91
  ```