fix: sync eqbench-ja-run/README.md
Browse files- eqbench-ja-run/README.md +24 -21
eqbench-ja-run/README.md
CHANGED
|
@@ -7,9 +7,12 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアッ
|
|
| 7 |
|
| 8 |
| 役割 | モデル | VRAM | ポート |
|
| 9 |
|------|--------|------|--------|
|
| 10 |
-
| 受験者 | `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
|
| 11 |
| 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
|
| 12 |
|
|
|
|
|
|
|
|
|
|
| 13 |
## セットアップ
|
| 14 |
|
| 15 |
```bash
|
|
@@ -21,10 +24,8 @@ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
|
|
| 21 |
|
| 22 |
## 同時起動モード(推奨)
|
| 23 |
|
| 24 |
-
A100 80GBで両モデルを同時起動する。TeenEmoのGPU_UTIL=0.10で約3GBに抑える。
|
| 25 |
-
|
| 26 |
```bash
|
| 27 |
-
# Step 1: TeenEmo起動(port 8000)
|
| 28 |
tmux new-session -d -s eq_run
|
| 29 |
tmux new-window -t eq_run -n test
|
| 30 |
tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter
|
|
@@ -38,43 +39,45 @@ tmux capture-pane -t eq_run:test -p | grep "startup complete"
|
|
| 38 |
tmux capture-pane -t eq_run:judge -p | grep "startup complete"
|
| 39 |
|
| 40 |
# Step 4: 評価実行
|
|
|
|
| 41 |
cd /workspace/eqbench-run/eqbench3
|
| 42 |
python eqbench3.py \
|
| 43 |
-
--test-model
|
| 44 |
--model-name TeenEmo-DPO \
|
| 45 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 46 |
--no-elo \
|
|
|
|
| 47 |
--iterations 1
|
| 48 |
```
|
| 49 |
|
| 50 |
## 順次実行モード(OOM対策)
|
| 51 |
|
| 52 |
-
|
|
|
|
| 53 |
|
| 54 |
```bash
|
| 55 |
-
# Phase 1: TeenEmoで
|
| 56 |
-
./serve_test.sh &
|
| 57 |
-
# (起動待機)
|
| 58 |
cd /workspace/eqbench-run/eqbench3
|
| 59 |
python eqbench3.py \
|
| 60 |
-
--test-model
|
| 61 |
--model-name TeenEmo-DPO \
|
| 62 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 63 |
-
--no-elo --iterations 1
|
| 64 |
-
|
| 65 |
|
| 66 |
-
# Phase 2: TeenEmo
|
| 67 |
-
kill $(lsof -t -i:8000)
|
| 68 |
-
JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
|
| 69 |
-
# (起動待機後、再実行で既存応答を再利用し採点のみ行う)
|
| 70 |
python eqbench3.py \
|
| 71 |
-
--test-model
|
| 72 |
--model-name TeenEmo-DPO \
|
| 73 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 74 |
-
--no-elo --iterations 1
|
|
|
|
| 75 |
```
|
| 76 |
|
| 77 |
-
## 結果
|
| 78 |
|
| 79 |
```bash
|
| 80 |
cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
|
|
@@ -82,7 +85,7 @@ import json, sys
|
|
| 82 |
data = json.load(sys.stdin)
|
| 83 |
for run_id, run in data.items():
|
| 84 |
if 'TeenEmo' in run_id:
|
| 85 |
-
print(
|
| 86 |
-
print(
|
| 87 |
"
|
| 88 |
```
|
|
|
|
| 7 |
|
| 8 |
| 役割 | モデル | VRAM | ポート |
|
| 9 |
|------|--------|------|--------|
|
| 10 |
+
| 受験者 | `LiquidAI/LFM2.5-1.2B-Base` + LoRA `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | ~3GB | 8000 |
|
| 11 |
| 採点者 | `Qwen/Qwen3.5-35B-A3B` | ~70GB | 8001 |
|
| 12 |
|
| 13 |
+
TeenEmoはLoRAアダプタのみ(88.9MB)のため、vLLMはベースモデルを指定して
|
| 14 |
+
`--enable-lora --lora-modules` でアダプタを読み込む。
|
| 15 |
+
|
| 16 |
## セットアップ
|
| 17 |
|
| 18 |
```bash
|
|
|
|
| 24 |
|
| 25 |
## 同時起動モード(推奨)
|
| 26 |
|
|
|
|
|
|
|
| 27 |
```bash
|
| 28 |
+
# Step 1: TeenEmo(ベース+LoRA)起動(port 8000)
|
| 29 |
tmux new-session -d -s eq_run
|
| 30 |
tmux new-window -t eq_run -n test
|
| 31 |
tmux send-keys -t eq_run:test "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxxx' && ./serve_test.sh" Enter
|
|
|
|
| 39 |
tmux capture-pane -t eq_run:judge -p | grep "startup complete"
|
| 40 |
|
| 41 |
# Step 4: 評価実行
|
| 42 |
+
# --test-model はserve_test.shの LORA_NAME(デフォルト: teenemo-dpo)と一致させる
|
| 43 |
cd /workspace/eqbench-run/eqbench3
|
| 44 |
python eqbench3.py \
|
| 45 |
+
--test-model teenemo-dpo \
|
| 46 |
--model-name TeenEmo-DPO \
|
| 47 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 48 |
--no-elo \
|
| 49 |
+
--save-interval 1 \
|
| 50 |
--iterations 1
|
| 51 |
```
|
| 52 |
|
| 53 |
## 順次実行モード(OOM対策)
|
| 54 |
|
| 55 |
+
`--save-interval 1` で1タスクごとに保存。サーバー切り替え後に再実行すると
|
| 56 |
+
完了済みタスクをスキップして再開できる。
|
| 57 |
|
| 58 |
```bash
|
| 59 |
+
# Phase 1: TeenEmoで応答生成(port 8000のみ)
|
| 60 |
+
cd /workspace/eqbench-run && ./serve_test.sh &
|
|
|
|
| 61 |
cd /workspace/eqbench-run/eqbench3
|
| 62 |
python eqbench3.py \
|
| 63 |
+
--test-model teenemo-dpo \
|
| 64 |
--model-name TeenEmo-DPO \
|
| 65 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 66 |
+
--no-elo --save-interval 1 --iterations 1
|
| 67 |
+
# Judge API失敗は想定内。--save-interval 1 で応答済みタスクは保存される
|
| 68 |
|
| 69 |
+
# Phase 2: TeenEmo停止→Judge起動(port 8001)で採点のみ再実行
|
| 70 |
+
pkill -f "vllm serve LiquidAI" 2>/dev/null || kill $(lsof -t -i:8000) 2>/dev/null || true
|
| 71 |
+
JUDGE_GPU_UTIL=0.90 ./serve_judge.sh &
|
|
|
|
| 72 |
python eqbench3.py \
|
| 73 |
+
--test-model teenemo-dpo \
|
| 74 |
--model-name TeenEmo-DPO \
|
| 75 |
--judge-model Qwen/Qwen3.5-35B-A3B \
|
| 76 |
+
--no-elo --save-interval 1 --iterations 1
|
| 77 |
+
# 完了済みタスクはスキップされ採点のみ実行される
|
| 78 |
```
|
| 79 |
|
| 80 |
+
## 結果確認
|
| 81 |
|
| 82 |
```bash
|
| 83 |
cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
|
|
|
|
| 85 |
data = json.load(sys.stdin)
|
| 86 |
for run_id, run in data.items():
|
| 87 |
if 'TeenEmo' in run_id:
|
| 88 |
+
print('Run:', run_id)
|
| 89 |
+
print('Score:', run.get('eq_bench_score', 'N/A'))
|
| 90 |
"
|
| 91 |
```
|