YUGOROU commited on
Commit
39165f3
·
verified ·
1 Parent(s): f57f05f

fix: eqbench-vast/README.md (JA-D1 + JA-D2 patches)

Browse files
Files changed (1) hide show
  1. eqbench-vast/README.md +14 -45
eqbench-vast/README.md CHANGED
@@ -1,39 +1,21 @@
1
- # EQ-Bench3 評価 (Vast.ai + HF Inference Providers)
2
 
3
- ## 構成
 
4
 
5
- | 役割 | 実装 | 備考 |
6
- |------|------|------|
7
- | 受験者 | TeenEmo-LFM2.5-1.2B-DPO (LoRA on vLLM) | Vast.ai L4/RTX4090 |
8
- | 採点者 | openai/gpt-oss-120b | HF Inference Providers / novita |
9
 
10
- 採点者をHF Inference Providersに外出しすることで **OOM問題を完全に回避** し、TeenEmoに全GPUを投入できる。
 
 
 
11
 
12
- ## 今セションで発生した問題と修正
13
-
14
- | Fix | 問題 | 修正 |
15
- |-----|------|------|
16
- | Fix-1 | `LoRA rank 32 > max_lora_rank 16` | `--max-lora-rank 32` を追加 |
17
- | Fix-2 | `max_tokens=12000 > max_model_len=4096` | `--max-model-len 32768` に設定 |
18
- | Fix-3 | Judge URLが誤り | `https://router.huggingface.co/novita/v1/chat/completions` |
19
- | Fix-4 | 途中失敗で再起動不可 | `--save-interval 1` で1タスクごと保存 |
20
- | Fix-5 | HF APIタイムアウト | `MAX_RETRIES=6`, `RETRY_DELAY=10`, `REQUEST_TIMEOUT=300` |
21
-
22
- ## 対象GPU
23
-
24
- L4 / RTX 4090 (24GB) / L40S (48GB)
25
- LFM2.5-1.2B-Base (bf16 ~2.5GB) + LoRA → 24GBで十分
26
-
27
- ## 推定コスト
28
-
29
- - Vast.ai: L4 ~$0.35/hr × ~30分 = **~$0.18**
30
- - HF Inference Providers: 46シナリオ × ~8,000 input + ~500 output tokens = **~$0.024**
31
- - **合計: ~$0.20**
32
 
33
  ## セットアップ
34
 
35
  ```bash
36
- export HF_TOKEN="hf_xxxx" && export HF_USERNAME="YUGOROU" && \
37
  curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
38
  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-vast/setup_eqbench_vast.sh" \
39
  -o /tmp/setup_eqbench_vast.sh && bash /tmp/setup_eqbench_vast.sh
@@ -42,12 +24,12 @@ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
42
  ## 実行
43
 
44
  ```bash
45
- # Step 1: TeenEmoサーバー起動
46
  tmux new-session -d -s eq_run
47
- tmux send-keys -t eq_run "cd /workspace/eqbench-run && export HF_TOKEN='hf_xxx' && ./serve_test_vast.sh" Enter
48
 
49
- # Step 2: 起動確認
50
- tmux capture-pane -t eq_run -p | grep "startup complete"
51
 
52
  # Step 3: 評価実行
53
  cd /workspace/eqbench-run/eqbench3
@@ -59,16 +41,3 @@ python eqbench3.py \
59
  --save-interval 1 \
60
  --iterations 1
61
  ```
62
-
63
- ## 結果確認
64
-
65
- ```bash
66
- cat /workspace/eqbench-run/eqbench3/eqbench3_runs.json | python3 -c "
67
- import json, sys
68
- data = json.load(sys.stdin)
69
- for k, v in data.items():
70
- if 'TeenEmo' in k:
71
- print(f'Score: {v.get(\"eq_bench_score\", \"N/A\")}')
72
- print(f'Status: {v.get(\"status\")}')
73
- "
74
- ```
 
1
+ # EQ-Bench3 日本語版 Vast.ai セットアップ
2
 
3
+ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価する Vast.ai セットアップ。
4
+ 採点者は HF Inference Providers (novita / gpt-oss-120b) を使用。
5
 
6
+ ## 修正済み問題
 
 
 
7
 
8
+ | # | 重大度 | 問題 | 修正 |
9
+ |---|--------|------|------|
10
+ | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 10 ファイルが差し替えられていなかった | 全 12 ファイルを差し替え |
11
+ | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | patch_benchmark.py / patch_conversation.py を自動適用 |
12
 
13
+ コードパチの詳細は [teememo-eq-bench-ja](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) の `patch/` を参照。
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
14
 
15
  ## セットアップ
16
 
17
  ```bash
18
+ export HF_TOKEN="hf_xxxx"
19
  curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
20
  "https://huggingface.co/datasets/YUGOROU/Test-2/resolve/main/eqbench-vast/setup_eqbench_vast.sh" \
21
  -o /tmp/setup_eqbench_vast.sh && bash /tmp/setup_eqbench_vast.sh
 
24
  ## 実行
25
 
26
  ```bash
27
+ # Step 1: TeenEmo 起動
28
  tmux new-session -d -s eq_run
29
+ tmux send-keys -t eq_run "cd /workspace/eqbench-run && export HF_TOKEN='$HF_TOKEN' && ./serve_test_vast.sh" Enter
30
 
31
+ # Step 2: 起動確認(Application startup complete. まで待つ)
32
+ tmux capture-pane -t eq_run -p | tail -5
33
 
34
  # Step 3: 評価実行
35
  cd /workspace/eqbench-run/eqbench3
 
41
  --save-interval 1 \
42
  --iterations 1
43
  ```