YUGOROU commited on
Commit
465a0e3
·
verified ·
1 Parent(s): 6d8be55

docs: ルートREADME.mdを追加(YAMLメタデータ・パイプライン全体像)

Browse files

リポジトリにルートREADMEが存在しなかったため、パイプライン全体を説明するREADMEとYAML metadataを追加します。

追加内容:
- YAML frontmatter (language, license, tags, pretty_name)
- パイプライン全体像(合成データ生成 → SFT → DPO → EQ-Bench3評価)
- ディレクトリ構成と各スクリプトの役割
- モデル・データセット一覧表
- 各ステップのクイックスタートコマンド
- 関連リポジトリへのリンク

Files changed (1) hide show
  1. README.md +254 -0
README.md ADDED
@@ -0,0 +1,254 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - ja
4
+ - en
5
+ license: mit
6
+ tags:
7
+ - teeneemo
8
+ - mitou-junior
9
+ - llm-training
10
+ - sft
11
+ - dpo
12
+ - eq-bench
13
+ - vllm
14
+ - unsloth
15
+ - trl
16
+ - japanese-nlp
17
+ pretty_name: TeenEmo Scripts — 学習・評価スクリプト集
18
+ size_categories:
19
+ - n<1K
20
+ task_categories:
21
+ - text-generation
22
+ ---
23
+
24
+ # TeenEmo Scripts
25
+
26
+ **TeenEmo** (未踏ジュニア 2026 申請プロジェクト) の学習・評価パイプライン全体を構成するスクリプト集です。
27
+ 合成データ生成 → SFT → DPO → EQ-Bench3 日本語評価 という一連のフローをカバーします。
28
+
29
+ ---
30
+
31
+ ## パイプライン全体像
32
+
33
+ ```
34
+ [合成データ生成]
35
+ teememo-synth-complete.zip # Qwen3.5-35B-A3B で生成した SFT/DPO データ
36
+ setup.sh # Vast.ai 上でデータ生成環境をセットアップ
37
+ test_llm.py # vLLM 接続スモークテスト
38
+
39
+
40
+
41
+ [モデル学習]
42
+ training/
43
+ train_sft.py # SFT (LFM2.5-1.2B-Base → LoRA)
44
+ train_dpo.py # DPO (SFT済みLoRA → 継続学習)
45
+ → YUGOROU/TeenEmo-LFM2.5-1.2B-SFT
46
+ → YUGOROU/TeenEmo-LFM2.5-1.2B-DPO
47
+ → YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF
48
+
49
+
50
+
51
+ [EQ-Bench3 日本語化]
52
+ eqbench-ja/
53
+ translate_eqbench.py # Qwen3.5-9B で英語 → 日本語翻訳
54
+ → YUGOROU/teememo-eq-bench-ja # 翻訳データ + パッチ
55
+
56
+
57
+
58
+ [EQ-Bench3 評価]
59
+ eqbench-run-v2/ # Vast.ai (L4/RTX4090) + HF Inference Providers (judge)
60
+ eqbench-ja-run/ # A100 80GB + ローカル vLLM (judge)
61
+ ```
62
+
63
+ ---
64
+
65
+ ## ディレクトリ構成
66
+
67
+ ```
68
+ TeenEmo-Scripts/
69
+ ├── setup.sh # Vast.ai 合成データ生成環境セットアップ
70
+ ├── test_llm.py # vLLM 接続スモークテスト
71
+ ├── teememo-synth-complete.zip # 合成データ生成パイプライン一式
72
+
73
+ ├── training/ # 学習スクリプト群
74
+ │ ├── README.md
75
+ │ ├── train_config.py # 全設定値(環境変数で上書き可能)
76
+ │ ├── train_utils.py # 共通ユーティリティ(ログ・データ読込)
77
+ │ ├── train_sft.py # SFT 学習スクリプト
78
+ │ └── train_dpo.py # DPO 学習スクリプト
79
+
80
+ ├── eqbench-ja/ # EQ-Bench3 日本語翻訳パイプライン
81
+ │ ├── setup_translate.sh # 翻訳環境セットアップ
82
+ │ ├── serve_translate.sh # Qwen3.5-9B vLLM サーバー起動
83
+ │ └── translate_eqbench.py # 非同期翻訳スクリプト(チェックポイント対応)
84
+
85
+ ├── eqbench-run-v2/ # EQ-Bench3 評価 (Vast.ai / HF Inference Providers)
86
+ │ ├── README.md
87
+ │ ├── setup_eqbench_vast.sh # Vast.ai セットアップ
88
+ │ ├── serve_test_vast.sh # TeenEmo vLLM サーバー起動
89
+ │ └── restore_english_tags.py # 翻訳時に日本語化されたタグの復元
90
+
91
+ └── eqbench-ja-run/ # EQ-Bench3 評価 (A100 80GB / ローカル judge)
92
+ ├── README.md
93
+ ├── setup_eqbench_run.sh # A100 セットアップ
94
+ ├── serve_test.sh # TeenEmo vLLM サーバー起動(低GPU使用率)
95
+ └── serve_judge.sh # Qwen3.5-35B-A3B judge vLLM サーバー起動
96
+ ```
97
+
98
+ ---
99
+
100
+ ## モデル・データセット
101
+
102
+ | 種別 | HF リポジトリ | 説明 |
103
+ |------|--------------|------|
104
+ | ベースモデル | `LiquidAI/LFM2.5-1.2B-Base` | 学習ベース |
105
+ | SFT 済みモデル | `YUGOROU/TeenEmo-LFM2.5-1.2B-SFT` | SFT LoRA アダプタ |
106
+ | DPO 済みモデル | `YUGOROU/TeenEmo-LFM2.5-1.2B-DPO` | DPO LoRA アダプタ |
107
+ | GGUF | `YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF` | q4_k_m 量子化 |
108
+ | SFT データ | `YUGOROU/teememo-sft-validation` | 合成 SFT データ |
109
+ | DPO データ | `YUGOROU/teememo-pref-data` | 選好データ |
110
+ | EQ-Bench 日本語化 | `YUGOROU/teememo-eq-bench-ja` | 翻訳データ + パッチ |
111
+
112
+ ---
113
+
114
+ ## 1. 合成データ生成環境のセットアップ
115
+
116
+ ```bash
117
+ export HF_TOKEN="hf_xxxx"
118
+ export HF_USERNAME="YUGOROU"
119
+
120
+ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
121
+ "https://huggingface.co/datasets/YUGOROU/TeenEmo-Scripts/resolve/main/setup.sh" \
122
+ | bash
123
+ ```
124
+
125
+ 動作確認:
126
+ ```bash
127
+ cd /workspace/teememo-synth
128
+ python /path/to/test_llm.py
129
+ ```
130
+
131
+ ---
132
+
133
+ ## 2. モデル学習 (SFT → DPO)
134
+
135
+ 詳細は [`training/README.md`](training/README.md) を参照してください。
136
+
137
+ ```bash
138
+ pip install unsloth trl datasets transformers
139
+
140
+ export HF_TOKEN="hf_xxxx"
141
+ export HF_USERNAME="YUGOROU"
142
+
143
+ # Step 1: SFT
144
+ python train_sft.py
145
+
146
+ # Step 2: DPO(SFT完了後)
147
+ python train_dpo.py
148
+ ```
149
+
150
+ 主な設定(環境変数で上書き可能):
151
+
152
+ | 設定 | SFT | DPO |
153
+ |------|-----|-----|
154
+ | ベース���デル | `LiquidAI/LFM2.5-1.2B-Base` | SFT 済み LoRA |
155
+ | エポック | 3 | 2 |
156
+ | 実効バッチサイズ | 128 (32×4) | 32 (8×4) |
157
+ | 学習率 | 2e-4 | 5e-5 |
158
+ | LoRA rank | 32 | ← 継承 |
159
+
160
+ ---
161
+
162
+ ## 3. EQ-Bench3 日本語翻訳
163
+
164
+ ```bash
165
+ export HF_TOKEN="hf_xxxx"
166
+
167
+ # 翻訳環境セットアップ
168
+ bash eqbench-ja/setup_translate.sh
169
+
170
+ # tmux で vLLM (Qwen3.5-9B) を起動
171
+ tmux new-session -d -s eq_tmux
172
+ tmux send-keys -t eq_tmux "cd /workspace/eqbench-ja && ./serve_translate.sh" Enter
173
+
174
+ # 翻訳実行(チェックポイントで途中再開可能)
175
+ cd /workspace/eqbench-ja
176
+ python translate_eqbench.py
177
+
178
+ # 動作確認のみ(最初の2シナリオ)
179
+ python translate_eqbench.py --dry-run
180
+ ```
181
+
182
+ 翻訳結果は [`YUGOROU/teememo-eq-bench-ja`](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) に自動アップロードされます。
183
+
184
+ ---
185
+
186
+ ## 4. EQ-Bench3 評価
187
+
188
+ ### Vast.ai 構成(推奨): `eqbench-run-v2/`
189
+
190
+ - **受験者**: TeenEmo LoRA on vLLM (port 8000, L4/RTX4090)
191
+ - **採点者**: `openai/gpt-oss-120b` via HF Inference Providers (novita)
192
+
193
+ 詳細は [`eqbench-run-v2/README.md`](eqbench-run-v2/README.md) を参照してください。
194
+
195
+ ```bash
196
+ export HF_TOKEN="hf_xxxx"
197
+ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
198
+ "https://huggingface.co/datasets/YUGOROU/TeenEmo-Scripts/resolve/main/eqbench-run-v2/setup_eqbench_vast.sh" \
199
+ -o /tmp/setup.sh && bash /tmp/setup.sh
200
+ ```
201
+
202
+ ### A100 80GB 構成: `eqbench-ja-run/`
203
+
204
+ - **受験者**: TeenEmo LoRA on vLLM (port 8000, GPU_UTIL=0.10)
205
+ - **採点者**: `Qwen/Qwen3.5-35B-A3B` on vLLM (port 8001, GPU_UTIL=0.88)
206
+
207
+ 詳細は [`eqbench-ja-run/README.md`](eqbench-ja-run/README.md) を参照してください。
208
+
209
+ ```bash
210
+ export HF_TOKEN="hf_xxxx"
211
+ curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
212
+ "https://huggingface.co/datasets/YUGOROU/TeenEmo-Scripts/resolve/main/eqbench-ja-run/setup_eqbench_run.sh" \
213
+ -o /tmp/setup.sh && bash /tmp/setup.sh
214
+ ```
215
+
216
+ ---
217
+
218
+ ## 技術スタック
219
+
220
+ | カテゴリ | ライブラリ・サービス |
221
+ |---------|-------------------|
222
+ | 学習フレームワーク | [Unsloth](https://github.com/unslothai/unsloth) + [TRL](https://github.com/huggingface/trl) |
223
+ | 推論エンジン | [vLLM](https://github.com/vllm-project/vllm) |
224
+ | ベースモデル | [LiquidAI/LFM2.5-1.2B-Base](https://huggingface.co/LiquidAI/LFM2.5-1.2B-Base) |
225
+ | 評価基盤 | [EQ-Bench3](https://github.com/EQ-bench/eqbench3) |
226
+ | Judge (Vast.ai) | `openai/gpt-oss-120b` via [novita](https://novita.ai/) |
227
+ | Judge (A100) | `Qwen/Qwen3.5-35B-A3B` on ローカル vLLM |
228
+ | GPU 環境 | [Vast.ai](https://vast.ai/) (L4 / RTX 4090) |
229
+
230
+ ---
231
+
232
+ ## 動作確認環境
233
+
234
+ - GPU: NVIDIA RTX 4090 (24GB) on Vast.ai
235
+ - vLLM: `>=0.17`(Qwen3.5 対応の最低要件)
236
+ - Python: 3.10+
237
+ - Unsloth + TRL: 最新版推奨
238
+
239
+ ---
240
+
241
+ ## 関連リポジトリ
242
+
243
+ | リポジトリ | 内容 |
244
+ |----------|------|
245
+ | [`YUGOROU/teememo-eq-bench-ja`](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) | EQ-Bench3 日本語翻訳データ + パッチ |
246
+ | [`YUGOROU/TeenEmo-LFM2.5-1.2B-DPO`](https://huggingface.co/YUGOROU/TeenEmo-LFM2.5-1.2B-DPO) | 学習済み DPO LoRA アダプタ |
247
+ | [`YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF`](https://huggingface.co/YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF) | GGUF 量子化モデル |
248
+
249
+ ---
250
+
251
+ ## ライセンス
252
+
253
+ MIT License — TeenEmo プロジェクト固有のコードに適用されます。
254
+ 各外部ライブラリ・モデルのライセンスは各リポジトリを参照してください。