File size: 5,537 Bytes
21daabb
 
 
 
 
 
 
c63f570
 
 
 
 
 
 
 
 
21daabb
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
ed1caee
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
21daabb
 
 
ed1caee
21daabb
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
---
annotations_creators:
- synthetic
language:
- ja
license:
- agpl-3.0
configs:
- config_name: default
  data_files:
  - split: train
    path: default/train/coding_excellence_ja.jsonl
- config_name: claude
  data_files:
  - split: train
    path: claude/train/coding_excellence_ja_claude.jsonl
---

# Coding Excellence 日本語版

Fable-5-traces のコーディング性能分布を分析し、そのパターンを**日本語**で強化注入したコード生成データセット。

## 📊 概要

| 項目 | 値 |
|------|------|
| レコード数 | **100,000** |
| 形式 | `{"instruction": "...", "input": "...", "output": "..."}` |
| ファイルサイズ | 714 MB (JSONL, LFS管理) |
| 出力平均長 | **6,697文字** (日本語CoT + コード) |
| 言語 | **日本語**(指示・思考過程・コメントすべて日本語) |
| ライセンス | AGPL-3.0 |

## 🎯 特長

- **指示・思考過程(CoT)・コードコメント**:すべて日本語で記述
- **コードは標準的な英語記法**のまま(変数名・API・キーワード)
- 日本語で「考えながらコードを書く」プロセスを学習可能
- Fable-5 の5因子を日本語話者向けに最適化

## 🧠 5つのコーディング性能因子

| # | 因子 | 説明 |
|---|------|------|
| 1 | **厚いChain-of-Thought** | 日本語で平均〜3,500文字の思考過程 |
| 2 | **自己指示・自己対話** | 「まず〜を考えます」「重要な気づき」等の内省 |
| 3 | **エラー予測と回復** | エッジケースの想定とハンドリング |
| 4 | **検証と確認** | 実装後の動作検証・品質チェック |
| 5 | **構造化コード出力** | 日本語コメント・設定・logging・export |

## 📈 コード品質指標

| 指標 | カバレッジ |
|------|-----------|
| 日本語コメント付きコード | **100%** |
| エラー処理 (try/catch/except) | **100%** |
| 設定管理 (env/config) | **100%** |
| ロギング | **100%** |
| 関数/メソッド定義 | **100%** |

## 🌐 言語分布

| 言語 | 比率 |
|------|------|
| Python | ~31% |
| JavaScript | ~25% |
| TypeScript | ~16% |
| HTML+CSS+JS | ~10% |
| Node.js/Express | ~8% |
| React | ~7% |
| Bash/Shell | ~3% |
| Go | ~2% |

## 🚀 使い方

```python
import json

# データ読み込み
with open("coding_excellence_ja.jsonl") as f:
    data = [json.loads(line) for line in f]

# Hugging Face datasets で読む
from datasets import load_dataset
ds = load_dataset("summerMC/coding-excellence-ja", split="train")

# ChatML形式でファインチューニング(日本語対応モデル用)
train_data = []
for r in ds:
    messages = [
        {"role": "user", "content": r["instruction"] + ("\n" + r["input"] if r["input"] else "")},
        {"role": "assistant", "content": r["output"]},
    ]
    train_data.append({"messages": messages})
```

## 📋 レコード例

```json
{
  "instruction": "堅牢なREST APIサーバを、包括的なエラーハンドリング、入力バリデーション、設定可能な動作とともに作成してください。",
  "input": "言語: python\n要件: 設定可能な動作、堅牢なエラーハンドリング、構造化ロギング、入力バリデーション",
  "output": "この実装について慎重に考えていきます。REST APIサーバを構築するにあたり...\n\n```python\nimport os\nimport sys\nimport json\nimport logging\n...\n```"
}
```

---

## 🧬 Claudeレベル版(新規)

`config_name: "claude"` で読み込める高性能版。

| 項目 | 値 |
|------|------|
| ファイル | `coding_excellence_ja_claude.jsonl` |
| レコード数 | **30,000** |
| 出力平均長 | **11,262文字**(通常版の1.7倍) |
| ファイルサイズ | 724 MB |
| 品質水準 | **Claude (Fable-5) レベル** |

### 通常版との違い

| 観点 | 通常版 | Claude版 |
|------|--------|----------|
| CoT長 | ~4,000文字 | **~7,000文字** |
| 推論段階 | 4段階 | **8段階**(問題再定義→比較→設計→エッジケース→実装→検証→振り返り) |
| 自己対話 | なし | **あり**(「待てよ…」「ここで気づいたが…」) |
| アーキテクチャ | 簡単な設計 | **コンポーネント図・データフロー・STRIDE分析** |
| コード品質 | 標準 | **本番級:型ヒント・非同期・構造化ロギング・Resultモナド** |
| トレードオフ分析 | なし | **複数アプローチ比較+選択理由の明示** |

### 読み込み

```python
# Claudeレベルのデータセット
ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")
print(len(ds))  # 30000
print(ds[0]["output"][:100])  # CoT開始
```

### ファインチューニング

```python
from datasets import load_dataset

ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")

train_data = []
for r in ds:
    messages = [
        {"role": "user", "content": r["instruction"] + "\n" + r["input"]},
        {"role": "assistant", "content": r["output"]},
    ]
    train_data.append({"messages": messages})
```

### カスタム生成

```bash
pip install numpy
python3 coding_excellence_ja_claude_generator.py --records 30000 --output my_claude.jsonl --seed 42
```

## 📝 ライセンス

AGPL-3.0

## 🙏 クレジット

- [Glint-Research/Fable-5-traces](https://huggingface.co/datasets/Glint-Research/Fable-5-traces) - 元データセット
- summerMC - 分布解析・日本語化・合成生成