File size: 5,537 Bytes
21daabb c63f570 21daabb ed1caee 21daabb ed1caee 21daabb | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 | ---
annotations_creators:
- synthetic
language:
- ja
license:
- agpl-3.0
configs:
- config_name: default
data_files:
- split: train
path: default/train/coding_excellence_ja.jsonl
- config_name: claude
data_files:
- split: train
path: claude/train/coding_excellence_ja_claude.jsonl
---
# Coding Excellence 日本語版
Fable-5-traces のコーディング性能分布を分析し、そのパターンを**日本語**で強化注入したコード生成データセット。
## 📊 概要
| 項目 | 値 |
|------|------|
| レコード数 | **100,000** |
| 形式 | `{"instruction": "...", "input": "...", "output": "..."}` |
| ファイルサイズ | 714 MB (JSONL, LFS管理) |
| 出力平均長 | **6,697文字** (日本語CoT + コード) |
| 言語 | **日本語**(指示・思考過程・コメントすべて日本語) |
| ライセンス | AGPL-3.0 |
## 🎯 特長
- **指示・思考過程(CoT)・コードコメント**:すべて日本語で記述
- **コードは標準的な英語記法**のまま(変数名・API・キーワード)
- 日本語で「考えながらコードを書く」プロセスを学習可能
- Fable-5 の5因子を日本語話者向けに最適化
## 🧠 5つのコーディング性能因子
| # | 因子 | 説明 |
|---|------|------|
| 1 | **厚いChain-of-Thought** | 日本語で平均〜3,500文字の思考過程 |
| 2 | **自己指示・自己対話** | 「まず〜を考えます」「重要な気づき」等の内省 |
| 3 | **エラー予測と回復** | エッジケースの想定とハンドリング |
| 4 | **検証と確認** | 実装後の動作検証・品質チェック |
| 5 | **構造化コード出力** | 日本語コメント・設定・logging・export |
## 📈 コード品質指標
| 指標 | カバレッジ |
|------|-----------|
| 日本語コメント付きコード | **100%** |
| エラー処理 (try/catch/except) | **100%** |
| 設定管理 (env/config) | **100%** |
| ロギング | **100%** |
| 関数/メソッド定義 | **100%** |
## 🌐 言語分布
| 言語 | 比率 |
|------|------|
| Python | ~31% |
| JavaScript | ~25% |
| TypeScript | ~16% |
| HTML+CSS+JS | ~10% |
| Node.js/Express | ~8% |
| React | ~7% |
| Bash/Shell | ~3% |
| Go | ~2% |
## 🚀 使い方
```python
import json
# データ読み込み
with open("coding_excellence_ja.jsonl") as f:
data = [json.loads(line) for line in f]
# Hugging Face datasets で読む
from datasets import load_dataset
ds = load_dataset("summerMC/coding-excellence-ja", split="train")
# ChatML形式でファインチューニング(日本語対応モデル用)
train_data = []
for r in ds:
messages = [
{"role": "user", "content": r["instruction"] + ("\n" + r["input"] if r["input"] else "")},
{"role": "assistant", "content": r["output"]},
]
train_data.append({"messages": messages})
```
## 📋 レコード例
```json
{
"instruction": "堅牢なREST APIサーバを、包括的なエラーハンドリング、入力バリデーション、設定可能な動作とともに作成してください。",
"input": "言語: python\n要件: 設定可能な動作、堅牢なエラーハンドリング、構造化ロギング、入力バリデーション",
"output": "この実装について慎重に考えていきます。REST APIサーバを構築するにあたり...\n\n```python\nimport os\nimport sys\nimport json\nimport logging\n...\n```"
}
```
---
## 🧬 Claudeレベル版(新規)
`config_name: "claude"` で読み込める高性能版。
| 項目 | 値 |
|------|------|
| ファイル | `coding_excellence_ja_claude.jsonl` |
| レコード数 | **30,000** |
| 出力平均長 | **11,262文字**(通常版の1.7倍) |
| ファイルサイズ | 724 MB |
| 品質水準 | **Claude (Fable-5) レベル** |
### 通常版との違い
| 観点 | 通常版 | Claude版 |
|------|--------|----------|
| CoT長 | ~4,000文字 | **~7,000文字** |
| 推論段階 | 4段階 | **8段階**(問題再定義→比較→設計→エッジケース→実装→検証→振り返り) |
| 自己対話 | なし | **あり**(「待てよ…」「ここで気づいたが…」) |
| アーキテクチャ | 簡単な設計 | **コンポーネント図・データフロー・STRIDE分析** |
| コード品質 | 標準 | **本番級:型ヒント・非同期・構造化ロギング・Resultモナド** |
| トレードオフ分析 | なし | **複数アプローチ比較+選択理由の明示** |
### 読み込み
```python
# Claudeレベルのデータセット
ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")
print(len(ds)) # 30000
print(ds[0]["output"][:100]) # CoT開始
```
### ファインチューニング
```python
from datasets import load_dataset
ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")
train_data = []
for r in ds:
messages = [
{"role": "user", "content": r["instruction"] + "\n" + r["input"]},
{"role": "assistant", "content": r["output"]},
]
train_data.append({"messages": messages})
```
### カスタム生成
```bash
pip install numpy
python3 coding_excellence_ja_claude_generator.py --records 30000 --output my_claude.jsonl --seed 42
```
## 📝 ライセンス
AGPL-3.0
## 🙏 クレジット
- [Glint-Research/Fable-5-traces](https://huggingface.co/datasets/Glint-Research/Fable-5-traces) - 元データセット
- summerMC - 分布解析・日本語化・合成生成
|