| --- |
| annotations_creators: |
| - synthetic |
| language: |
| - ja |
| license: |
| - agpl-3.0 |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: default/train/coding_excellence_ja.jsonl |
| - config_name: claude |
| data_files: |
| - split: train |
| path: claude/train/coding_excellence_ja_claude.jsonl |
| --- |
| |
| # Coding Excellence 日本語版 |
|
|
| Fable-5-traces のコーディング性能分布を分析し、そのパターンを**日本語**で強化注入したコード生成データセット。 |
|
|
| ## 📊 概要 |
|
|
| | 項目 | 値 | |
| |------|------| |
| | レコード数 | **100,000** | |
| | 形式 | `{"instruction": "...", "input": "...", "output": "..."}` | |
| | ファイルサイズ | 714 MB (JSONL, LFS管理) | |
| | 出力平均長 | **6,697文字** (日本語CoT + コード) | |
| | 言語 | **日本語**(指示・思考過程・コメントすべて日本語) | |
| | ライセンス | AGPL-3.0 | |
|
|
| ## 🎯 特長 |
|
|
| - **指示・思考過程(CoT)・コードコメント**:すべて日本語で記述 |
| - **コードは標準的な英語記法**のまま(変数名・API・キーワード) |
| - 日本語で「考えながらコードを書く」プロセスを学習可能 |
| - Fable-5 の5因子を日本語話者向けに最適化 |
|
|
| ## 🧠 5つのコーディング性能因子 |
|
|
| | # | 因子 | 説明 | |
| |---|------|------| |
| | 1 | **厚いChain-of-Thought** | 日本語で平均〜3,500文字の思考過程 | |
| | 2 | **自己指示・自己対話** | 「まず〜を考えます」「重要な気づき」等の内省 | |
| | 3 | **エラー予測と回復** | エッジケースの想定とハンドリング | |
| | 4 | **検証と確認** | 実装後の動作検証・品質チェック | |
| | 5 | **構造化コード出力** | 日本語コメント・設定・logging・export | |
|
|
| ## 📈 コード品質指標 |
|
|
| | 指標 | カバレッジ | |
| |------|-----------| |
| | 日本語コメント付きコード | **100%** | |
| | エラー処理 (try/catch/except) | **100%** | |
| | 設定管理 (env/config) | **100%** | |
| | ロギング | **100%** | |
| | 関数/メソッド定義 | **100%** | |
|
|
| ## 🌐 言語分布 |
|
|
| | 言語 | 比率 | |
| |------|------| |
| | Python | ~31% | |
| | JavaScript | ~25% | |
| | TypeScript | ~16% | |
| | HTML+CSS+JS | ~10% | |
| | Node.js/Express | ~8% | |
| | React | ~7% | |
| | Bash/Shell | ~3% | |
| | Go | ~2% | |
|
|
| ## 🚀 使い方 |
|
|
| ```python |
| import json |
| |
| # データ読み込み |
| with open("coding_excellence_ja.jsonl") as f: |
| data = [json.loads(line) for line in f] |
| |
| # Hugging Face datasets で読む |
| from datasets import load_dataset |
| ds = load_dataset("summerMC/coding-excellence-ja", split="train") |
| |
| # ChatML形式でファインチューニング(日本語対応モデル用) |
| train_data = [] |
| for r in ds: |
| messages = [ |
| {"role": "user", "content": r["instruction"] + ("\n" + r["input"] if r["input"] else "")}, |
| {"role": "assistant", "content": r["output"]}, |
| ] |
| train_data.append({"messages": messages}) |
| ``` |
|
|
| ## 📋 レコード例 |
|
|
| ```json |
| { |
| "instruction": "堅牢なREST APIサーバを、包括的なエラーハンドリング、入力バリデーション、設定可能な動作とともに作成してください。", |
| "input": "言語: python\n要件: 設定可能な動作、堅牢なエラーハンドリング、構造化ロギング、入力バリデーション", |
| "output": "この実装について慎重に考えていきます。REST APIサーバを構築するにあたり...\n\n```python\nimport os\nimport sys\nimport json\nimport logging\n...\n```" |
| } |
| ``` |
|
|
| --- |
|
|
| ## 🧬 Claudeレベル版(新規) |
|
|
| `config_name: "claude"` で読み込める高性能版。 |
|
|
| | 項目 | 値 | |
| |------|------| |
| | ファイル | `coding_excellence_ja_claude.jsonl` | |
| | レコード数 | **30,000** | |
| | 出力平均長 | **11,262文字**(通常版の1.7倍) | |
| | ファイルサイズ | 724 MB | |
| | 品質水準 | **Claude (Fable-5) レベル** | |
|
|
| ### 通常版との違い |
|
|
| | 観点 | 通常版 | Claude版 | |
| |------|--------|----------| |
| | CoT長 | ~4,000文字 | **~7,000文字** | |
| | 推論段階 | 4段階 | **8段階**(問題再定義→比較→設計→エッジケース→実装→検証→振り返り) | |
| | 自己対話 | なし | **あり**(「待てよ…」「ここで気づいたが…」) | |
| | アーキテクチャ | 簡単な設計 | **コンポーネント図・データフロー・STRIDE分析** | |
| | コード品質 | 標準 | **本番級:型ヒント・非同期・構造化ロギング・Resultモナド** | |
| | トレードオフ分析 | なし | **複数アプローチ比較+選択理由の明示** | |
|
|
| ### 読み込み |
|
|
| ```python |
| # Claudeレベルのデータセット |
| ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train") |
| print(len(ds)) # 30000 |
| print(ds[0]["output"][:100]) # CoT開始 |
| ``` |
|
|
| ### ファインチューニング |
|
|
| ```python |
| from datasets import load_dataset |
| |
| ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train") |
| |
| train_data = [] |
| for r in ds: |
| messages = [ |
| {"role": "user", "content": r["instruction"] + "\n" + r["input"]}, |
| {"role": "assistant", "content": r["output"]}, |
| ] |
| train_data.append({"messages": messages}) |
| ``` |
|
|
| ### カスタム生成 |
|
|
| ```bash |
| pip install numpy |
| python3 coding_excellence_ja_claude_generator.py --records 30000 --output my_claude.jsonl --seed 42 |
| ``` |
|
|
| ## 📝 ライセンス |
|
|
| AGPL-3.0 |
|
|
| ## 🙏 クレジット |
|
|
| - [Glint-Research/Fable-5-traces](https://huggingface.co/datasets/Glint-Research/Fable-5-traces) - 元データセット |
| - summerMC - 分布解析・日本語化・合成生成 |
|
|