--- annotations_creators: - synthetic language: - ja license: - agpl-3.0 configs: - config_name: default data_files: - split: train path: default/train/coding_excellence_ja.jsonl - config_name: claude data_files: - split: train path: claude/train/coding_excellence_ja_claude.jsonl --- # Coding Excellence 日本語版 Fable-5-traces のコーディング性能分布を分析し、そのパターンを**日本語**で強化注入したコード生成データセット。 ## 📊 概要 | 項目 | 値 | |------|------| | レコード数 | **100,000** | | 形式 | `{"instruction": "...", "input": "...", "output": "..."}` | | ファイルサイズ | 714 MB (JSONL, LFS管理) | | 出力平均長 | **6,697文字** (日本語CoT + コード) | | 言語 | **日本語**(指示・思考過程・コメントすべて日本語) | | ライセンス | AGPL-3.0 | ## 🎯 特長 - **指示・思考過程(CoT)・コードコメント**:すべて日本語で記述 - **コードは標準的な英語記法**のまま(変数名・API・キーワード) - 日本語で「考えながらコードを書く」プロセスを学習可能 - Fable-5 の5因子を日本語話者向けに最適化 ## 🧠 5つのコーディング性能因子 | # | 因子 | 説明 | |---|------|------| | 1 | **厚いChain-of-Thought** | 日本語で平均〜3,500文字の思考過程 | | 2 | **自己指示・自己対話** | 「まず〜を考えます」「重要な気づき」等の内省 | | 3 | **エラー予測と回復** | エッジケースの想定とハンドリング | | 4 | **検証と確認** | 実装後の動作検証・品質チェック | | 5 | **構造化コード出力** | 日本語コメント・設定・logging・export | ## 📈 コード品質指標 | 指標 | カバレッジ | |------|-----------| | 日本語コメント付きコード | **100%** | | エラー処理 (try/catch/except) | **100%** | | 設定管理 (env/config) | **100%** | | ロギング | **100%** | | 関数/メソッド定義 | **100%** | ## 🌐 言語分布 | 言語 | 比率 | |------|------| | Python | ~31% | | JavaScript | ~25% | | TypeScript | ~16% | | HTML+CSS+JS | ~10% | | Node.js/Express | ~8% | | React | ~7% | | Bash/Shell | ~3% | | Go | ~2% | ## 🚀 使い方 ```python import json # データ読み込み with open("coding_excellence_ja.jsonl") as f: data = [json.loads(line) for line in f] # Hugging Face datasets で読む from datasets import load_dataset ds = load_dataset("summerMC/coding-excellence-ja", split="train") # ChatML形式でファインチューニング(日本語対応モデル用) train_data = [] for r in ds: messages = [ {"role": "user", "content": r["instruction"] + ("\n" + r["input"] if r["input"] else "")}, {"role": "assistant", "content": r["output"]}, ] train_data.append({"messages": messages}) ``` ## 📋 レコード例 ```json { "instruction": "堅牢なREST APIサーバを、包括的なエラーハンドリング、入力バリデーション、設定可能な動作とともに作成してください。", "input": "言語: python\n要件: 設定可能な動作、堅牢なエラーハンドリング、構造化ロギング、入力バリデーション", "output": "この実装について慎重に考えていきます。REST APIサーバを構築するにあたり...\n\n```python\nimport os\nimport sys\nimport json\nimport logging\n...\n```" } ``` --- ## 🧬 Claudeレベル版(新規) `config_name: "claude"` で読み込める高性能版。 | 項目 | 値 | |------|------| | ファイル | `coding_excellence_ja_claude.jsonl` | | レコード数 | **30,000** | | 出力平均長 | **11,262文字**(通常版の1.7倍) | | ファイルサイズ | 724 MB | | 品質水準 | **Claude (Fable-5) レベル** | ### 通常版との違い | 観点 | 通常版 | Claude版 | |------|--------|----------| | CoT長 | ~4,000文字 | **~7,000文字** | | 推論段階 | 4段階 | **8段階**(問題再定義→比較→設計→エッジケース→実装→検証→振り返り) | | 自己対話 | なし | **あり**(「待てよ…」「ここで気づいたが…」) | | アーキテクチャ | 簡単な設計 | **コンポーネント図・データフロー・STRIDE分析** | | コード品質 | 標準 | **本番級:型ヒント・非同期・構造化ロギング・Resultモナド** | | トレードオフ分析 | なし | **複数アプローチ比較+選択理由の明示** | ### 読み込み ```python # Claudeレベルのデータセット ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train") print(len(ds)) # 30000 print(ds[0]["output"][:100]) # CoT開始 ``` ### ファインチューニング ```python from datasets import load_dataset ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train") train_data = [] for r in ds: messages = [ {"role": "user", "content": r["instruction"] + "\n" + r["input"]}, {"role": "assistant", "content": r["output"]}, ] train_data.append({"messages": messages}) ``` ### カスタム生成 ```bash pip install numpy python3 coding_excellence_ja_claude_generator.py --records 30000 --output my_claude.jsonl --seed 42 ``` ## 📝 ライセンス AGPL-3.0 ## 🙏 クレジット - [Glint-Research/Fable-5-traces](https://huggingface.co/datasets/Glint-Research/Fable-5-traces) - 元データセット - summerMC - 分布解析・日本語化・合成生成