SummerMC Developer
Restructure for multi-config: default/ and claude/ subdirectories
c63f570
|
Raw
History Blame Contribute Delete
5.54 kB
metadata
annotations_creators:
  - synthetic
language:
  - ja
license:
  - agpl-3.0
configs:
  - config_name: default
    data_files:
      - split: train
        path: default/train/coding_excellence_ja.jsonl
  - config_name: claude
    data_files:
      - split: train
        path: claude/train/coding_excellence_ja_claude.jsonl

Coding Excellence 日本語版

Fable-5-traces のコーディング性能分布を分析し、そのパターンを日本語で強化注入したコード生成データセット。

📊 概要

項目
レコード数 100,000
形式 {"instruction": "...", "input": "...", "output": "..."}
ファイルサイズ 714 MB (JSONL, LFS管理)
出力平均長 6,697文字 (日本語CoT + コード)
言語 日本語(指示・思考過程・コメントすべて日本語)
ライセンス AGPL-3.0

🎯 特長

  • 指示・思考過程(CoT)・コードコメント:すべて日本語で記述
  • コードは標準的な英語記法のまま(変数名・API・キーワード)
  • 日本語で「考えながらコードを書く」プロセスを学習可能
  • Fable-5 の5因子を日本語話者向けに最適化

🧠 5つのコーディング性能因子

# 因子 説明
1 厚いChain-of-Thought 日本語で平均〜3,500文字の思考過程
2 自己指示・自己対話 「まず〜を考えます」「重要な気づき」等の内省
3 エラー予測と回復 エッジケースの想定とハンドリング
4 検証と確認 実装後の動作検証・品質チェック
5 構造化コード出力 日本語コメント・設定・logging・export

📈 コード品質指標

指標 カバレッジ
日本語コメント付きコード 100%
エラー処理 (try/catch/except) 100%
設定管理 (env/config) 100%
ロギング 100%
関数/メソッド定義 100%

🌐 言語分布

言語 比率
Python ~31%
JavaScript ~25%
TypeScript ~16%
HTML+CSS+JS ~10%
Node.js/Express ~8%
React ~7%
Bash/Shell ~3%
Go ~2%

🚀 使い方

import json

# データ読み込み
with open("coding_excellence_ja.jsonl") as f:
    data = [json.loads(line) for line in f]

# Hugging Face datasets で読む
from datasets import load_dataset
ds = load_dataset("summerMC/coding-excellence-ja", split="train")

# ChatML形式でファインチューニング(日本語対応モデル用)
train_data = []
for r in ds:
    messages = [
        {"role": "user", "content": r["instruction"] + ("\n" + r["input"] if r["input"] else "")},
        {"role": "assistant", "content": r["output"]},
    ]
    train_data.append({"messages": messages})

📋 レコード例

{
  "instruction": "堅牢なREST APIサーバを、包括的なエラーハンドリング、入力バリデーション、設定可能な動作とともに作成してください。",
  "input": "言語: python\n要件: 設定可能な動作、堅牢なエラーハンドリング、構造化ロギング、入力バリデーション",
  "output": "この実装について慎重に考えていきます。REST APIサーバを構築するにあたり...\n\n```python\nimport os\nimport sys\nimport json\nimport logging\n...\n```"
}

🧬 Claudeレベル版(新規)

config_name: "claude" で読み込める高性能版。

項目
ファイル coding_excellence_ja_claude.jsonl
レコード数 30,000
出力平均長 11,262文字(通常版の1.7倍)
ファイルサイズ 724 MB
品質水準 Claude (Fable-5) レベル

通常版との違い

観点 通常版 Claude版
CoT長 ~4,000文字 ~7,000文字
推論段階 4段階 8段階(問題再定義→比較→設計→エッジケース→実装→検証→振り返り)
自己対話 なし あり(「待てよ…」「ここで気づいたが…」)
アーキテクチャ 簡単な設計 コンポーネント図・データフロー・STRIDE分析
コード品質 標準 本番級:型ヒント・非同期・構造化ロギング・Resultモナド
トレードオフ分析 なし 複数アプローチ比較+選択理由の明示

読み込み

# Claudeレベルのデータセット
ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")
print(len(ds))  # 30000
print(ds[0]["output"][:100])  # CoT開始

ファインチューニング

from datasets import load_dataset

ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")

train_data = []
for r in ds:
    messages = [
        {"role": "user", "content": r["instruction"] + "\n" + r["input"]},
        {"role": "assistant", "content": r["output"]},
    ]
    train_data.append({"messages": messages})

カスタム生成

pip install numpy
python3 coding_excellence_ja_claude_generator.py --records 30000 --output my_claude.jsonl --seed 42

📝 ライセンス

AGPL-3.0

🙏 クレジット