SummerMC Developer
Restructure for multi-config: default/ and claude/ subdirectories
c63f570
|
Raw
History Blame Contribute Delete
5.54 kB
---
annotations_creators:
- synthetic
language:
- ja
license:
- agpl-3.0
configs:
- config_name: default
data_files:
- split: train
path: default/train/coding_excellence_ja.jsonl
- config_name: claude
data_files:
- split: train
path: claude/train/coding_excellence_ja_claude.jsonl
---
# Coding Excellence 日本語版
Fable-5-traces のコーディング性能分布を分析し、そのパターンを**日本語**で強化注入したコード生成データセット。
## 📊 概要
| 項目 | 値 |
|------|------|
| レコード数 | **100,000** |
| 形式 | `{"instruction": "...", "input": "...", "output": "..."}` |
| ファイルサイズ | 714 MB (JSONL, LFS管理) |
| 出力平均長 | **6,697文字** (日本語CoT + コード) |
| 言語 | **日本語**(指示・思考過程・コメントすべて日本語) |
| ライセンス | AGPL-3.0 |
## 🎯 特長
- **指示・思考過程(CoT)・コードコメント**:すべて日本語で記述
- **コードは標準的な英語記法**のまま(変数名・API・キーワード)
- 日本語で「考えながらコードを書く」プロセスを学習可能
- Fable-5 の5因子を日本語話者向けに最適化
## 🧠 5つのコーディング性能因子
| # | 因子 | 説明 |
|---|------|------|
| 1 | **厚いChain-of-Thought** | 日本語で平均〜3,500文字の思考過程 |
| 2 | **自己指示・自己対話** | 「まず〜を考えます」「重要な気づき」等の内省 |
| 3 | **エラー予測と回復** | エッジケースの想定とハンドリング |
| 4 | **検証と確認** | 実装後の動作検証・品質チェック |
| 5 | **構造化コード出力** | 日本語コメント・設定・logging・export |
## 📈 コード品質指標
| 指標 | カバレッジ |
|------|-----------|
| 日本語コメント付きコード | **100%** |
| エラー処理 (try/catch/except) | **100%** |
| 設定管理 (env/config) | **100%** |
| ロギング | **100%** |
| 関数/メソッド定義 | **100%** |
## 🌐 言語分布
| 言語 | 比率 |
|------|------|
| Python | ~31% |
| JavaScript | ~25% |
| TypeScript | ~16% |
| HTML+CSS+JS | ~10% |
| Node.js/Express | ~8% |
| React | ~7% |
| Bash/Shell | ~3% |
| Go | ~2% |
## 🚀 使い方
```python
import json
# データ読み込み
with open("coding_excellence_ja.jsonl") as f:
data = [json.loads(line) for line in f]
# Hugging Face datasets で読む
from datasets import load_dataset
ds = load_dataset("summerMC/coding-excellence-ja", split="train")
# ChatML形式でファインチューニング(日本語対応モデル用)
train_data = []
for r in ds:
messages = [
{"role": "user", "content": r["instruction"] + ("\n" + r["input"] if r["input"] else "")},
{"role": "assistant", "content": r["output"]},
]
train_data.append({"messages": messages})
```
## 📋 レコード例
```json
{
"instruction": "堅牢なREST APIサーバを、包括的なエラーハンドリング、入力バリデーション、設定可能な動作とともに作成してください。",
"input": "言語: python\n要件: 設定可能な動作、堅牢なエラーハンドリング、構造化ロギング、入力バリデーション",
"output": "この実装について慎重に考えていきます。REST APIサーバを構築するにあたり...\n\n```python\nimport os\nimport sys\nimport json\nimport logging\n...\n```"
}
```
---
## 🧬 Claudeレベル版(新規)
`config_name: "claude"` で読み込める高性能版。
| 項目 | 値 |
|------|------|
| ファイル | `coding_excellence_ja_claude.jsonl` |
| レコード数 | **30,000** |
| 出力平均長 | **11,262文字**(通常版の1.7倍) |
| ファイルサイズ | 724 MB |
| 品質水準 | **Claude (Fable-5) レベル** |
### 通常版との違い
| 観点 | 通常版 | Claude版 |
|------|--------|----------|
| CoT長 | ~4,000文字 | **~7,000文字** |
| 推論段階 | 4段階 | **8段階**(問題再定義→比較→設計→エッジケース→実装→検証→振り返り) |
| 自己対話 | なし | **あり**(「待てよ…」「ここで気づいたが…」) |
| アーキテクチャ | 簡単な設計 | **コンポーネント図・データフロー・STRIDE分析** |
| コード品質 | 標準 | **本番級:型ヒント・非同期・構造化ロギング・Resultモナド** |
| トレードオフ分析 | なし | **複数アプローチ比較+選択理由の明示** |
### 読み込み
```python
# Claudeレベルのデータセット
ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")
print(len(ds)) # 30000
print(ds[0]["output"][:100]) # CoT開始
```
### ファインチューニング
```python
from datasets import load_dataset
ds = load_dataset("summerMC/coding-excellence-ja", "claude", split="train")
train_data = []
for r in ds:
messages = [
{"role": "user", "content": r["instruction"] + "\n" + r["input"]},
{"role": "assistant", "content": r["output"]},
]
train_data.append({"messages": messages})
```
### カスタム生成
```bash
pip install numpy
python3 coding_excellence_ja_claude_generator.py --records 30000 --output my_claude.jsonl --seed 42
```
## 📝 ライセンス
AGPL-3.0
## 🙏 クレジット
- [Glint-Research/Fable-5-traces](https://huggingface.co/datasets/Glint-Research/Fable-5-traces) - 元データセット
- summerMC - 分布解析・日本語化・合成生成