File size: 5,933 Bytes
88f0565 fd733d7 88f0565 fd733d7 88f0565 fd733d7 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 |
---
language:
- ja
- en
license: other
tags:
- sft
- jsonl
- openai-messages
- structured-output
- format-conversion
- information-extraction
- csv
- json
- yaml
- xml
- toml
dataset_type: jsonl
pretty_name: AppliedCourse_SFT_datasets_v5
size_categories:
- 10K<n<50K
configs:
- config_name: default
data_files:
- split: train
path: "*.jsonl"
---
# AppliedCourse_SFT_datasets_v5
本データセットは、構造化出力（CSV / JSON / XML / TOML / YAML）の相互変換および抽出タスク用の SFT 学習データです。各サンプルは OpenAI `messages` 形式（`[{role, content}, ...]`）のJSONLで提供され、assistant の出力は仕様に従うよう設計されています。
重要: 本データセットは複数の公開データソースに依拠しており、利用時は必ず下記「Sources & Terms」に記載の各ライセンス・利用規約に従ってください。
## Dataset Summary
- 目的: 構造化出力の形式変換（JSON↔YAML、JSON→CSV等）と情報抽出（CSV/XML/Text→JSONなど）を高品質に学習させる
- フォーマット: OpenAI `messages` 形式の JSONL
- 含まれる主なタスク例
- JSON↔CSV / JSON↔YAML / YAML→CSV / XML→CSV
- XML→JSON / Text→JSON / Text→YAML / Text→TOML
- JSON→XML / YAML→XML / CSV→XML / XML→YAML / TOML→JSON / YAML→TOML
- 品質設計（生成時）
- 構文検証（XML/TOML/YAML/CSV）を通過したサンプルのみ採用
- P0ガード（監督範囲ゼロを拒否）
- 重複除外、サイズ制御（行/属性/セル長）
## Supported Tasks
- text2json / text2yaml / text2toml
- format-conversion: json↔yaml, json→csv, yaml→csv, xml→csv, json→xml, yaml→xml, csv→xml, xml→yaml, toml→json, yaml→toml
- information-extraction: csv→json, xml→json, text→json
## Languages
- 日本語 / 英語（タスク指示は英語が中心）
## Dataset Structure
- ファイル: `*.jsonl`（train split 想定）
- 1行 = 1サンプル（OpenAI messages形式）
- 推奨カラム（JSONオブジェクトのトップレベル）
- `id`: string（安定ハッシュ）
- `category`: string（内部カテゴリ）
- `subcategory`: string（タスク名、例: `json_to_xml`）
- `task`: string（extract / transform / filter）
- `seed`: string（元データの組み合わせ/出所ヒント）
- `messages`: list of `{role: "user"|"assistant", content: str}`
### Example
```json
{
"id": "a1b2c3d4e5f6",
"category": "C_XML",
"subcategory": "json_to_xml",
"task": "transform",
"seed": "openfoodfacts:default",
"messages": [
{"role": "user", "content": "Convert the following JSON into well-formed XML...\nJSON:\n{\"items\": [{\"name\": \"A\"}, {\"name\": \"B\"}]}\n"},
{"role": "assistant", "content": "<root><items><item><name>A</name></item><item><name>B</name></item></items></root>"}
]
}
```
## Data Splits
- `train` のみ（評価に使う際はユーザー側で分割してください）
## Data Fields
- `messages[0].content` に入力の仕様・ルール・サンプルデータが含まれます
- `messages[-1].content` はフォーマット仕様に厳密に従った出力（ONLY <FORMAT>）
## Collection Process
- Hugging Face上の公開データセットから安全な列をストリーミング取得し、小規模な正規化を行った上でタスク化
- 各フォーマットの生成では、直列化ルールをプロンプトで明示
- 検証（構文/往復/属性）とP0ガードを適用
- 重複削除、形式分布のチューニングも実施
## Sources & Terms（IMPORTANT）
本データセットは下記の公開データに依拠しています。利用にあたっては各ライセンス・利用条件を遵守してください。
- OpenFoodFacts product-database
- Database: Open Database License (ODbL 1.0)
- Contents: Database Contents License (DbCL 1.0)
- Images: CC BY-SA（本データセットには画像は含みません）
- 参考: https://world.openfoodfacts.org/data
- Shopify/product-catalogue
- データセットのカードと利用条件を参照
- 参考: https://huggingface.co/datasets/Shopify/product-catalogue
- ontologicalapple/vrts-gtfs-archive
- 掲載の Open Data Terms（例: BC Transit Open Data Terms of Use）に準拠
- 参考: https://huggingface.co/datasets/ontologicalapple/vrts-gtfs-archive
注意: 本リポジトリは上記のデータを**再配布しません**。派生データ（タスク化・整形）であっても、元ライセンスの義務（帰属等）は引き続きユーザーに帰属します。
## Licensing Information
- ライセンス: `other`（上記の upstream ライセンス/規約を順守）
- 本データセットの利用に伴い、元データのライセンス条件（ODbL/DbCL/CC BY-SA 等）に従う必要があります
- 本リポジトリのファイル構成や付属のTERMS/ATTRIBUTIONは、順守事項の理解を補助するためのものです
## Intended Use
- 構造化出力タスクのSFT（CSV/JSON/XML/TOML/YAMLの変換・抽出）
- 研究・教育目的のベースライン構築
## Limitations
- 仕様が曖昧な指示に対する出力は保証されません
- 多言語・特殊文字・空値混在などの難ケースが含まれます
## How to Use
```python
from datasets import load_dataset
ds = load_dataset("daichira/AppliedCourse_SFT_datasets_v5", split="train")
print(len(ds), ds.column_names)
print(ds[0]["messages"][0]["content"])
```
## Citation
- OpenFoodFacts: https://world.openfoodfacts.org/
- Shopify/product-catalogue: https://huggingface.co/datasets/Shopify/product-catalogue
- VRTS GTFS archive: https://huggingface.co/datasets/ontologicalapple/vrts-gtfs-archive
## Contributions
Issues / PRs welcome. 上流ライセンス遵守と本データカードの更新にご協力ください。
|