Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,97 @@
|
|
| 1 |
-
---
|
| 2 |
-
license: cc-by-
|
| 3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: cc-by-nc-sa-4.0
|
| 3 |
+
language:
|
| 4 |
+
- ja
|
| 5 |
+
---
|
| 6 |
+
|
| 7 |
+
# ichikara-instruction-003-sharegpt Dataset by DataPilot
|
| 8 |
+
|
| 9 |
+
## データセット概要 (Dataset Summary)
|
| 10 |
+
|
| 11 |
+
このデータセットは、[kinokokoro/ichikara-instruction-003](https://huggingface.co/datasets/kinokokoro/ichikara-instruction-003) で公開されている日本語インストラクションデータを、広く利用されている **ShareGPT形式** に変換したものです。変換および公開は **DataPilot** が行いました。
|
| 12 |
+
|
| 13 |
+
元データセットは、様々な質問に対して人間が作成した回答が含まれており、日本語の大規模言語モデル(LLM)のファインチューニングに有用です。このShareGPT形式版は、特に会話形式のデータ入力を想定したモデルの学習に適しています。
|
| 14 |
+
|
| 15 |
+
**注意:** 元データセットには、1つの質問に対して複数の回答が存在する場合があります。このShareGPT形式データセットでは、各「質問と回答のペア」を独立した一つの会話データとして扱っています。
|
| 16 |
+
|
| 17 |
+
## データ形式 (Data Format)
|
| 18 |
+
|
| 19 |
+
データはJSON Lines形式で提供され、各行が一つの会話データ(ShareGPT形式)を表します。リスト全体が単一のJSON配列として構成されています。
|
| 20 |
+
|
| 21 |
+
各会話データは以下の構造を持ちます。
|
| 22 |
+
|
| 23 |
+
```json
|
| 24 |
+
{
|
| 25 |
+
"conversations": [
|
| 26 |
+
{
|
| 27 |
+
"from": "human",
|
| 28 |
+
"value": "[ユーザーからの指示や質問 (元データの 'text' に相当)]"
|
| 29 |
+
},
|
| 30 |
+
{
|
| 31 |
+
"from": "gpt",
|
| 32 |
+
"value": "[AIの応答 (元データの 'output' に相当)]"
|
| 33 |
+
}
|
| 34 |
+
]
|
| 35 |
+
}
|
| 36 |
+
```
|
| 37 |
+
|
| 38 |
+
* `from`: 発話者を示します。"human" はユーザー、"gpt" はAIアシスタントを表します。
|
| 39 |
+
* `value`: 発話の内容(テキスト)です。
|
| 40 |
+
|
| 41 |
+
## データの内容 (Data Content)
|
| 42 |
+
|
| 43 |
+
このデータセットは、`kinokokoro/ichikara-instruction-003` に含まれる全ての質問と回答のペアを変換したものです。元データセットの構成([出典情報](http://liat-aip.sakura.ne.jp/wp/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf%e4%bd%9c%e6%88%90/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf-%e5%85%ac%e9%96%8b/)に基づく)は以下の通りです。
|
| 44 |
+
|
| 45 |
+
* **2024/12/21以前公開分:**
|
| 46 |
+
* 1質問1回答: 1729件
|
| 47 |
+
* 1質問2回答: 316質問 × 2回答 = 632件
|
| 48 |
+
* 1質問5回答: 858質問 × 5回答 = 4290件
|
| 49 |
+
* **2024/12/21公開分:**
|
| 50 |
+
* 1質問1回答: 1999件
|
| 51 |
+
|
| 52 |
+
このShareGPT形式データセットには、上記の回答ペアがそれぞれ独立した会話として含まれています。合計で **[ここに変換後の会話総数を記載]** 件の会話データが含まれます。
|
| 53 |
+
*(例: 合計で **8650** 件の会話データが含まれます。)*
|
| 54 |
+
|
| 55 |
+
## 使用方法 (How to Use)
|
| 56 |
+
|
| 57 |
+
Hugging Faceの `datasets` ライブラリを使って簡単にロードできます。
|
| 58 |
+
|
| 59 |
+
```python
|
| 60 |
+
from datasets import load_dataset
|
| 61 |
+
|
| 62 |
+
# データセットをロード
|
| 63 |
+
dataset = load_dataset("DataPilot/ichikara-instruction-003-sharegpt")
|
| 64 |
+
|
| 65 |
+
# 'train' スプリットの最初のデータを表示
|
| 66 |
+
print(dataset['train'][0])
|
| 67 |
+
# 出力例:
|
| 68 |
+
# {
|
| 69 |
+
# 'conversations': [
|
| 70 |
+
# {'from': 'human', 'value': 'ここに質問文が入ります。'},
|
| 71 |
+
# {'from': 'gpt', 'value': 'ここに回答文が入ります。'}
|
| 72 |
+
# ]
|
| 73 |
+
# }
|
| 74 |
+
```
|
| 75 |
+
|
| 76 |
+
## 元データセット情報と謝辞 (Original Dataset Information and Acknowledgements)
|
| 77 |
+
|
| 78 |
+
このデータセットは、`kinokokoro/ichikara-instruction-003` を元に作成されました。元データセットの作成と公開に関わった方々に深く感謝いたします。
|
| 79 |
+
|
| 80 |
+
* **元データセット:** [kinokokoro/ichikara-instruction-003](https://huggingface.co/datasets/kinokokoro/ichikara-instruction-003)
|
| 81 |
+
* **出典情報:** [LLMのための日本語インストラクションデータ公開](http://liat-aip.sakura.ne.jp/wp/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf%e4%bd%9c%e6%88%90/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf-%e5%85%ac%e9%96%8b/)
|
| 82 |
+
|
| 83 |
+
## ライセンス (License)
|
| 84 |
+
|
| 85 |
+
このデータセットは、元データセットのライセンスである **Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License (CC BY-NC-SA 4.0)** の下で提供されます。
|
| 86 |
+
|
| 87 |
+
ライセンスの詳細は [こちら](https://creativecommons.org/licenses/by-nc-sa/4.0/) をご確認ください。
|
| 88 |
+
|
| 89 |
+
**主な条件:**
|
| 90 |
+
|
| 91 |
+
* **表示 (Attribution):** 元の作成者のクレジットを表示する必要があります。
|
| 92 |
+
* **非営利 (NonCommercial):** 営利目的での利用は許可されていません。
|
| 93 |
+
* **継承 (ShareAlike):** このデータセットを改変、変形、加工してできた作品を配布する場合、元と同じライセンスで配布する必要があります。
|
| 94 |
+
|
| 95 |
+
## 免責事項 (Disclaimer)
|
| 96 |
+
|
| 97 |
+
DataPilotは、元データセット `kinokokoro/ichikara-instruction-003` をShareGPT形式に変換し、利用しやすくすることを目指しました。データの内容そのものに関する正確性や適切性については、元データセットの性質を引き継いでおり、DataPilotが保証するものではありません。データのご利用は、利用者の責任において行ってください。
|