Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,23 @@
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
| 4 |
+
## このデータセットはLLMのfine-tuningにおける、**「初期化(initialize)」**を目的としたものです。
|
| 5 |
+
### データのレコード数は300件程度しかありません。
|
| 6 |
+
|
| 7 |
+
|
| 8 |
+
## 目的：非日本語で最適化されたLLMをFine-tuningで日本語を使いこなせるようにするための「DS群」
|
| 9 |
+
### (注意1：あくまで著者個人のテスト用です。DSを使うのは自由ですが、自己責任で・・・。)
|
| 10 |
+
### (注意２：代替10エポックの「初期化」のために使うことを考えています。)
|
| 11 |
+
|
| 12 |
+
## 使い方：
|
| 13 |
+
##(1) 以下の3種のデータセットを「シリアルに(後述)」使用します。
|
| 14 |
+
-1. 初期化用データセット（本DS）
|
| 15 |
+
-2. 著者がdatabrick-15k-jaを4分割させたものの一つ
|
| 16 |
+
-3. ユーザが準備した日本語のデータセット（本当に学習させたい情報）
|
| 17 |
+
|
| 18 |
+
##(2) ファインチューニングのシリアル学習の方案（自分で工夫してください。）
|
| 19 |
+
-1. 初期化用データセット（本DS): 10エポック程度
|
| 20 |
+
-2. 著者がdatabrick-15k-ja: 10エポック程度
|
| 21 |
+
-3. 日本語のデータセット：ご自分の納得がいくまで学習させてください。
|
| 22 |
+
|
| 23 |
+
詳しい情報は[こちらのブログ](https://jpnqeur23lmqsw.blogspot.com/2023/09/qeur23llmdss10-databricks15k.html)を参照してください。
|