DataPilot
commited on
x2
Browse files
README.md
CHANGED
|
@@ -4,11 +4,11 @@ inference: false
|
|
| 4 |
language: ja
|
| 5 |
---
|
| 6 |
|
| 7 |
-
|
| 8 |
|
| 9 |
-
「LOCAL AI HACKATHON」における、チームDataPilot
|
| 10 |
|
| 11 |
-
##how to use
|
| 12 |
|
| 13 |
```python
|
| 14 |
import torch
|
|
@@ -40,16 +40,16 @@ print(text)
|
|
| 40 |
|
| 41 |
```
|
| 42 |
|
| 43 |
-
|
| 44 |
|
| 45 |
ユニグラム言語モデルとバイトフォールバックを備えたセンテンスピーストークナイザー(sentencepiece tokenizer)を使用します。日本語トークナイザーによる事前トークン化は適用されません。したがって、ユーザーは生の文をトークナイザーに直接フィードできます。
|
| 46 |
|
| 47 |
-
|
| 48 |
|
| 49 |
当LLMはオープンソースソフトウェアです。詳しくは下記のリンクをご覧ください。
|
| 50 |
https://www.apache.org/licenses/LICENSE-2.0
|
| 51 |
|
| 52 |
-
|
| 53 |
|
| 54 |
機材を貸していただいた Witnessさん 、このような機会を与えてくださった さるどらさん 、その他助言を与えてくださった「ローカルLLMに向き合う会」のみなさま、そしてすべてのステークホルダーの皆様に感謝を申し上げます。
|
| 55 |
|
|
|
|
| 4 |
language: ja
|
| 5 |
---
|
| 6 |
|
| 7 |
+
## 概要
|
| 8 |
|
| 9 |
+
「LOCAL AI HACKATHON」における、チームDataPilot初めての成果品です。Line社が開発した「japanese-large-lm-1.7b-instruction-sft」をウィキブックの内容をもとに地理、化学の分野でファインチューニングを行いました。
|
| 10 |
|
| 11 |
+
## how to use
|
| 12 |
|
| 13 |
```python
|
| 14 |
import torch
|
|
|
|
| 40 |
|
| 41 |
```
|
| 42 |
|
| 43 |
+
## トークン化:
|
| 44 |
|
| 45 |
ユニグラム言語モデルとバイトフォールバックを備えたセンテンスピーストークナイザー(sentencepiece tokenizer)を使用します。日本語トークナイザーによる事前トークン化は適用されません。したがって、ユーザーは生の文をトークナイザーに直接フィードできます。
|
| 46 |
|
| 47 |
+
## ライセンス：
|
| 48 |
|
| 49 |
当LLMはオープンソースソフトウェアです。詳しくは下記のリンクをご覧ください。
|
| 50 |
https://www.apache.org/licenses/LICENSE-2.0
|
| 51 |
|
| 52 |
+
## 謝辞：
|
| 53 |
|
| 54 |
機材を貸していただいた Witnessさん 、このような機会を与えてくださった さるどらさん 、その他助言を与えてくださった「ローカルLLMに向き合う会」のみなさま、そしてすべてのステークホルダーの皆様に感謝を申し上げます。
|
| 55 |
|