docs: add Ask-LLM description.
Browse files
README.md
CHANGED
|
@@ -7,10 +7,23 @@ language:
|
|
| 7 |
---
|
| 8 |
# CulturaY-ja-askllm-v1
|
| 9 |
|
| 10 |
-
[ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY)に対して、 Ask-LLM 手法でスコア付けしたデータセットです。
|
| 11 |
|
| 12 |
元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。
|
| 13 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 14 |
- 元データセット
|
| 15 |
- https://huggingface.co/datasets/ontocord/CulturaY
|
| 16 |
|
|
|
|
| 7 |
---
|
| 8 |
# CulturaY-ja-askllm-v1
|
| 9 |
|
| 10 |
+
多言語データセット [ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY) の日本語パート `ja` に対して、 Ask-LLM 手法でスコア付けしたデータセットです。
|
| 11 |
|
| 12 |
元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。
|
| 13 |
|
| 14 |
+
Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。
|
| 15 |
+
|
| 16 |
+
```
|
| 17 |
+
###
|
| 18 |
+
{data}
|
| 19 |
+
###
|
| 20 |
+
|
| 21 |
+
Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.
|
| 22 |
+
|
| 23 |
+
OPTIONS: yes / no
|
| 24 |
+
ANSWER:
|
| 25 |
+
```
|
| 26 |
+
|
| 27 |
- 元データセット
|
| 28 |
- https://huggingface.co/datasets/ontocord/CulturaY
|
| 29 |
|