Datasets:

Modalities:
Tabular
Text
Formats:
json
ArXiv:
Libraries:
Datasets
Dask
License:
susumuota commited on
Commit
8f5bd2a
·
verified ·
1 Parent(s): 728c942

docs: add Ask-LLM description.

Browse files
Files changed (1) hide show
  1. README.md +14 -1
README.md CHANGED
@@ -7,10 +7,23 @@ language:
7
  ---
8
  # CulturaY-ja-askllm-v1
9
 
10
- [ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY)に対して、 Ask-LLM 手法でスコア付けしたデータセットです。
11
 
12
  元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。
13
 
 
 
 
 
 
 
 
 
 
 
 
 
 
14
  - 元データセット
15
  - https://huggingface.co/datasets/ontocord/CulturaY
16
 
 
7
  ---
8
  # CulturaY-ja-askllm-v1
9
 
10
+ 多言語データセット [ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY) の日本語パート `ja` に対して、 Ask-LLM 手法でスコア付けしたデータセットです。
11
 
12
  元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。
13
 
14
+ Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。
15
+
16
+ ```
17
+ ###
18
+ {data}
19
+ ###
20
+
21
+ Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.
22
+
23
+ OPTIONS: yes / no
24
+ ANSWER:
25
+ ```
26
+
27
  - 元データセット
28
  - https://huggingface.co/datasets/ontocord/CulturaY
29