Erase unnatural whitespace and correct OCR errors
#2
by
sudy-super
- opened
.gitattributes
CHANGED
|
@@ -58,5 +58,3 @@ j_researchcorpus_20240215.jsonl filter=lfs diff=lfs merge=lfs -text
|
|
| 58 |
j_researchcorpus_20240220.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 59 |
j_researchcorpus_20240224.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 60 |
j_researchcorpus_20240225.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 61 |
-
j_researchcorpus_20240306.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 62 |
-
j_researchcorpus_20240316.jsonl filter=lfs diff=lfs merge=lfs -text
|
|
|
|
| 58 |
j_researchcorpus_20240220.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 59 |
j_researchcorpus_20240224.jsonl filter=lfs diff=lfs merge=lfs -text
|
| 60 |
j_researchcorpus_20240225.jsonl filter=lfs diff=lfs merge=lfs -text
|
|
|
|
|
|
README.md
CHANGED
|
@@ -9,14 +9,12 @@ language:
|
|
| 9 |
# J-ResearchCorpus
|
| 10 |
|
| 11 |
**Update:**
|
| 12 |
-
- 2024/3/16
|
| 13 |
-
言語処理学会第30回年次大会(NLP2024)を含む、論文 1,343 本のデータを追加
|
| 14 |
- 2024/2/25
|
| 15 |
言語処理学会誌「自然言語処理」のうち CC-BY-4.0 で公開されている論文 360 本のデータを追加
|
| 16 |
|
| 17 |
|
| 18 |
## 概要
|
| 19 |
-
- CC-BY-*
|
| 20 |
- 今後も CC-BY-* ライセンスの日本語論文があれば追加する予定です。
|
| 21 |
|
| 22 |
## データ説明
|
|
@@ -28,16 +26,15 @@ language:
|
|
| 28 |
|
| 29 |
## データソース・ライセンス
|
| 30 |
|
| 31 |
-
- **テキスト総文字数 : 約
|
| 32 |
|
| 33 |
|data source|num records|license|note|
|
| 34 |
|:----|:----|:----|:----|
|
| 35 |
-
|言語処理学会 年次大会発表論文集アーカイブ|1,
|
| 36 |
|言語処理学会誌「自然言語処理」|363|cc-by-4.0|・CC-BY-4.0公開となっている2009年以降のものを抜粋|
|
| 37 |
|東京女子医科大学雑誌|96|cc-by-4.0| |
|
| 38 |
|リスク研究(日本リスク学会)|100|cc-by-4.0| |
|
| 39 |
|日本熱電学会誌|11|cc-by-4.0| |
|
| 40 |
-
|デジタルアーカイブ学会誌|744|cc-by-4.0| |
|
| 41 |
|
| 42 |
|
| 43 |
## テキスト抽出例
|
|
|
|
| 9 |
# J-ResearchCorpus
|
| 10 |
|
| 11 |
**Update:**
|
|
|
|
|
|
|
| 12 |
- 2024/2/25
|
| 13 |
言語処理学会誌「自然言語処理」のうち CC-BY-4.0 で公開されている論文 360 本のデータを追加
|
| 14 |
|
| 15 |
|
| 16 |
## 概要
|
| 17 |
+
- CC-BY-* ライセンスで公開されている日本語論文や学会誌等から抜粋した良質なテキストのデータセットです。言語モデルの事前学習や RAG 等でご活用下さい。
|
| 18 |
- 今後も CC-BY-* ライセンスの日本語論文があれば追加する予定です。
|
| 19 |
|
| 20 |
## データ説明
|
|
|
|
| 26 |
|
| 27 |
## データソース・ライセンス
|
| 28 |
|
| 29 |
+
- **テキスト総文字数 : 約 2,800 万文字**
|
| 30 |
|
| 31 |
|data source|num records|license|note|
|
| 32 |
|:----|:----|:----|:----|
|
| 33 |
+
|言語処理学会 年次大会発表論文集アーカイブ|1,325|cc-by-4.0|・2021年から2023年の論文を抜粋(※言語処理学会に確認したところ2020年以前のものは CC-BY-4.0 ではないとのこと)|
|
| 34 |
|言語処理学会誌「自然言語処理」|363|cc-by-4.0|・CC-BY-4.0公開となっている2009年以降のものを抜粋|
|
| 35 |
|東京女子医科大学雑誌|96|cc-by-4.0| |
|
| 36 |
|リスク研究(日本リスク学会)|100|cc-by-4.0| |
|
| 37 |
|日本熱電学会誌|11|cc-by-4.0| |
|
|
|
|
| 38 |
|
| 39 |
|
| 40 |
## テキスト抽出例
|
j_researchcorpus_20240316.jsonl → j_researchcorpus_20240225.jsonl
RENAMED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:fe47b0c722da19479c1981e53728a71710d736400bb3130992e26264eab25215
|
| 3 |
+
size 90893377
|