Datasets:
update README (#8)
Browse files
README.md
CHANGED
|
@@ -31,3 +31,159 @@ metrics:
|
|
| 31 |
# Dataset Card for JSNLI
|
| 32 |
|
| 33 |
[](https://github.com/shunk031/huggingface-datasets_jsnli/actions/workflows/ci.yaml)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 31 |
# Dataset Card for JSNLI
|
| 32 |
|
| 33 |
[](https://github.com/shunk031/huggingface-datasets_jsnli/actions/workflows/ci.yaml)
|
| 34 |
+
|
| 35 |
+
## Table of Contents
|
| 36 |
+
- [Table of Contents](#table-of-contents)
|
| 37 |
+
- [Dataset Description](#dataset-description)
|
| 38 |
+
- [Dataset Summary](#dataset-summary)
|
| 39 |
+
- [Dataset Preprocessing](#dataset-preprocessing)
|
| 40 |
+
- [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
|
| 41 |
+
- [Languages](#languages)
|
| 42 |
+
- [Dataset Structure](#dataset-structure)
|
| 43 |
+
- [Data Instances](#data-instances)
|
| 44 |
+
- [Data Fields](#data-fields)
|
| 45 |
+
- [Data Splits](#data-splits)
|
| 46 |
+
- [Dataset Creation](#dataset-creation)
|
| 47 |
+
- [Curation Rationale](#curation-rationale)
|
| 48 |
+
- [Source Data](#source-data)
|
| 49 |
+
- [Annotations](#annotations)
|
| 50 |
+
- [Personal and Sensitive Information](#personal-and-sensitive-information)
|
| 51 |
+
- [Considerations for Using the Data](#considerations-for-using-the-data)
|
| 52 |
+
- [Social Impact of Dataset](#social-impact-of-dataset)
|
| 53 |
+
- [Discussion of Biases](#discussion-of-biases)
|
| 54 |
+
- [Other Known Limitations](#other-known-limitations)
|
| 55 |
+
- [Additional Information](#additional-information)
|
| 56 |
+
- [Dataset Curators](#dataset-curators)
|
| 57 |
+
- [Licensing Information](#licensing-information)
|
| 58 |
+
- [Citation Information](#citation-information)
|
| 59 |
+
- [Contributions](#contributions)
|
| 60 |
+
|
| 61 |
+
## Dataset Description
|
| 62 |
+
|
| 63 |
+
- Homepage: https://nlp.ist.i.kyoto-u.ac.jp/?%E6%97%A5%E6%9C%AC%E8%AA%9ESNLI%28JSNLI%29%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88
|
| 64 |
+
- Repository: https://github.com/shunk031/huggingface-datasets_jsnli
|
| 65 |
+
|
| 66 |
+
### Dataset Summary
|
| 67 |
+
|
| 68 |
+
[日本語 SNLI(JSNLI) データセット - KUROHASHI-CHU-MURAWAKI LAB](https://nlp.ist.i.kyoto-u.ac.jp/?%E6%97%A5%E6%9C%AC%E8%AA%9ESNLI%28JSNLI%29%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88 ) より:
|
| 69 |
+
|
| 70 |
+
> 本データセットは自然言語推論 (NLI) の標準的ベンチマークである [SNLI](https://nlp.stanford.edu/projects/snli/) を日本語に翻訳したものです。
|
| 71 |
+
|
| 72 |
+
### Dataset Preprocessing
|
| 73 |
+
|
| 74 |
+
### Supported Tasks and Leaderboards
|
| 75 |
+
|
| 76 |
+
### Languages
|
| 77 |
+
|
| 78 |
+
注釈はすべて日本語を主要言語としています。
|
| 79 |
+
|
| 80 |
+
## Dataset Structure
|
| 81 |
+
|
| 82 |
+
> データセットは TSV フォーマットで、各行がラベル、前提、仮説の三つ組を表します。前提、仮説は JUMAN++ によって形態素分割されています。以下に例をあげます。
|
| 83 |
+
|
| 84 |
+
```
|
| 85 |
+
entailment 自転車 で 2 人 の 男性 が レース で 競い ます 。 人々 は 自転車 に 乗って います 。
|
| 86 |
+
```
|
| 87 |
+
|
| 88 |
+
### Data Instances
|
| 89 |
+
|
| 90 |
+
```python
|
| 91 |
+
from datasets import load_dataset
|
| 92 |
+
load_dataset("shunk031/jsnli", "without-filtering")
|
| 93 |
+
```
|
| 94 |
+
|
| 95 |
+
```json
|
| 96 |
+
{
|
| 97 |
+
'label': 'neutral',
|
| 98 |
+
'premise': 'ガレージ で 、 壁 に ナイフ を 投げる 男 。',
|
| 99 |
+
'hypothesis': '男 は 魔法 の ショー の ため に ナイフ を 投げる 行為 を 練習 して い ます 。'
|
| 100 |
+
}
|
| 101 |
+
```
|
| 102 |
+
|
| 103 |
+
### Data Fields
|
| 104 |
+
|
| 105 |
+
### Data Splits
|
| 106 |
+
|
| 107 |
+
| name | train | validation |
|
| 108 |
+
|-------------------|--------:|-----------:|
|
| 109 |
+
| without-filtering | 548,014 | 3,916 |
|
| 110 |
+
| with-filtering | 533,005 | 3,916 |
|
| 111 |
+
|
| 112 |
+
## Dataset Creation
|
| 113 |
+
|
| 114 |
+
### Curation Rationale
|
| 115 |
+
|
| 116 |
+
### Source Data
|
| 117 |
+
|
| 118 |
+
#### Initial Data Collection and Normalization
|
| 119 |
+
|
| 120 |
+
#### Who are the source language producers?
|
| 121 |
+
|
| 122 |
+
### Annotations
|
| 123 |
+
|
| 124 |
+
#### Annotation process
|
| 125 |
+
|
| 126 |
+
> SNLI に機械翻訳を適用した後、評価データにクラウドソーシングによる正確なフィルタリング、学習データに計算機による自動フィルタリングを施すことで構築されています。
|
| 127 |
+
> データセットは学習データを全くフィルタリングしていないものと、フィルタリングした中で最も精度が高かったものの 2 種類を公開しています。データサイズは、フィルタリング前の学習データが 548,014 ペア、フィルタリング後の学習データが 533,005 ペア、評価データは 3,916 ペアです。詳細は参考文献を参照してください。
|
| 128 |
+
|
| 129 |
+
#### Who are the annotators?
|
| 130 |
+
|
| 131 |
+
### Personal and Sensitive Information
|
| 132 |
+
|
| 133 |
+
## Considerations for Using the Data
|
| 134 |
+
|
| 135 |
+
### Social Impact of Dataset
|
| 136 |
+
|
| 137 |
+
### Discussion of Biases
|
| 138 |
+
|
| 139 |
+
### Other Known Limitations
|
| 140 |
+
|
| 141 |
+
## Additional Information
|
| 142 |
+
|
| 143 |
+
> 本データセットに関するご質問は nl-resource あっと nlp.ist.i.kyoto-u.ac.jp 宛にお願いいたします。
|
| 144 |
+
|
| 145 |
+
### Dataset Curators
|
| 146 |
+
|
| 147 |
+
### Licensing Information
|
| 148 |
+
|
| 149 |
+
> このデータセットのライセンスは、SNLI のライセンスと同じ [CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/) に従います。SNLI に関しては参考文献を参照してください。
|
| 150 |
+
|
| 151 |
+
### Citation Information
|
| 152 |
+
|
| 153 |
+
```bibtex
|
| 154 |
+
@article{吉越卓見 2020 機械翻訳を用いた自然言語推論データセットの多言語化,
|
| 155 |
+
title={機械翻訳を用いた自然言語推論データセットの多言語化},
|
| 156 |
+
author={吉越卓見 and 河原大輔 and 黒橋禎夫 and others},
|
| 157 |
+
journal={研究報��自然言語処理 (NL)},
|
| 158 |
+
volume={2020},
|
| 159 |
+
number={6},
|
| 160 |
+
pages={1--8},
|
| 161 |
+
year={2020}
|
| 162 |
+
}
|
| 163 |
+
```
|
| 164 |
+
|
| 165 |
+
```bibtex
|
| 166 |
+
@inproceedings{bowman2015large,
|
| 167 |
+
title={A large annotated corpus for learning natural language inference},
|
| 168 |
+
author={Bowman, Samuel and Angeli, Gabor and Potts, Christopher and Manning, Christopher D},
|
| 169 |
+
booktitle={Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing},
|
| 170 |
+
pages={632--642},
|
| 171 |
+
year={2015}
|
| 172 |
+
}
|
| 173 |
+
```
|
| 174 |
+
|
| 175 |
+
```bibtex
|
| 176 |
+
@article{young2014image,
|
| 177 |
+
title={From image descriptions to visual denotations: New similarity metrics for semantic inference over event descriptions},
|
| 178 |
+
author={Young, Peter and Lai, Alice and Hodosh, Micah and Hockenmaier, Julia},
|
| 179 |
+
journal={Transactions of the Association for Computational Linguistics},
|
| 180 |
+
volume={2},
|
| 181 |
+
pages={67--78},
|
| 182 |
+
year={2014},
|
| 183 |
+
publisher={MIT Press}
|
| 184 |
+
}
|
| 185 |
+
```
|
| 186 |
+
|
| 187 |
+
### Contributions
|
| 188 |
+
|
| 189 |
+
JSNLI データセットを公開してくださった吉越 卓見さま,河原 大輔さま,黒橋 禎夫さまに心から感謝します。
|