README.md

---
dataset_info:
  features:
  - name: text
    dtype: string
  splits:
  - name: train
    num_bytes: 1324350631
    num_examples: 1196655
  download_size: 801322767
  dataset_size: 1324350631
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
license: cc-by-sa-4.0
---
## アクセス方法

```python
!pip install datasets

from datasets import load_dataset

dataset = load_dataset("geniacllm/wiki40b")
```

jsonlへの変換

```python
import json

with open('your_dataset.jsonl', 'w', encoding='utf-8') as f:
    # 'train'はデータセットの特定のスプリットです。使用しているデータセットに合わせて調整してください。
    for example in dataset['train']:
        # JSON Lines形式では、各データポイントをJSON文字列に変換し、新しい行に書き出します。
        json_line = json.dumps(example) + "\n"
        f.write(json_line)
```
## データセット情報
dataset_info:
  features:
  - name: text
    dtype: string
  splits:
  - name: train
    num_bytes: 1324350631
    num_examples: 1196655
  download_size: 801322767
  dataset_size: 1324350631
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*

## citation

* https://aclanthology.org/2020.lrec-1.297.pdf