| | --- |
| | license: odc-by |
| | configs: |
| | - config_name: default |
| | data_files: |
| | - split: train |
| | path: data/train-* |
| | dataset_info: |
| | features: |
| | - name: text |
| | dtype: string |
| | - name: timestamp |
| | dtype: int64 |
| | - name: url |
| | dtype: string |
| | - name: score |
| | dtype: int64 |
| | splits: |
| | - name: train |
| | num_bytes: 5152049 |
| | num_examples: 501 |
| | download_size: 2669350 |
| | dataset_size: 5152049 |
| | --- |
| | |
| |
|
| | このデータセットはmC4の日本語データに対し、文の割合に応じて1~5段階で人手で評価したものです。 |
| | 文の割合はデータセットの```score```に格納しています。 |
| | 1. 文の割合が20%以下 |
| | 2. 文の割合が20~40% |
| | 3. 文の割合が40~60% |
| | 4. 文の割合が60~80% |
| | 5. 文の割合が80~100% |
| |
|
| | データ量は500件と少ないですが、mC4のゴミデータ削除に役立てればと思います。 |
