测试数据集说明
更新日期：2023.06.14
来源
- 百度知道中有关“中国联通”的相关问答，原始数据集规模203,235条
- 通用指令数据集firefly，原始训练数据集规模1649400条
组成
| 来源 | 比例 | 条数 | 说明 |
|---|---|---|---|
| 百度知道 | 64% | 32282 | 经过脱敏、数据清洗、人工筛选等处理 |
| firefly | 36% | 18123 | 挑选了阅读、情感理解、补全、逻辑推理等主题的通用指令 |
| 标准问答 | - | 18 | 通过联通网上营业厅在线客服整理 |
| 合计 | 100% | 50423 | - |
文件目录
| 名称 | 条目比例 | token数 | 说明 |
|---|---|---|---|
| train | 85% | 4,257,817 | 训练数据集 |
| test | 10% | 464,681 | 测试数据集 - 1 |
| test_2 | 5% | 232,898 | 测试数据集 - 2 |
| train_test | 10% | 403,905 | 训练数据集中抽取的测试数据集 |