Update README.md
Browse files
README.md
CHANGED
|
@@ -7,7 +7,7 @@ license: apache-2.0
|
|
| 7 |
|
| 8 |
## 训练数据集说明
|
| 9 |
|
| 10 |
-
以下是我们使用的加减法训练数据类型,共包含 30000587 条单轮加减法 QA 数据,共 1B(1014434168) token。
|
| 11 |
|
| 12 |
|数据文件名| 数据条数| 数据说明|示例|
|
| 13 |
|--------------|----------|------------------------------------|-----------|
|
|
@@ -37,9 +37,9 @@ license: apache-2.0
|
|
| 37 |
|
| 38 |
## 测试集说明
|
| 39 |
|
| 40 |
-
我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位,
|
| 41 |
|
| 42 |
-
此处的概率为粗略估计,且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
|
| 43 |
|
| 44 |
### 数据生成脚本
|
| 45 |
|
|
@@ -51,6 +51,6 @@ license: apache-2.0
|
|
| 51 |
|
| 52 |
### 测试脚本
|
| 53 |
|
| 54 |
-
测试脚本文件为 `Test.ipynb`,
|
| 55 |
|
| 56 |
-
使用时,只需要修改输入路径 `INPUT_FOLDER_PATH` 和输出路径 `OUTPUT_FOLDER_PATH`即可。
|
|
|
|
| 7 |
|
| 8 |
## 训练数据集说明
|
| 9 |
|
| 10 |
+
以下是我们使用的加减法训练数据类型,共包含 30000587 条单轮加减法 QA 数据,共 1B(1014434168) token。
|
| 11 |
|
| 12 |
|数据文件名| 数据条数| 数据说明|示例|
|
| 13 |
|--------------|----------|------------------------------------|-----------|
|
|
|
|
| 37 |
|
| 38 |
## 测试集说明
|
| 39 |
|
| 40 |
+
我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位,存在的数字组合数量超过 10 的 36 次方,我们的训练集数据条数为 30000587,测试集为 6691 条,测试集和训练集出现至少 1 条重复数据的概率小于 0.00002%,可以保证测试集和训练集基本无重复。
|
| 41 |
|
| 42 |
+
**⚠️ 注意**:此处的概率为粗略估计,且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
|
| 43 |
|
| 44 |
### 数据生成脚本
|
| 45 |
|
|
|
|
| 51 |
|
| 52 |
### 测试脚本
|
| 53 |
|
| 54 |
+
测试脚本文件为 `Test.ipynb`,此脚本用于测试一个文件夹中的全部 jsonl 文件。它将模型的输出和测试数据的 `Assistant` 部分进行比较,以确认回答是否正确。
|
| 55 |
|
| 56 |
+
使用时,只需要修改输入路径 `INPUT_FOLDER_PATH` 和输出路径 `OUTPUT_FOLDER_PATH` 即可。
|