Datasets:
Create README.md
Browse files
README.md
ADDED
|
@@ -0,0 +1,39 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
language:
|
| 3 |
+
- en
|
| 4 |
+
- py
|
| 5 |
+
license: mit
|
| 6 |
+
task_categories:
|
| 7 |
+
- text-generation
|
| 8 |
+
tags:
|
| 9 |
+
- code-generation
|
| 10 |
+
- leetcode
|
| 11 |
+
---
|
| 12 |
+
|
| 13 |
+
# Cleaned HumanEval-LeetCode Dataset
|
| 14 |
+
|
| 15 |
+
## Dataset Description
|
| 16 |
+
这是一个经过预处理的 LeetCode 代码生成数据集,源自 `ShwStone/humaneval-leetcode`。
|
| 17 |
+
|
| 18 |
+
## Data Preprocessing (清洗逻辑)
|
| 19 |
+
为了直接用于大模型 SFT 训练,原始数据经过了以下清洗:
|
| 20 |
+
1. **Type Hinting**: 根据代码内容,自动注入了 `typing` (List, Dict, etc.) 和 `collections` (deque, defaultdict) 的引用。
|
| 21 |
+
2. **Class Removal**: 移除了 `class Solution` 外壳,将代码转换为纯函数形式。
|
| 22 |
+
3. **Refactoring**: 移除了 `self` 参数,修复了缩进。
|
| 23 |
+
4. **Docstring Repair**: 修复了 doctest 中的函数调用名称。
|
| 24 |
+
|
| 25 |
+
## Data Structure
|
| 26 |
+
- `task_id`: 题目唯一标识符。
|
| 27 |
+
- `prompt`: 清洗后的完整题目描述与函数头(可直接输入给 LLM)。
|
| 28 |
+
|
| 29 |
+
## Usage
|
| 30 |
+
你可以使用 Hugging Face 的 datasets 库直接加载此数据集:
|
| 31 |
+
|
| 32 |
+
```python
|
| 33 |
+
from datasets import load_dataset
|
| 34 |
+
|
| 35 |
+
# 加载清洗后的训练集
|
| 36 |
+
dataset = load_dataset("Zedekiah557/cleaned-humaneval-leetcode", split="train")
|
| 37 |
+
|
| 38 |
+
# 打印第一条数据
|
| 39 |
+
print(dataset[0])
|