Zedekiah557 commited on
Commit
4336534
·
verified ·
1 Parent(s): f3dc1f0

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +39 -0
README.md ADDED
@@ -0,0 +1,39 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - en
4
+ - py
5
+ license: mit
6
+ task_categories:
7
+ - text-generation
8
+ tags:
9
+ - code-generation
10
+ - leetcode
11
+ ---
12
+
13
+ # Cleaned HumanEval-LeetCode Dataset
14
+
15
+ ## Dataset Description
16
+ 这是一个经过预处理的 LeetCode 代码生成数据集,源自 `ShwStone/humaneval-leetcode`。
17
+
18
+ ## Data Preprocessing (清洗逻辑)
19
+ 为了直接用于大模型 SFT 训练,原始数据经过了以下清洗:
20
+ 1. **Type Hinting**: 根据代码内容,自动注入了 `typing` (List, Dict, etc.) 和 `collections` (deque, defaultdict) 的引用。
21
+ 2. **Class Removal**: 移除了 `class Solution` 外壳,将代码转换为纯函数形式。
22
+ 3. **Refactoring**: 移除了 `self` 参数,修复了缩进。
23
+ 4. **Docstring Repair**: 修复了 doctest 中的函数调用名称。
24
+
25
+ ## Data Structure
26
+ - `task_id`: 题目唯一标识符。
27
+ - `prompt`: 清洗后的完整题目描述与函数头(可直接输入给 LLM)。
28
+
29
+ ## Usage
30
+ 你可以使用 Hugging Face 的 datasets 库直接加载此数据集:
31
+
32
+ ```python
33
+ from datasets import load_dataset
34
+
35
+ # 加载清洗后的训练集
36
+ dataset = load_dataset("Zedekiah557/cleaned-humaneval-leetcode", split="train")
37
+
38
+ # 打印第一条数据
39
+ print(dataset[0])