|
|
--- |
|
|
license: mit |
|
|
task_categories: |
|
|
- text-generation |
|
|
- fill-mask |
|
|
language: |
|
|
- zh |
|
|
tags: |
|
|
- java |
|
|
- spring-boot |
|
|
- code-completion |
|
|
- peft |
|
|
- lora |
|
|
- qlora |
|
|
- code-dataset |
|
|
- instruction-tuning |
|
|
pretty_name: SpringBoot-Code-Completion-Dataset-zh |
|
|
size_categories: |
|
|
- 100K<n<1M |
|
|
--- |
|
|
# Spring Boot Code Completion Dataset |
|
|
|
|
|
## 概述 |
|
|
这是一个专为 Spring Boot 框架代码补全任务设计的中文优先数据集。通过从 GitHub 上 90 个高质量开源 Spring Boot 项目中提取方法级、类级代码片段及配置文件，构建而成。数据集重点突出 Spring Boot 典型特征（注解驱动、依赖注入、配置绑定等），适用于参数高效微调（PEFT，如 LoRA/QLoRA）下的代码生成研究。 |
|
|
|
|
|
## 数据集统计 |
|
|
- **总样本数**：81,085 条 |
|
|
- **训练集**：64,868 条 |
|
|
- **验证集**：8,108 条 |
|
|
- **测试集**：8,109 条 |
|
|
- **优先级 2 样本数**（含典型 Spring Boot 特征，如 @RestController、@Service、@Entity 等）：19,740 条 |
|
|
- **优先级 2 占比**：24.34% |
|
|
|
|
|
## 数据格式（Alpaca 风格） |
|
|
每条数据为 JSON 对象，包含以下字段： |
|
|
```json |
|
|
{ |
|
|
"instruction": "请在Spring Boot框架中完成以下Java代码" 或 "请完成以下Java代码", |
|
|
"input": "代码前缀（prefix）", |
|
|
"output": "代码补全部分（completion）", |
|
|
"source_file": "原始文件路径", |
|
|
"priority": 1 或 2 // 2 表示含有 Spring Boot 典型特征 |
|
|
} |
|
|
提取与清洗流程 |
|
|
|
|
|
从 GitHub 采集 90 个典型 Spring Boot 项目 |
|
|
使用 javalang 进行 AST 解析，提取方法/类级代码片段及 application 配置 |
|
|
多维度 Spring Boot 特征检测（注解、接口实现、包路径、类名后缀等）标记 priority |
|
|
清洗：精确 MD5 去重 + SentenceTransformer + FAISS 相似度去重（阈值 0.95）+ priority 2 优先保护 |
|
|
长度过滤：input > 50 字符，output > 20 字符 |
|
|
划分：80% 训练 / 10% 验证 / 10% 测试 |
|
|
|
|
|
使用方式 |
|
|
Pythonfrom datasets import load_dataset |
|
|
|
|
|
dataset = load_dataset("您的用户名/springboot-code-completion-dataset") |
|
|
# 或指定子集 |
|
|
train = dataset["train"] |
|
|
许可 |
|
|
本数据集仅限学术研究与非商业用途使用。原始代码来源于 GitHub 开源项目，请遵守各项目原许可协议。 |
|
|
引用 |
|
|
如果在论文中使用，请引用本仓库： |
|
|
text@misc{唯一2026-springboot-dataset, |
|
|
author = {唯一}, |
|
|
title = {Spring Boot Code Completion Dataset}, |
|
|
year = {2026}, |
|
|
publisher = {Hugging Face}, |
|
|
howpublished = {\url{https://huggingface.co/datasets/您的用户名/springboot-code-completion-dataset}} |
|
|
} |
|
|
欢迎反馈与合作！ |
