Upload README.md with huggingface_hub
Browse files
README.md
ADDED
|
@@ -0,0 +1,89 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 🦠 微生物医学QA完整数据集 v2.1 (增强版)
|
| 2 |
+
|
| 3 |
+
## 📊 数据集概览
|
| 4 |
+
|
| 5 |
+
| 指标 | 数值 |
|
| 6 |
+
|------|------|
|
| 7 |
+
| **总数据量** | 308,971 条 |
|
| 8 |
+
| **训练集** | 278,073 条 |
|
| 9 |
+
| **验证集** | 15,448 条 |
|
| 10 |
+
| **测试集** | 15,450 条 |
|
| 11 |
+
| **文件大小** | ~330 MB |
|
| 12 |
+
|
| 13 |
+
## 📁 数据来源
|
| 14 |
+
|
| 15 |
+
### 1. LLM生成的教科书QA (15,487条)
|
| 16 |
+
高质量专业医学问答，使用Qwen-Plus从权威医学教材中提取：
|
| 17 |
+
- 热病桑福德抗微生物治疗指南: 3,350条
|
| 18 |
+
- 临床微生物学手册(上): 3,789条
|
| 19 |
+
- 临床微生物学手册(下): 3,876条
|
| 20 |
+
- 哈里森感染病学: 4,472条
|
| 21 |
+
|
| 22 |
+
### 2. CSV微生物报告分析QA (22,842条) ✨增强版
|
| 23 |
+
来自9,990份真实微生物检测报告：
|
| 24 |
+
- 物种鉴定与丰度分析
|
| 25 |
+
- 病原体检测与临床建议
|
| 26 |
+
- 菌群多样性评估
|
| 27 |
+
- **增强处理**: 去重1,183条 + 问题多样化(Qwen-Plus生成5种表述变体)
|
| 28 |
+
|
| 29 |
+
### 3. 过滤的开源医学数据 (270,642条)
|
| 30 |
+
从546K条开源数据中筛选微生物相关内容：
|
| 31 |
+
- PubMedQA: 187,403条 (英文生物医学问答)
|
| 32 |
+
- MedMCQA: 49,226条 (医学选择题)
|
| 33 |
+
- CMtMedQA: 27,377条 (中文医患对话)
|
| 34 |
+
- MedQA: 6,637条 (医学考试题)
|
| 35 |
+
|
| 36 |
+
## 🔤 数据格式
|
| 37 |
+
|
| 38 |
+
```json
|
| 39 |
+
{
|
| 40 |
+
"instruction": "问题/指令",
|
| 41 |
+
"input": "可选的上下文/选项",
|
| 42 |
+
"output": "答案/回复",
|
| 43 |
+
"source": "数据来源",
|
| 44 |
+
"category": "分类标签",
|
| 45 |
+
"data_source": "llm_textbook/csv_analysis/opensource"
|
| 46 |
+
}
|
| 47 |
+
```
|
| 48 |
+
|
| 49 |
+
## 🎯 覆盖主题
|
| 50 |
+
|
| 51 |
+
- **病原微生物**: 细菌、病毒、真菌、寄生虫
|
| 52 |
+
- **感染性疾病**: 肺炎、败血症、尿路感染等
|
| 53 |
+
- **抗微生物治疗**: 抗生素、抗病毒药、抗真菌药
|
| 54 |
+
- **耐药性**: MRSA、VRE、CRE、ESBL等
|
| 55 |
+
- **诊断技术**: 培养、PCR、mNGS、质谱
|
| 56 |
+
- **微生物组**: 肠道菌群、菌群失调
|
| 57 |
+
|
| 58 |
+
## 📦 使用方式
|
| 59 |
+
|
| 60 |
+
```python
|
| 61 |
+
from datasets import load_dataset
|
| 62 |
+
|
| 63 |
+
dataset = load_dataset('json', data_files={
|
| 64 |
+
'train': 'train.jsonl',
|
| 65 |
+
'validation': 'validation.jsonl',
|
| 66 |
+
'test': 'test.jsonl'
|
| 67 |
+
})
|
| 68 |
+
|
| 69 |
+
print(f"训练集: {len(dataset['train']):,} 条")
|
| 70 |
+
# 输出: 训练集: 279,138 条
|
| 71 |
+
```
|
| 72 |
+
|
| 73 |
+
## 🔧 生成方法
|
| 74 |
+
|
| 75 |
+
1. **LLM智能提取**: 使用Qwen-Plus对医学教材进行智能分片(500-2500字符)，自动生成高质量QA
|
| 76 |
+
2. **结构化分析**: 解析微生物检测CSV报告，生成专业分析QA
|
| 77 |
+
3. **关键词过滤**: 使用272个中英文微生物领域关键词过滤开源数据
|
| 78 |
+
|
| 79 |
+
## 📅 版本信息
|
| 80 |
+
|
| 81 |
+
- **版本**: 2.1 (增强版)
|
| 82 |
+
- **生成日期**: 2024-12-02
|
| 83 |
+
- **项目**: DeepMicroPath
|
| 84 |
+
|
| 85 |
+
## 🔄 v2.1 更新内容
|
| 86 |
+
- CSV数据去重：移除1,183条完全重复的QA对
|
| 87 |
+
- 问题多样化：使用Qwen-Plus为2个高频问题生成5种不同表述变体
|
| 88 |
+
- 问题复用率从76.9%降低，提高了数据多样性
|
| 89 |
+
|