atad-tokyo commited on
Commit
2cb414d
·
verified ·
1 Parent(s): aade4ab

Upload download_mer2025_datasets.py with huggingface_hub

Browse files
Files changed (1) hide show
  1. download_mer2025_datasets.py +42 -0
download_mer2025_datasets.py ADDED
@@ -0,0 +1,42 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ #!/usr/bin/env python
2
+ """
3
+ 使用 datasets 库下载 MERChallenge/MER2025 数据集
4
+ 需要先申请访问权限:https://huggingface.co/datasets/MERChallenge/MER2025
5
+ """
6
+
7
+ from datasets import load_dataset
8
+ import os
9
+
10
+ # 数据集名称
11
+ dataset_name = "MERChallenge/MER2025"
12
+
13
+ # 保存目录
14
+ save_dir = "/data/cxk/MER2025"
15
+
16
+ print(f"开始加载数据集: {dataset_name}")
17
+ print(f"保存到: {save_dir}")
18
+
19
+ try:
20
+ # 加载数据集
21
+ dataset = load_dataset(dataset_name)
22
+
23
+ # 保存到本地
24
+ if not os.path.exists(save_dir):
25
+ os.makedirs(save_dir)
26
+
27
+ # 保存数据集
28
+ dataset.save_to_disk(save_dir)
29
+
30
+ print(f"\n✅ 下载完成!数据集已保存到: {save_dir}")
31
+ print(f"\n数据集信息:")
32
+ print(f" - 分割: {list(dataset.keys())}")
33
+ for split_name, split_data in dataset.items():
34
+ print(f" - {split_name}: {len(split_data)} 条样本")
35
+
36
+ except Exception as e:
37
+ print(f"\n❌ 下载失败: {e}")
38
+ print("\n请确保:")
39
+ print("1. 已访问 https://huggingface.co/datasets/MERChallenge/MER2025 申请访问权限")
40
+ print("2. 访问权限已获得批准")
41
+ print("3. 已登录 Hugging Face (使用 huggingface-cli login)")
42
+