ddokbaro commited on
Commit
b8ec36e
Β·
verified Β·
1 Parent(s): 39062b6

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +151 -3
README.md CHANGED
@@ -1,3 +1,151 @@
1
- ---
2
- license: cc-by-nc-4.0
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: cc-by-nc-4.0
3
+ ---
4
+ task_categories:
5
+
6
+ text-retrieval
7
+
8
+ text-generation
9
+
10
+ summarization
11
+ language:
12
+
13
+ ko
14
+
15
+ en
16
+ tags:
17
+
18
+ kci
19
+
20
+ academic
21
+
22
+ digital-humanities
23
+
24
+ oai-pmh
25
+
26
+ bibliometrics
27
+ size_categories:
28
+
29
+ 1M<n<10M
30
+ pretty_name: KCI Metadata Archive
31
+ source_datasets:
32
+
33
+ NRF KCI
34
+ configs:
35
+
36
+ config_name: default
37
+ data_files:
38
+
39
+ split: train
40
+ path: "*.jsonl"
41
+
42
+ πŸ“š KCI Metadata Archive (2026.01 Snapshot)
43
+
44
+ **ν•œκ΅­ν•™μˆ μ§€μΈμš©μƒ‰μΈ(KCI)**에 λ“±μž¬λœ κ΅­λ‚΄ ν•™μˆ μ§€ λ…Όλ¬Έμ˜ μ„œμ§€ 정보(메타데이터)λ₯Ό μ§‘λŒ€μ„±ν•œ λ°μ΄ν„°μ…‹μž…λ‹ˆλ‹€.
45
+ λ””μ§€ν„Έ 인문학(DH), κ³„λŸ‰ μ„œμ§€ν•™, 지식 κ·Έλž˜ν”„ ꡬ좕 및 LLM의 ν•œκ΅­μ–΄ ν•™μˆ  도메인 ν•™μŠ΅ 등을 μœ„ν•΄ κ΅¬μΆ•λ˜μ—ˆμŠ΅λ‹ˆλ‹€.
46
+
47
+ Note: 이 데이터셋은 2026λ…„ 1μ›” 24일 κΈ°μ€€μ˜ μŠ€λƒ…μƒ·μž…λ‹ˆλ‹€.
48
+
49
+ πŸ“‚ Dataset Structure (데이터 ꡬ쑰)
50
+
51
+ λ°μ΄ν„°λŠ” JSONL (JSON Lines) 포맷으둜 μ œκ³΅λ˜μ–΄ λŒ€μš©λŸ‰ μ²˜λ¦¬μ— μ΅œμ ν™”λ˜μ–΄ μžˆμŠ΅λ‹ˆλ‹€.
52
+
53
+ File Information
54
+
55
+ Filename: kci_articles_20260124.jsonl
56
+
57
+ Size: μ•½ 11GB (Raw XML λ³€ν™˜λ³Έ)
58
+
59
+ Count: μ•½ 3,000,000+ 건 (μΆ”μ‚°)
60
+
61
+ Data Fields (ν•„λ“œ μ„€λͺ…)
62
+
63
+ 각 라인은 ν•˜λ‚˜μ˜ λ…Όλ¬Έ(Article) 정보λ₯Ό λ‹΄κ³  μžˆμŠ΅λ‹ˆλ‹€.
64
+
65
+ {
66
+ "id": "ART002000341", // KCI λ…Όλ¬Έ μ‹λ³„μž
67
+ "format": "oai_kci", // 원본 포맷 (oai_kci λ˜λŠ” oai_dc)
68
+ "title_ko": "κ΅­λ¬Έ λ…Όλ¬Έ 제λͺ©",
69
+ "title_en": "English Title",
70
+ "journal": {
71
+ "journal_name": "ν•™μˆ μ§€λͺ…",
72
+ "publisher": "λ°œν–‰κΈ°κ΄€",
73
+ "pub_year": "2024",
74
+ "volume": "10",
75
+ "issue": "2"
76
+ },
77
+ "authors": [ // μ €μž λͺ©λ‘ (List)
78
+ "홍길동(ν•œκ΅­λŒ€ν•™κ΅)",
79
+ "Kim, Chul-Soo(Hankuk Univ.)"
80
+ ],
81
+ "abstract_ko": "κ΅­λ¬Έ 초둝 ν…μŠ€νŠΈ...",
82
+ "abstract_en": "Abstract text...",
83
+ "keywords": "ν‚€μ›Œλ“œ1, ν‚€μ›Œλ“œ2",
84
+ "citation_count": "5", // ν”ΌμΈμš© 횟수
85
+ "doi": "10.xxxx/....", // DOI
86
+ "url": "[https://www.kci.go.kr/](https://www.kci.go.kr/)..." // KCI 원문 링크
87
+ }
88
+
89
+
90
+ πŸš€ How to Use (μ‚¬μš© 방법)
91
+
92
+ 1. Python (Hugging Face datasets 라이브러리)
93
+
94
+ κ°€μž₯ μΆ”μ²œν•˜λŠ” λ°©μ‹μž…λ‹ˆλ‹€. 슀트리밍 방식을 μ§€μ›ν•˜μ—¬ 11GBλ₯Ό ν•œ λ²ˆμ— λ‹€μš΄λ‘œλ“œν•˜μ§€ μ•Šκ³ λ„ 데이터λ₯Ό 탐색할 수 μžˆμŠ΅λ‹ˆλ‹€.
95
+
96
+ from datasets import load_dataset
97
+
98
+ # 데이터셋 뢈러였기
99
+ dataset = load_dataset("ddokbaro/KCI_data", split="train")
100
+
101
+ # 데이터 확인 (첫 5개)
102
+ for article in dataset.select(range(5)):
103
+ print(f"[{article['pub_year']}] {article['title_ko']} - {article['authors']}")
104
+
105
+
106
+ 2. Pandas (Dataframe)
107
+
108
+ import pandas as pd
109
+
110
+ # JSONL 파일 직접 λ‘œλ“œ (주의: λ©”λͺ¨λ¦¬ μš©λŸ‰ ν•„μš”)
111
+ df = pd.read_json("kci_articles_20260124.jsonl", lines=True)
112
+ print(df.head())
113
+
114
+
115
+ πŸ›  Included Scripts (μˆ˜μ§‘ 및 가곡 μ½”λ“œ)
116
+
117
+ 이 λ°μ΄ν„°μ…‹μ˜ 투λͺ…μ„±κ³Ό μž¬ν˜„μ„±μ„ μœ„ν•΄ μ‚¬μš©λœ 파이썬 슀크립트λ₯Ό ν•¨κ»˜ μ œκ³΅ν•©λ‹ˆλ‹€. Files and versions νƒ­μ—μ„œ ν™•μΈν•˜μ‹€ 수 μžˆμŠ΅λ‹ˆλ‹€.
118
+
119
+ kci_full_download.py:
120
+
121
+ KCI OAI-PMH μ„œλ²„μ—μ„œ Raw XML 데이터λ₯Ό μˆ˜μ§‘ν•˜λŠ” ν¬λ‘€λŸ¬μž…λ‹ˆλ‹€.
122
+
123
+ λ„€νŠΈμ›Œν¬ 쀑단 μ‹œ μžλ™ 이어받기(Resume) κΈ°λŠ₯을 μ§€μ›ν•©λ‹ˆλ‹€.
124
+
125
+ kci_xml_to_jsonl.py:
126
+
127
+ μˆ˜μ§‘λœ 2λ§Œμ—¬ 개의 XML νŒŒμΌμ„ νŒŒμ‹±ν•˜μ—¬ ν•˜λ‚˜μ˜ JSONL 파일둜 λ³€ν™˜ν•©λ‹ˆλ‹€.
128
+
129
+ oai_kci(상세)와 oai_dc(κΈ°λ³Έ) 포맷을 λͺ¨λ‘ μ§€μ›ν•˜λŠ” ν•˜μ΄λΈŒλ¦¬λ“œ νŒŒμ„œμž…λ‹ˆλ‹€.
130
+
131
+ βš–οΈ License & Disclaimer
132
+
133
+ License
134
+
135
+ Dataset: CC BY-NC 4.0 (μ €μž‘μžν‘œμ‹œ-λΉ„μ˜λ¦¬)
136
+
137
+ Scripts: MIT License
138
+
139
+ Disclaimer (λ©΄μ±… μ‘°ν•­)
140
+
141
+ λ³Έ 데이터셋에 ν¬ν•¨λœ λ…Όλ¬Έμ˜ 제λͺ©, 초둝, μ €μžλͺ… λ“± μ›μ²œ λ©”νƒ€λ°μ΄ν„°μ˜ μ €μž‘κΆŒ 및 μ§€μ μž¬μ‚°κΆŒμ€ ν•œκ΅­μ—°κ΅¬μž¬λ‹¨(NRF), 각 ν•™μˆ  단체 및 μ €μžμ—κ²Œ μžˆμŠ΅λ‹ˆλ‹€.
142
+
143
+ 이 데이터셋은 ν•™μˆ  연ꡬ λͺ©μ μ„ μœ„ν•΄ νλ ˆμ΄μ…˜λœ 2μ°¨ μ €μž‘λ¬Όμž…λ‹ˆλ‹€.
144
+
145
+ 상업적 λͺ©μ (예: μ›μ²œ 데이터 판맀)으둜 μ΄μš©ν•  수 μ—†μŠ΅λ‹ˆλ‹€.
146
+
147
+ πŸ‘€ Maintainer
148
+
149
+ Prof. Kim Ba-ro (κΉ€λ°”λ‘œ)
150
+
151
+ The Academy of Korean Studies (ν•œκ΅­ν•™μ€‘μ•™μ—°κ΅¬μ›)