ddokbaro commited on
Commit
1503183
Β·
verified Β·
1 Parent(s): b8ec36e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +28 -109
README.md CHANGED
@@ -1,67 +1,50 @@
1
  ---
2
  license: cc-by-nc-4.0
3
- ---
4
  task_categories:
5
-
6
- text-retrieval
7
-
8
- text-generation
9
-
10
- summarization
11
  language:
12
-
13
- ko
14
-
15
- en
16
  tags:
17
-
18
- kci
19
-
20
- academic
21
-
22
- digital-humanities
23
-
24
- oai-pmh
25
-
26
- bibliometrics
27
  size_categories:
28
-
29
- 1M<n<10M
30
  pretty_name: KCI Metadata Archive
31
  source_datasets:
32
-
33
- NRF KCI
34
  configs:
 
 
 
 
 
35
 
36
- config_name: default
37
- data_files:
38
-
39
- split: train
40
- path: "*.jsonl"
41
-
42
- πŸ“š KCI Metadata Archive (2026.01 Snapshot)
43
 
44
  **ν•œκ΅­ν•™μˆ μ§€μΈμš©μƒ‰μΈ(KCI)**에 λ“±μž¬λœ κ΅­λ‚΄ ν•™μˆ μ§€ λ…Όλ¬Έμ˜ μ„œμ§€ 정보(메타데이터)λ₯Ό μ§‘λŒ€μ„±ν•œ λ°μ΄ν„°μ…‹μž…λ‹ˆλ‹€.
45
  λ””μ§€ν„Έ 인문학(DH), κ³„λŸ‰ μ„œμ§€ν•™, 지식 κ·Έλž˜ν”„ ꡬ좕 및 LLM의 ν•œκ΅­μ–΄ ν•™μˆ  도메인 ν•™μŠ΅ 등을 μœ„ν•΄ κ΅¬μΆ•λ˜μ—ˆμŠ΅λ‹ˆλ‹€.
46
 
47
- Note: 이 데이터셋은 2026λ…„ 1μ›” 24일 κΈ°μ€€μ˜ μŠ€λƒ…μƒ·μž…λ‹ˆλ‹€.
48
-
49
- πŸ“‚ Dataset Structure (데이터 ꡬ쑰)
50
-
51
- λ°μ΄ν„°λŠ” JSONL (JSON Lines) 포맷으둜 μ œκ³΅λ˜μ–΄ λŒ€μš©λŸ‰ μ²˜λ¦¬μ— μ΅œμ ν™”λ˜μ–΄ μžˆμŠ΅λ‹ˆλ‹€.
52
-
53
- File Information
54
-
55
- Filename: kci_articles_20260124.jsonl
56
 
57
- Size: μ•½ 11GB (Raw XML λ³€ν™˜λ³Έ)
58
 
59
- Count: μ•½ 3,000,000+ 건 (μΆ”μ‚°)
60
 
61
- Data Fields (ν•„λ“œ μ„€λͺ…)
 
 
 
62
 
 
63
  각 라인은 ν•˜λ‚˜μ˜ λ…Όλ¬Έ(Article) 정보λ₯Ό λ‹΄κ³  μžˆμŠ΅λ‹ˆλ‹€.
64
 
 
65
  {
66
  "id": "ART002000341", // KCI λ…Όλ¬Έ μ‹λ³„μž
67
  "format": "oai_kci", // 원본 포맷 (oai_kci λ˜λŠ” oai_dc)
@@ -84,68 +67,4 @@ Data Fields (ν•„λ“œ μ„€λͺ…)
84
  "citation_count": "5", // ν”ΌμΈμš© 횟수
85
  "doi": "10.xxxx/....", // DOI
86
  "url": "[https://www.kci.go.kr/](https://www.kci.go.kr/)..." // KCI 원문 링크
87
- }
88
-
89
-
90
- πŸš€ How to Use (μ‚¬μš© 방법)
91
-
92
- 1. Python (Hugging Face datasets 라이브러리)
93
-
94
- κ°€μž₯ μΆ”μ²œν•˜λŠ” λ°©μ‹μž…λ‹ˆλ‹€. 슀트리밍 방식을 μ§€μ›ν•˜μ—¬ 11GBλ₯Ό ν•œ λ²ˆμ— λ‹€μš΄λ‘œλ“œν•˜μ§€ μ•Šκ³ λ„ 데이터λ₯Ό 탐색할 수 μžˆμŠ΅λ‹ˆλ‹€.
95
-
96
- from datasets import load_dataset
97
-
98
- # 데이터셋 뢈러였기
99
- dataset = load_dataset("ddokbaro/KCI_data", split="train")
100
-
101
- # 데이터 확인 (첫 5개)
102
- for article in dataset.select(range(5)):
103
- print(f"[{article['pub_year']}] {article['title_ko']} - {article['authors']}")
104
-
105
-
106
- 2. Pandas (Dataframe)
107
-
108
- import pandas as pd
109
-
110
- # JSONL 파일 직접 λ‘œλ“œ (주의: λ©”λͺ¨λ¦¬ μš©λŸ‰ ν•„μš”)
111
- df = pd.read_json("kci_articles_20260124.jsonl", lines=True)
112
- print(df.head())
113
-
114
-
115
- πŸ›  Included Scripts (μˆ˜μ§‘ 및 가곡 μ½”λ“œ)
116
-
117
- 이 λ°μ΄ν„°μ…‹μ˜ 투λͺ…μ„±κ³Ό μž¬ν˜„μ„±μ„ μœ„ν•΄ μ‚¬μš©λœ 파이썬 슀크립트λ₯Ό ν•¨κ»˜ μ œκ³΅ν•©λ‹ˆλ‹€. Files and versions νƒ­μ—μ„œ ν™•μΈν•˜μ‹€ 수 μžˆμŠ΅λ‹ˆλ‹€.
118
-
119
- kci_full_download.py:
120
-
121
- KCI OAI-PMH μ„œλ²„μ—μ„œ Raw XML 데이터λ₯Ό μˆ˜μ§‘ν•˜λŠ” ν¬λ‘€λŸ¬μž…λ‹ˆλ‹€.
122
-
123
- λ„€νŠΈμ›Œν¬ 쀑단 μ‹œ μžλ™ 이어받기(Resume) κΈ°λŠ₯을 μ§€μ›ν•©λ‹ˆλ‹€.
124
-
125
- kci_xml_to_jsonl.py:
126
-
127
- μˆ˜μ§‘λœ 2λ§Œμ—¬ 개의 XML νŒŒμΌμ„ νŒŒμ‹±ν•˜μ—¬ ν•˜λ‚˜μ˜ JSONL 파일둜 λ³€ν™˜ν•©λ‹ˆλ‹€.
128
-
129
- oai_kci(상세)와 oai_dc(κΈ°λ³Έ) 포맷을 λͺ¨λ‘ μ§€μ›ν•˜λŠ” ν•˜μ΄λΈŒλ¦¬λ“œ νŒŒμ„œμž…λ‹ˆλ‹€.
130
-
131
- βš–οΈ License & Disclaimer
132
-
133
- License
134
-
135
- Dataset: CC BY-NC 4.0 (μ €μž‘μžν‘œμ‹œ-λΉ„μ˜λ¦¬)
136
-
137
- Scripts: MIT License
138
-
139
- Disclaimer (λ©΄μ±… μ‘°ν•­)
140
-
141
- λ³Έ 데이터셋에 ν¬ν•¨λœ λ…Όλ¬Έμ˜ 제λͺ©, 초둝, μ €μžλͺ… λ“± μ›μ²œ λ©”νƒ€λ°μ΄ν„°μ˜ μ €μž‘κΆŒ 및 μ§€μ μž¬μ‚°κΆŒμ€ ν•œκ΅­μ—°κ΅¬μž¬λ‹¨(NRF), 각 ν•™μˆ  단체 및 μ €μžμ—κ²Œ μžˆμŠ΅λ‹ˆλ‹€.
142
-
143
- 이 데이터셋은 ν•™μˆ  연ꡬ λͺ©μ μ„ μœ„ν•΄ νλ ˆμ΄μ…˜λœ 2μ°¨ μ €μž‘λ¬Όμž…λ‹ˆλ‹€.
144
-
145
- 상업적 λͺ©μ (예: μ›μ²œ 데이터 판맀)으둜 μ΄μš©ν•  수 μ—†μŠ΅λ‹ˆλ‹€.
146
-
147
- πŸ‘€ Maintainer
148
-
149
- Prof. Kim Ba-ro (κΉ€λ°”λ‘œ)
150
-
151
- The Academy of Korean Studies (ν•œκ΅­ν•™μ€‘μ•™μ—°κ΅¬μ›)
 
1
  ---
2
  license: cc-by-nc-4.0
 
3
  task_categories:
4
+ - text-retrieval
5
+ - text-generation
6
+ - summarization
 
 
 
7
  language:
8
+ - ko
9
+ - en
 
 
10
  tags:
11
+ - kci
12
+ - academic
13
+ - digital-humanities
14
+ - oai-pmh
15
+ - bibliometrics
 
 
 
 
 
16
  size_categories:
17
+ - 1M<n<10M
 
18
  pretty_name: KCI Metadata Archive
19
  source_datasets:
20
+ - NRF KCI
 
21
  configs:
22
+ - config_name: default
23
+ data_files:
24
+ - split: train
25
+ path: "*.jsonl"
26
+ ---
27
 
28
+ # πŸ“š KCI Metadata Archive (2026.01 Snapshot)
 
 
 
 
 
 
29
 
30
  **ν•œκ΅­ν•™μˆ μ§€μΈμš©μƒ‰μΈ(KCI)**에 λ“±μž¬λœ κ΅­λ‚΄ ν•™μˆ μ§€ λ…Όλ¬Έμ˜ μ„œμ§€ 정보(메타데이터)λ₯Ό μ§‘λŒ€μ„±ν•œ λ°μ΄ν„°μ…‹μž…λ‹ˆλ‹€.
31
  λ””μ§€ν„Έ 인문학(DH), κ³„λŸ‰ μ„œμ§€ν•™, 지식 κ·Έλž˜ν”„ ꡬ좕 및 LLM의 ν•œκ΅­μ–΄ ν•™μˆ  도메인 ν•™μŠ΅ 등을 μœ„ν•΄ κ΅¬μΆ•λ˜μ—ˆμŠ΅λ‹ˆλ‹€.
32
 
33
+ > **Note:** 이 데이터셋은 2026λ…„ 1μ›” 24일 κΈ°μ€€μ˜ μŠ€λƒ…μƒ·μž…λ‹ˆλ‹€.
 
 
 
 
 
 
 
 
34
 
35
+ ## πŸ“‚ Dataset Structure (데이터 ꡬ쑰)
36
 
37
+ λ°μ΄ν„°λŠ” **JSONL (JSON Lines)** 포맷으둜 μ œκ³΅λ˜μ–΄ λŒ€μš©λŸ‰ μ²˜λ¦¬μ— μ΅œμ ν™”λ˜μ–΄ μžˆμŠ΅λ‹ˆλ‹€.
38
 
39
+ ### File Information
40
+ * **Filename:** `kci_articles_20260124.jsonl`
41
+ * **Size:** μ•½ 11GB (Raw XML λ³€ν™˜λ³Έ)
42
+ * **Count:** μ•½ 3,000,000+ 건 (μΆ”μ‚°)
43
 
44
+ ### Data Fields (ν•„λ“œ μ„€λͺ…)
45
  각 라인은 ν•˜λ‚˜μ˜ λ…Όλ¬Έ(Article) 정보λ₯Ό λ‹΄κ³  μžˆμŠ΅λ‹ˆλ‹€.
46
 
47
+ ```json
48
  {
49
  "id": "ART002000341", // KCI λ…Όλ¬Έ μ‹λ³„μž
50
  "format": "oai_kci", // 원본 포맷 (oai_kci λ˜λŠ” oai_dc)
 
67
  "citation_count": "5", // ν”ΌμΈμš© 횟수
68
  "doi": "10.xxxx/....", // DOI
69
  "url": "[https://www.kci.go.kr/](https://www.kci.go.kr/)..." // KCI 원문 링크
70
+ }