KCI_data / README.md
ddokbaro's picture
Update README.md
4d16e80 verified
---
license: cc-by-nc-4.0
task_categories:
- text-retrieval
- text-generation
- summarization
language:
- ko
- en
tags:
- kci
- academic
- digital-humanities
- oai-pmh
- bibliometrics
size_categories:
- 1M<n<10M
pretty_name: KCI Metadata Archive
source_datasets:
- NRF KCI
configs:
- config_name: default
data_files:
- split: train
path: "*.jsonl"
---
# πŸ“š KCI Metadata Archive (2026.01 Snapshot)
ν•œκ΅­ν•™μˆ μ§€μΈμš©μƒ‰μΈ(KCI)에 λ“±μž¬λœ κ΅­λ‚΄ ν•™μˆ μ§€ λ…Όλ¬Έμ˜ μ„œμ§€ 정보(메타데이터)λ₯Ό μ§‘λŒ€μ„±ν•œ λ°μ΄ν„°μ…‹μž…λ‹ˆλ‹€.
λ””μ§€ν„Έ 인문학(DH), κ³„λŸ‰ μ„œμ§€ν•™, 지식 κ·Έλž˜ν”„ ꡬ좕 및 LLM의 ν•œκ΅­μ–΄ ν•™μˆ  도메인 ν•™μŠ΅ 등을 μœ„ν•΄ κ΅¬μΆ•λ˜μ—ˆμŠ΅λ‹ˆλ‹€.
> **Note:** 이 데이터셋은 2026λ…„ 1μ›” 24일 κΈ°μ€€μ˜ μŠ€λƒ…μƒ·μž…λ‹ˆλ‹€.
## πŸ“‚ Dataset Structure (데이터 ꡬ쑰)
λ°μ΄ν„°λŠ” **JSONL (JSON Lines)** 포맷으둜 μ œκ³΅λ˜μ–΄ λŒ€μš©λŸ‰ μ²˜λ¦¬μ— μ΅œμ ν™”λ˜μ–΄ μžˆμŠ΅λ‹ˆλ‹€.
### File Information
* **Filename:** `kci_articles_20260124.jsonl`
* **Size:** μ•½ 11GB (Raw XML λ³€ν™˜λ³Έ)
* **Count:** μ•½ 3,000,000+ 건 (μΆ”μ‚°)
### Data Fields (ν•„λ“œ μ„€λͺ…)
각 라인은 ν•˜λ‚˜μ˜ λ…Όλ¬Έ(Article) 정보λ₯Ό λ‹΄κ³  μžˆμŠ΅λ‹ˆλ‹€.
```json
{
"id": "ART002000341", // KCI λ…Όλ¬Έ μ‹λ³„μž
"format": "oai_kci", // 원본 포맷 (oai_kci λ˜λŠ” oai_dc)
"title_ko": "κ΅­λ¬Έ λ…Όλ¬Έ 제λͺ©",
"title_en": "English Title",
"journal": {
"journal_name": "ν•™μˆ μ§€λͺ…",
"publisher": "λ°œν–‰κΈ°κ΄€",
"pub_year": "2024",
"volume": "10",
"issue": "2"
},
"authors": [ // μ €μž λͺ©λ‘ (List)
"홍길동(ν•œκ΅­λŒ€ν•™κ΅)",
"Kim, Chul-Soo(Hankuk Univ.)"
],
"abstract_ko": "κ΅­λ¬Έ 초둝 ν…μŠ€νŠΈ...",
"abstract_en": "Abstract text...",
"keywords": "ν‚€μ›Œλ“œ1, ν‚€μ›Œλ“œ2",
"citation_count": "5", // ν”ΌμΈμš© 횟수
"doi": "10.xxxx/....", // DOI
"url": "[https://www.kci.go.kr/](https://www.kci.go.kr/)..." // KCI 원문 링크
}
## πŸš€ How to Use (μ‚¬μš© 방법)
### 1. Python (Hugging Face `datasets` 라이브러리)
κ°€μž₯ μΆ”μ²œν•˜λŠ” λ°©μ‹μž…λ‹ˆλ‹€. 슀트리밍 방식을 μ§€μ›ν•˜μ—¬ 11GBλ₯Ό ν•œ λ²ˆμ— λ‹€μš΄λ‘œλ“œν•˜μ§€ μ•Šκ³ λ„ 데이터λ₯Ό 탐색할 수 μžˆμŠ΅λ‹ˆλ‹€.
```python
from datasets import load_dataset
# 데이터셋 뢈러였기
dataset = load_dataset("ddokbaro/KCI_data", split="train")
# 데이터 확인 (첫 5개)
for article in dataset.select(range(5)):
print(f"[{article['pub_year']}] {article['title_ko']} - {article['authors']}")
```
### 2. Pandas (Dataframe)
```python
import pandas as pd
# JSONL 파일 직접 λ‘œλ“œ (주의: λ©”λͺ¨λ¦¬ μš©λŸ‰ ν•„μš”)
df = pd.read_json("kci_articles_20260124.jsonl", lines=True)
print(df.head())
```
## πŸ›  Included Scripts (μˆ˜μ§‘ 및 가곡 μ½”λ“œ)
이 λ°μ΄ν„°μ…‹μ˜ 투λͺ…μ„±κ³Ό μž¬ν˜„μ„±μ„ μœ„ν•΄ μ‚¬μš©λœ 파이썬 슀크립트λ₯Ό ν•¨κ»˜ μ œκ³΅ν•©λ‹ˆλ‹€. [Files and versions](https://huggingface.co/datasets/ddokbaro/KCI_data/tree/main) νƒ­μ—μ„œ ν™•μΈν•˜μ‹€ 수 μžˆμŠ΅λ‹ˆλ‹€.
1. **`kci_full_download.py`**:
* KCI OAI-PMH μ„œλ²„μ—μ„œ Raw XML 데이터λ₯Ό μˆ˜μ§‘ν•˜λŠ” ν¬λ‘€λŸ¬μž…λ‹ˆλ‹€.
* λ„€νŠΈμ›Œν¬ 쀑단 μ‹œ μžλ™ 이어받기(Resume) κΈ°λŠ₯을 μ§€μ›ν•©λ‹ˆλ‹€.
2. **`kci_xml_to_jsonl.py`**:
* μˆ˜μ§‘λœ 2λ§Œμ—¬ 개의 XML νŒŒμΌμ„ νŒŒμ‹±ν•˜μ—¬ ν•˜λ‚˜μ˜ JSONL 파일둜 λ³€ν™˜ν•©λ‹ˆλ‹€.
* `oai_kci`(상세)와 `oai_dc`(κΈ°λ³Έ) 포맷을 λͺ¨λ‘ μ§€μ›ν•˜λŠ” ν•˜μ΄λΈŒλ¦¬λ“œ νŒŒμ„œμž…λ‹ˆλ‹€.
## βš–οΈ License & Disclaimer
### License
* **Dataset:** [CC BY-NC 4.0](https://creativecommons.org/licenses/by-nc/4.0/) (μ €μž‘μžν‘œμ‹œ-λΉ„μ˜λ¦¬)
* **Scripts:** MIT License
### Disclaimer (λ©΄μ±… μ‘°ν•­)
λ³Έ 데이터셋에 ν¬ν•¨λœ λ…Όλ¬Έμ˜ 제λͺ©, 초둝, μ €μžλͺ… λ“± μ›μ²œ λ©”νƒ€λ°μ΄ν„°μ˜ μ €μž‘κΆŒ 및 μ§€μ μž¬μ‚°κΆŒμ€ **ν•œκ΅­μ—°κ΅¬μž¬λ‹¨(NRF)**, 각 ν•™μˆ  단체 및 μ €μžμ—κ²Œ μžˆμŠ΅λ‹ˆλ‹€.
* 이 데이터셋은 ν•™μˆ  연ꡬ 및 ꡐ윑 λͺ©μ μ„ μœ„ν•΄ νλ ˆμ΄μ…˜λœ 2μ°¨ μ €μž‘λ¬Όμž…λ‹ˆλ‹€.
* 상업적 λͺ©μ (예: μ›μ²œ 데이터 판맀)으둜 μ΄μš©ν•  수 μ—†μŠ΅λ‹ˆλ‹€.
## πŸ‘€ Maintainer
**Prof. Kim Ba-ro (κΉ€λ°”λ‘œ)**
* The Academy of Korean Studies (ν•œκ΅­ν•™μ€‘μ•™μ—°κ΅¬μ›)