--- license: cc-by-nc-4.0 task_categories: - text-retrieval - text-generation - summarization language: - ko - en tags: - kci - academic - digital-humanities - oai-pmh - bibliometrics size_categories: - 1M **Note:** 이 데이터셋은 2026λ…„ 1μ›” 24일 κΈ°μ€€μ˜ μŠ€λƒ…μƒ·μž…λ‹ˆλ‹€. ## πŸ“‚ Dataset Structure (데이터 ꡬ쑰) λ°μ΄ν„°λŠ” **JSONL (JSON Lines)** 포맷으둜 μ œκ³΅λ˜μ–΄ λŒ€μš©λŸ‰ μ²˜λ¦¬μ— μ΅œμ ν™”λ˜μ–΄ μžˆμŠ΅λ‹ˆλ‹€. ### File Information * **Filename:** `kci_articles_20260124.jsonl` * **Size:** μ•½ 11GB (Raw XML λ³€ν™˜λ³Έ) * **Count:** μ•½ 3,000,000+ 건 (μΆ”μ‚°) ### Data Fields (ν•„λ“œ μ„€λͺ…) 각 라인은 ν•˜λ‚˜μ˜ λ…Όλ¬Έ(Article) 정보λ₯Ό λ‹΄κ³  μžˆμŠ΅λ‹ˆλ‹€. ```json { "id": "ART002000341", // KCI λ…Όλ¬Έ μ‹λ³„μž "format": "oai_kci", // 원본 포맷 (oai_kci λ˜λŠ” oai_dc) "title_ko": "κ΅­λ¬Έ λ…Όλ¬Έ 제λͺ©", "title_en": "English Title", "journal": { "journal_name": "ν•™μˆ μ§€λͺ…", "publisher": "λ°œν–‰κΈ°κ΄€", "pub_year": "2024", "volume": "10", "issue": "2" }, "authors": [ // μ €μž λͺ©λ‘ (List) "홍길동(ν•œκ΅­λŒ€ν•™κ΅)", "Kim, Chul-Soo(Hankuk Univ.)" ], "abstract_ko": "κ΅­λ¬Έ 초둝 ν…μŠ€νŠΈ...", "abstract_en": "Abstract text...", "keywords": "ν‚€μ›Œλ“œ1, ν‚€μ›Œλ“œ2", "citation_count": "5", // ν”ΌμΈμš© 횟수 "doi": "10.xxxx/....", // DOI "url": "[https://www.kci.go.kr/](https://www.kci.go.kr/)..." // KCI 원문 링크 } ## πŸš€ How to Use (μ‚¬μš© 방법) ### 1. Python (Hugging Face `datasets` 라이브러리) κ°€μž₯ μΆ”μ²œν•˜λŠ” λ°©μ‹μž…λ‹ˆλ‹€. 슀트리밍 방식을 μ§€μ›ν•˜μ—¬ 11GBλ₯Ό ν•œ λ²ˆμ— λ‹€μš΄λ‘œλ“œν•˜μ§€ μ•Šκ³ λ„ 데이터λ₯Ό 탐색할 수 μžˆμŠ΅λ‹ˆλ‹€. ```python from datasets import load_dataset # 데이터셋 뢈러였기 dataset = load_dataset("ddokbaro/KCI_data", split="train") # 데이터 확인 (첫 5개) for article in dataset.select(range(5)): print(f"[{article['pub_year']}] {article['title_ko']} - {article['authors']}") ``` ### 2. Pandas (Dataframe) ```python import pandas as pd # JSONL 파일 직접 λ‘œλ“œ (주의: λ©”λͺ¨λ¦¬ μš©λŸ‰ ν•„μš”) df = pd.read_json("kci_articles_20260124.jsonl", lines=True) print(df.head()) ``` ## πŸ›  Included Scripts (μˆ˜μ§‘ 및 가곡 μ½”λ“œ) 이 λ°μ΄ν„°μ…‹μ˜ 투λͺ…μ„±κ³Ό μž¬ν˜„μ„±μ„ μœ„ν•΄ μ‚¬μš©λœ 파이썬 슀크립트λ₯Ό ν•¨κ»˜ μ œκ³΅ν•©λ‹ˆλ‹€. [Files and versions](https://huggingface.co/datasets/ddokbaro/KCI_data/tree/main) νƒ­μ—μ„œ ν™•μΈν•˜μ‹€ 수 μžˆμŠ΅λ‹ˆλ‹€. 1. **`kci_full_download.py`**: * KCI OAI-PMH μ„œλ²„μ—μ„œ Raw XML 데이터λ₯Ό μˆ˜μ§‘ν•˜λŠ” ν¬λ‘€λŸ¬μž…λ‹ˆλ‹€. * λ„€νŠΈμ›Œν¬ 쀑단 μ‹œ μžλ™ 이어받기(Resume) κΈ°λŠ₯을 μ§€μ›ν•©λ‹ˆλ‹€. 2. **`kci_xml_to_jsonl.py`**: * μˆ˜μ§‘λœ 2λ§Œμ—¬ 개의 XML νŒŒμΌμ„ νŒŒμ‹±ν•˜μ—¬ ν•˜λ‚˜μ˜ JSONL 파일둜 λ³€ν™˜ν•©λ‹ˆλ‹€. * `oai_kci`(상세)와 `oai_dc`(κΈ°λ³Έ) 포맷을 λͺ¨λ‘ μ§€μ›ν•˜λŠ” ν•˜μ΄λΈŒλ¦¬λ“œ νŒŒμ„œμž…λ‹ˆλ‹€. ## βš–οΈ License & Disclaimer ### License * **Dataset:** [CC BY-NC 4.0](https://creativecommons.org/licenses/by-nc/4.0/) (μ €μž‘μžν‘œμ‹œ-λΉ„μ˜λ¦¬) * **Scripts:** MIT License ### Disclaimer (λ©΄μ±… μ‘°ν•­) λ³Έ 데이터셋에 ν¬ν•¨λœ λ…Όλ¬Έμ˜ 제λͺ©, 초둝, μ €μžλͺ… λ“± μ›μ²œ λ©”νƒ€λ°μ΄ν„°μ˜ μ €μž‘κΆŒ 및 μ§€μ μž¬μ‚°κΆŒμ€ **ν•œκ΅­μ—°κ΅¬μž¬λ‹¨(NRF)**, 각 ν•™μˆ  단체 및 μ €μžμ—κ²Œ μžˆμŠ΅λ‹ˆλ‹€. * 이 데이터셋은 ν•™μˆ  연ꡬ 및 ꡐ윑 λͺ©μ μ„ μœ„ν•΄ νλ ˆμ΄μ…˜λœ 2μ°¨ μ €μž‘λ¬Όμž…λ‹ˆλ‹€. * 상업적 λͺ©μ (예: μ›μ²œ 데이터 판맀)으둜 μ΄μš©ν•  수 μ—†μŠ΅λ‹ˆλ‹€. ## πŸ‘€ Maintainer **Prof. Kim Ba-ro (κΉ€λ°”λ‘œ)** * The Academy of Korean Studies (ν•œκ΅­ν•™μ€‘μ•™μ—°κ΅¬μ›)