kci_xml_to_jsonl.py

import os
import glob
import json
import xml.etree.ElementTree as ET
from concurrent.futures import ProcessPoolExecutor
import time

# ==========================================
# 1. 설정
# ==========================================
INPUT_DIR = r"D:\KCI\data_kci_format"
OUTPUT_DIR = r"D:\KCI\processed"
OUTPUT_FILE = os.path.join(OUTPUT_DIR, "kci_articles.jsonl")

# 네임스페이스 (KCI, DC 모두 지원)
NS = {
    'oai': 'http://www.openarchives.org/OAI/2.0/',
    'kci': 'http://www.kci.go.kr/kciportal/OAI/',
    'oai_dc': 'http://www.openarchives.org/OAI/2.0/oai_dc/',
    'dc': 'http://purl.org/dc/elements/1.1/'
}

# ==========================================
# 2. 파싱 로직 (하이브리드 지원)
# ==========================================
def parse_single_xml(filepath):
    """
    XML 파일 하나를 열어서 내부의 논문(record)들을 리스트로 변환합니다.
    oai_kci(상세) 포맷과 oai_dc(기본) 포맷을 모두 처리합니다.
    """
    extracted_data = []
    
    try:
        tree = ET.parse(filepath)
        root = tree.getroot()
        
        # OAI-PMH 구조 내 record 반복
        records = root.findall('.//oai:record', NS)
        
        for record in records:
            # 삭제된 레코드는 건너뜀
            header = record.find('oai:header', NS)
            if header is not None and header.get('status') == 'deleted':
                continue

            metadata = record.find('oai:metadata', NS)
            if metadata is None:
                continue

            # A. oai_kci 포맷 시도 (상세 정보)
            kci_meta = metadata.find('kci:oai_kci', NS)
            if kci_meta is not None:
                extracted_data.append(_parse_kci_format(kci_meta, filepath))
                continue
            
            # B. oai_dc 포맷 시도 (기본 정보) - 파일 섞임 대비
            dc_meta = metadata.find('oai_dc:dc', NS)
            if dc_meta is not None:
                extracted_data.append(_parse_dc_format(dc_meta, filepath))
                continue

    except Exception as e:
        # 파일이 깨진 경우 로그만 남기고 무시
        # print(f"Error parsing {filepath}: {e}") 
        return []

    return extracted_data

def _parse_kci_format(kci_meta, filepath):
    """KCI 전용 상세 포맷 파싱"""
    # 1. 저널 정보
    j_info = kci_meta.find('kci:journalInfo', NS)
    journal_data = {}
    if j_info is not None:
        journal_data = {
            'journal_name': _get_text(j_info, 'kci:journal-name'),
            'publisher': _get_text(j_info, 'kci:publisher-name'),
            'pub_year': _get_text(j_info, 'kci:pub-year'),
            'pub_month': _get_text(j_info, 'kci:pub-mon'),
            'volume': _get_text(j_info, 'kci:volume'),
            'issue': _get_text(j_info, 'kci:issue'),
        }

    # 2. 논문 정보
    a_info = kci_meta.find('kci:articleInfo', NS)
    if a_info is None:
        return {}

    # 제목
    title_group = a_info.find('kci:title-group', NS)
    title_ko, title_en = "", ""
    if title_group is not None:
        for t in title_group.findall('kci:article-title', NS):
            lang = t.get('lang')
            if lang == 'original': title_ko = t.text
            elif lang == 'english': title_en = t.text
    
    # 저자
    authors = []
    author_group = a_info.find('kci:author-group', NS)
    if author_group is not None:
        for auth in author_group.findall('kci:author', NS):
            authors.append(auth.text.strip() if auth.text else "")

    # 초록
    abstract_ko, abstract_en = "", ""
    ab_group = a_info.find('kci:abstract-group', NS)
    if ab_group is not None:
        for ab in ab_group.findall('kci:abstract', NS):
            lang = ab.get('lang')
            if lang == 'original': abstract_ko = ab.text
            elif lang == 'english': abstract_en = ab.text

    return {
        'id': a_info.get('article-id'),
        'format': 'oai_kci', # 포맷 구분용
        'title_ko': title_ko,
        'title_en': title_en,
        'journal': journal_data,
        'authors': authors,
        'abstract_ko': abstract_ko,
        'abstract_en': abstract_en,
        'keywords': _get_text(a_info, 'kci:keyword-group'),
        'citation_count': _get_text(a_info, 'kci:citation-count'),
        'doi': _get_text(a_info, 'kci:doi'),
        'url': _get_text(a_info, 'kci:url'),
        'file_source': os.path.basename(filepath)
    }

def _parse_dc_format(dc_meta, filepath):
    """DC 기본 포맷 파싱 (구조가 단순함)"""
    
    # 제목 (언어 구분 속성이 있을 수도 없을 수도 있음)
    titles = dc_meta.findall('dc:title', NS)
    title_ko = titles[0].text if titles else ""
    title_en = titles[1].text if len(titles) > 1 else "" # 대략적 추정

    # 저자 (단순 텍스트 나열)
    authors = [c.text for c in dc_meta.findall('dc:creator', NS) if c.text]

    # 초록
    descriptions = dc_meta.findall('dc:description', NS)
    abstracts = [d.text for d in descriptions if d.text]
    abstract_ko = abstracts[0] if abstracts else ""
    
    # 식별자 (DOI, URL 등이 섞여 있음)
    identifiers = dc_meta.findall('dc:identifier', NS)
    doi = ""
    url = ""
    art_id = ""
    
    for ide in identifiers:
        text = ide.text or ""
        type_attr = ide.get('type')
        
        if type_attr == 'doi' or 'doi.org' in text:
            doi = text
        elif type_attr == 'artId' or 'ART' in text:
            art_id = text
        elif 'kci.go.kr' in text and 'http' in text:
            url = text

    return {
        'id': art_id,
        'format': 'oai_dc', # 포맷 구분용
        'title_ko': title_ko,
        'title_en': title_en,
        'journal': {'journal_name': _get_text(dc_meta, 'dc:publisher')}, # DC는 저널명이 publisher에 있는 경우가 많음
        'authors': authors,
        'abstract_ko': abstract_ko,
        'abstract_en': "", # DC에서는 구분이 모호함
        'keywords': _get_text(dc_meta, 'dc:subject'),
        'citation_count': None, # DC에는 없음
        'doi': doi,
        'url': url,
        'file_source': os.path.basename(filepath)
    }

def _get_text(parent, tag):
    if parent is None: return None
    elem = parent.find(tag, NS)
    return elem.text.strip() if elem is not None and elem.text else None

# ==========================================
# 3. 메인 실행 로직
# ==========================================
def main():
    if not os.path.exists(OUTPUT_DIR):
        os.makedirs(OUTPUT_DIR)
        
    xml_files = glob.glob(os.path.join(INPUT_DIR, "*.xml"))
    total_files = len(xml_files)
    
    print(f"🚀 총 {total_files}개의 XML 파일 처리를 시작합니다. (하이브리드 모드)")
    print(f"📂 입력: {INPUT_DIR}")
    print(f"💾 출력: {OUTPUT_FILE}")
    print("⏳ 변환 중... (파일이 많아 시간이 조금 걸립니다)")

    start_time = time.time()
    
    with open(OUTPUT_FILE, 'w', encoding='utf-8') as outfile:
        # ProcessPoolExecutor로 병렬 처리
        with ProcessPoolExecutor() as executor:
            results = executor.map(parse_single_xml, xml_files)
            
            count = 0
            total_articles = 0
            
            for result in results:
                count += 1
                if result:
                    total_articles += len(result)
                    for doc in result:
                        json.dump(doc, outfile, ensure_ascii=False)
                        outfile.write('\n')
                
                if count % 2000 == 0:
                    print(f"   [{count}/{total_files}] 처리 중... ({total_articles} 건 추출)")

    print("="*50)
    print(f"✅ 변환 완료!")
    print(f"📊 총 파일: {total_files}개")
    print(f"📑 추출된 논문: {total_articles}건")
    print(f"⏱️ 소요 시간: {time.time() - start_time:.1f}초")
    print(f"📁 저장 위치: {OUTPUT_FILE}")

if __name__ == "__main__":
    main()