import os import glob import json import xml.etree.ElementTree as ET from concurrent.futures import ProcessPoolExecutor import time # ========================================== # 1. 설정 # ========================================== INPUT_DIR = r"D:\KCI\data_kci_format" OUTPUT_DIR = r"D:\KCI\processed" OUTPUT_FILE = os.path.join(OUTPUT_DIR, "kci_articles.jsonl") # 네임스페이스 (KCI, DC 모두 지원) NS = { 'oai': 'http://www.openarchives.org/OAI/2.0/', 'kci': 'http://www.kci.go.kr/kciportal/OAI/', 'oai_dc': 'http://www.openarchives.org/OAI/2.0/oai_dc/', 'dc': 'http://purl.org/dc/elements/1.1/' } # ========================================== # 2. 파싱 로직 (하이브리드 지원) # ========================================== def parse_single_xml(filepath): """ XML 파일 하나를 열어서 내부의 논문(record)들을 리스트로 변환합니다. oai_kci(상세) 포맷과 oai_dc(기본) 포맷을 모두 처리합니다. """ extracted_data = [] try: tree = ET.parse(filepath) root = tree.getroot() # OAI-PMH 구조 내 record 반복 records = root.findall('.//oai:record', NS) for record in records: # 삭제된 레코드는 건너뜀 header = record.find('oai:header', NS) if header is not None and header.get('status') == 'deleted': continue metadata = record.find('oai:metadata', NS) if metadata is None: continue # A. oai_kci 포맷 시도 (상세 정보) kci_meta = metadata.find('kci:oai_kci', NS) if kci_meta is not None: extracted_data.append(_parse_kci_format(kci_meta, filepath)) continue # B. oai_dc 포맷 시도 (기본 정보) - 파일 섞임 대비 dc_meta = metadata.find('oai_dc:dc', NS) if dc_meta is not None: extracted_data.append(_parse_dc_format(dc_meta, filepath)) continue except Exception as e: # 파일이 깨진 경우 로그만 남기고 무시 # print(f"Error parsing {filepath}: {e}") return [] return extracted_data def _parse_kci_format(kci_meta, filepath): """KCI 전용 상세 포맷 파싱""" # 1. 저널 정보 j_info = kci_meta.find('kci:journalInfo', NS) journal_data = {} if j_info is not None: journal_data = { 'journal_name': _get_text(j_info, 'kci:journal-name'), 'publisher': _get_text(j_info, 'kci:publisher-name'), 'pub_year': _get_text(j_info, 'kci:pub-year'), 'pub_month': _get_text(j_info, 'kci:pub-mon'), 'volume': _get_text(j_info, 'kci:volume'), 'issue': _get_text(j_info, 'kci:issue'), } # 2. 논문 정보 a_info = kci_meta.find('kci:articleInfo', NS) if a_info is None: return {} # 제목 title_group = a_info.find('kci:title-group', NS) title_ko, title_en = "", "" if title_group is not None: for t in title_group.findall('kci:article-title', NS): lang = t.get('lang') if lang == 'original': title_ko = t.text elif lang == 'english': title_en = t.text # 저자 authors = [] author_group = a_info.find('kci:author-group', NS) if author_group is not None: for auth in author_group.findall('kci:author', NS): authors.append(auth.text.strip() if auth.text else "") # 초록 abstract_ko, abstract_en = "", "" ab_group = a_info.find('kci:abstract-group', NS) if ab_group is not None: for ab in ab_group.findall('kci:abstract', NS): lang = ab.get('lang') if lang == 'original': abstract_ko = ab.text elif lang == 'english': abstract_en = ab.text return { 'id': a_info.get('article-id'), 'format': 'oai_kci', # 포맷 구분용 'title_ko': title_ko, 'title_en': title_en, 'journal': journal_data, 'authors': authors, 'abstract_ko': abstract_ko, 'abstract_en': abstract_en, 'keywords': _get_text(a_info, 'kci:keyword-group'), 'citation_count': _get_text(a_info, 'kci:citation-count'), 'doi': _get_text(a_info, 'kci:doi'), 'url': _get_text(a_info, 'kci:url'), 'file_source': os.path.basename(filepath) } def _parse_dc_format(dc_meta, filepath): """DC 기본 포맷 파싱 (구조가 단순함)""" # 제목 (언어 구분 속성이 있을 수도 없을 수도 있음) titles = dc_meta.findall('dc:title', NS) title_ko = titles[0].text if titles else "" title_en = titles[1].text if len(titles) > 1 else "" # 대략적 추정 # 저자 (단순 텍스트 나열) authors = [c.text for c in dc_meta.findall('dc:creator', NS) if c.text] # 초록 descriptions = dc_meta.findall('dc:description', NS) abstracts = [d.text for d in descriptions if d.text] abstract_ko = abstracts[0] if abstracts else "" # 식별자 (DOI, URL 등이 섞여 있음) identifiers = dc_meta.findall('dc:identifier', NS) doi = "" url = "" art_id = "" for ide in identifiers: text = ide.text or "" type_attr = ide.get('type') if type_attr == 'doi' or 'doi.org' in text: doi = text elif type_attr == 'artId' or 'ART' in text: art_id = text elif 'kci.go.kr' in text and 'http' in text: url = text return { 'id': art_id, 'format': 'oai_dc', # 포맷 구분용 'title_ko': title_ko, 'title_en': title_en, 'journal': {'journal_name': _get_text(dc_meta, 'dc:publisher')}, # DC는 저널명이 publisher에 있는 경우가 많음 'authors': authors, 'abstract_ko': abstract_ko, 'abstract_en': "", # DC에서는 구분이 모호함 'keywords': _get_text(dc_meta, 'dc:subject'), 'citation_count': None, # DC에는 없음 'doi': doi, 'url': url, 'file_source': os.path.basename(filepath) } def _get_text(parent, tag): if parent is None: return None elem = parent.find(tag, NS) return elem.text.strip() if elem is not None and elem.text else None # ========================================== # 3. 메인 실행 로직 # ========================================== def main(): if not os.path.exists(OUTPUT_DIR): os.makedirs(OUTPUT_DIR) xml_files = glob.glob(os.path.join(INPUT_DIR, "*.xml")) total_files = len(xml_files) print(f"🚀 총 {total_files}개의 XML 파일 처리를 시작합니다. (하이브리드 모드)") print(f"📂 입력: {INPUT_DIR}") print(f"💾 출력: {OUTPUT_FILE}") print("⏳ 변환 중... (파일이 많아 시간이 조금 걸립니다)") start_time = time.time() with open(OUTPUT_FILE, 'w', encoding='utf-8') as outfile: # ProcessPoolExecutor로 병렬 처리 with ProcessPoolExecutor() as executor: results = executor.map(parse_single_xml, xml_files) count = 0 total_articles = 0 for result in results: count += 1 if result: total_articles += len(result) for doc in result: json.dump(doc, outfile, ensure_ascii=False) outfile.write('\n') if count % 2000 == 0: print(f" [{count}/{total_files}] 처리 중... ({total_articles} 건 추출)") print("="*50) print(f"✅ 변환 완료!") print(f"📊 총 파일: {total_files}개") print(f"📑 추출된 논문: {total_articles}건") print(f"⏱️ 소요 시간: {time.time() - start_time:.1f}초") print(f"📁 저장 위치: {OUTPUT_FILE}") if __name__ == "__main__": main()