Upload 2 files

kci_full_download_v2.py

@@ -0,0 +1,125 @@
+import requests
+import xml.etree.ElementTree as ET
+import time
+import os
+import json
+import sys
+
+class KCIKciHarvester:
+    def __init__(self, save_dir=r"D:\KCI\data_kci_format"):
+        self.base_url = "https://open.kci.go.kr/oai/request"
+        self.save_dir = save_dir
+        self.state_file = os.path.join(save_dir, "harvest_state_v2.json")
+        
+        # 저장 폴더 생성 (폴더명을 바꿔 섞이지 않게 함)
+        os.makedirs(self.save_dir, exist_ok=True)
+        self.state = self.load_state()
+
+    def load_state(self):
+        if os.path.exists(self.state_file):
+            try:
+                with open(self.state_file, 'r', encoding='utf-8') as f:
+                    return json.load(f)
+            except:
+                pass
+        return {"last_token": None, "page_count": 1}
+
+    def save_state(self, token, page_count):
+        self.state = {"last_token": token, "page_count": page_count}
+        with open(self.state_file, 'w', encoding='utf-8') as f:
+            json.dump(self.state, f, indent=4)
+
+    def verify_xml(self, filepath):
+        try:
+            tree = ET.parse(filepath)
+            root = tree.getroot()
+            ns = {'oai': 'http://www.openarchives.org/OAI/2.0/'}
+            
+            error = root.find('.//oai:error', ns)
+            if error is not None:
+                print(f"⚠️ API Error: {error.text}")
+                return 0
+            
+            # 레코드 수 확인
+            records = root.findall('.//oai:record', ns)
+            return len(records)
+        except Exception:
+            return -1
+
+    def run(self):
+        print("="*60)
+        print(f"   KCI 고품질 데이터(oai_kci) 수집기")
+        print(f"   저장 경로: {self.save_dir}")
+        print("="*60)
+        
+        token = self.state["last_token"]
+        page = self.state["page_count"]
+        
+        if token:
+            print(f"🔄 {page}페이지부터 이어받습니다...")
+            params = {'verb': 'ListRecords', 'resumptionToken': token}
+        else:
+            print(f"▶️ 처음부터 시작 (Format: oai_kci, Set: ARTI)")
+            params = {
+                'verb': 'ListRecords',
+                'set': 'ARTI',       # 학술지 논문 대상
+                'metadataPrefix': 'oai_kci' # ✅ 핵심 변경: 구조화된 데이터 요청
+            }
+
+        consecutive_errors = 0
+
+        while True:
+            try:
+                sys.stdout.write(f"\r📥 Page {page} (oai_kci) 다운로드 중... ")
+                sys.stdout.flush()
+                
+                response = requests.get(self.base_url, params=params, timeout=60)
+                
+                if response.status_code != 200:
+                    print(f"\n⛔ 서버 에러({response.status_code})...")
+                    time.sleep(10)
+                    consecutive_errors += 1
+                    if consecutive_errors > 5: break
+                    continue
+
+                # 파일 저장
+                filename = os.path.join(self.save_dir, f"kci_detailed_{page:06d}.xml")
+                with open(filename, "w", encoding="utf-8") as f:
+                    f.write(response.text)
+
+                count = self.verify_xml(filename)
+                if count == -1:
+                    print(f"\n⚠️ 파일 손상. 재시도.")
+                    time.sleep(3)
+                    continue
+                
+                sys.stdout.write(f"✅ 완료 ({count}건)\n")
+
+                # 토큰 추출
+                root = ET.fromstring(response.text)
+                ns = {'oai': 'http://www.openarchives.org/OAI/2.0/'}
+                token_elem = root.find('.//oai:resumptionToken', ns)
+
+                if token_elem is not None and token_elem.text:
+                    new_token = token_elem.text
+                    page += 1
+                    self.save_state(new_token, page)
+                    
+                    # 토큰만으로 요청 (파라미터 초기화)
+                    params = {'verb': 'ListRecords', 'resumptionToken': new_token}
+                    consecutive_errors = 0
+                    time.sleep(0.5)
+                else:
+                    print(f"\n🏁 수집 완료!")
+                    break
+
+            except KeyboardInterrupt:
+                print("\n⏹️ 중단됨.")
+                break
+            except Exception as e:
+                print(f"\n❌ 에러: {e}")
+                time.sleep(10)
+
+if __name__ == "__main__":
+    harvester = KCIKciHarvester()
+    harvester.run()

kci_xml_to_jsonl.py

@@ -0,0 +1,228 @@
+import os
+import glob
+import json
+import xml.etree.ElementTree as ET
+from concurrent.futures import ProcessPoolExecutor
+import time
+
+# ==========================================
+# 1. 설정
+# ==========================================
+INPUT_DIR = r"D:\KCI\data_kci_format"
+OUTPUT_DIR = r"D:\KCI\processed"
+OUTPUT_FILE = os.path.join(OUTPUT_DIR, "kci_articles.jsonl")
+
+# 네임스페이스 (KCI, DC 모두 지원)
+NS = {
+    'oai': 'http://www.openarchives.org/OAI/2.0/',
+    'kci': 'http://www.kci.go.kr/kciportal/OAI/',
+    'oai_dc': 'http://www.openarchives.org/OAI/2.0/oai_dc/',
+    'dc': 'http://purl.org/dc/elements/1.1/'
+}
+
+# ==========================================
+# 2. 파싱 로직 (하이브리드 지원)
+# ==========================================
+def parse_single_xml(filepath):
+    """
+    XML 파일 하나를 열어서 내부의 논문(record)들을 리스트로 변환합니다.
+    oai_kci(상세) 포맷과 oai_dc(기본) 포맷을 모두 처리합니다.
+    """
+    extracted_data = []
+    
+    try:
+        tree = ET.parse(filepath)
+        root = tree.getroot()
+        
+        # OAI-PMH 구조 내 record 반복
+        records = root.findall('.//oai:record', NS)
+        
+        for record in records:
+            # 삭제된 레코드는 건너뜀
+            header = record.find('oai:header', NS)
+            if header is not None and header.get('status') == 'deleted':
+                continue
+
+            metadata = record.find('oai:metadata', NS)
+            if metadata is None:
+                continue
+
+            # A. oai_kci 포맷 시도 (상세 정보)
+            kci_meta = metadata.find('kci:oai_kci', NS)
+            if kci_meta is not None:
+                extracted_data.append(_parse_kci_format(kci_meta, filepath))
+                continue
+            
+            # B. oai_dc 포맷 시도 (기본 정보) - 파일 섞임 대비
+            dc_meta = metadata.find('oai_dc:dc', NS)
+            if dc_meta is not None:
+                extracted_data.append(_parse_dc_format(dc_meta, filepath))
+                continue
+
+    except Exception as e:
+        # 파일이 깨진 경우 로그만 남기고 무시
+        # print(f"Error parsing {filepath}: {e}") 
+        return []
+
+    return extracted_data
+
+def _parse_kci_format(kci_meta, filepath):
+    """KCI 전용 상세 포맷 파싱"""
+    # 1. 저널 정보
+    j_info = kci_meta.find('kci:journalInfo', NS)
+    journal_data = {}
+    if j_info is not None:
+        journal_data = {
+            'journal_name': _get_text(j_info, 'kci:journal-name'),
+            'publisher': _get_text(j_info, 'kci:publisher-name'),
+            'pub_year': _get_text(j_info, 'kci:pub-year'),
+            'pub_month': _get_text(j_info, 'kci:pub-mon'),
+            'volume': _get_text(j_info, 'kci:volume'),
+            'issue': _get_text(j_info, 'kci:issue'),
+        }
+
+    # 2. 논문 정보
+    a_info = kci_meta.find('kci:articleInfo', NS)
+    if a_info is None:
+        return {}
+
+    # 제목
+    title_group = a_info.find('kci:title-group', NS)
+    title_ko, title_en = "", ""
+    if title_group is not None:
+        for t in title_group.findall('kci:article-title', NS):
+            lang = t.get('lang')
+            if lang == 'original': title_ko = t.text
+            elif lang == 'english': title_en = t.text
+    
+    # 저자
+    authors = []
+    author_group = a_info.find('kci:author-group', NS)
+    if author_group is not None:
+        for auth in author_group.findall('kci:author', NS):
+            authors.append(auth.text.strip() if auth.text else "")
+
+    # 초록
+    abstract_ko, abstract_en = "", ""
+    ab_group = a_info.find('kci:abstract-group', NS)
+    if ab_group is not None:
+        for ab in ab_group.findall('kci:abstract', NS):
+            lang = ab.get('lang')
+            if lang == 'original': abstract_ko = ab.text
+            elif lang == 'english': abstract_en = ab.text
+
+    return {
+        'id': a_info.get('article-id'),
+        'format': 'oai_kci', # 포맷 구분용
+        'title_ko': title_ko,
+        'title_en': title_en,
+        'journal': journal_data,
+        'authors': authors,
+        'abstract_ko': abstract_ko,
+        'abstract_en': abstract_en,
+        'keywords': _get_text(a_info, 'kci:keyword-group'),
+        'citation_count': _get_text(a_info, 'kci:citation-count'),
+        'doi': _get_text(a_info, 'kci:doi'),
+        'url': _get_text(a_info, 'kci:url'),
+        'file_source': os.path.basename(filepath)
+    }
+
+def _parse_dc_format(dc_meta, filepath):
+    """DC 기본 포맷 파싱 (구조가 단순함)"""
+    
+    # 제목 (언어 구분 속성이 있을 수도 없을 수도 있음)
+    titles = dc_meta.findall('dc:title', NS)
+    title_ko = titles[0].text if titles else ""
+    title_en = titles[1].text if len(titles) > 1 else "" # 대략적 추정
+
+    # 저자 (단순 텍스트 나열)
+    authors = [c.text for c in dc_meta.findall('dc:creator', NS) if c.text]
+
+    # 초록
+    descriptions = dc_meta.findall('dc:description', NS)
+    abstracts = [d.text for d in descriptions if d.text]
+    abstract_ko = abstracts[0] if abstracts else ""
+    
+    # 식별자 (DOI, URL 등이 섞여 있음)
+    identifiers = dc_meta.findall('dc:identifier', NS)
+    doi = ""
+    url = ""
+    art_id = ""
+    
+    for ide in identifiers:
+        text = ide.text or ""
+        type_attr = ide.get('type')
+        
+        if type_attr == 'doi' or 'doi.org' in text:
+            doi = text
+        elif type_attr == 'artId' or 'ART' in text:
+            art_id = text
+        elif 'kci.go.kr' in text and 'http' in text:
+            url = text
+
+    return {
+        'id': art_id,
+        'format': 'oai_dc', # 포맷 구분용
+        'title_ko': title_ko,
+        'title_en': title_en,
+        'journal': {'journal_name': _get_text(dc_meta, 'dc:publisher')}, # DC는 저널명이 publisher에 있는 경우가 많음
+        'authors': authors,
+        'abstract_ko': abstract_ko,
+        'abstract_en': "", # DC에서는 구분이 모호함
+        'keywords': _get_text(dc_meta, 'dc:subject'),
+        'citation_count': None, # DC에는 없음
+        'doi': doi,
+        'url': url,
+        'file_source': os.path.basename(filepath)
+    }
+
+def _get_text(parent, tag):
+    if parent is None: return None
+    elem = parent.find(tag, NS)
+    return elem.text.strip() if elem is not None and elem.text else None
+
+# ==========================================
+# 3. 메인 실행 로직
+# ==========================================
+def main():
+    if not os.path.exists(OUTPUT_DIR):
+        os.makedirs(OUTPUT_DIR)
+        
+    xml_files = glob.glob(os.path.join(INPUT_DIR, "*.xml"))
+    total_files = len(xml_files)
+    
+    print(f"🚀 총 {total_files}개의 XML 파일 처리를 시작합니다. (하이브리드 모드)")
+    print(f"📂 입력: {INPUT_DIR}")
+    print(f"💾 출력: {OUTPUT_FILE}")
+    print("⏳ 변환 중... (파일이 많아 시간이 조금 걸립니다)")
+
+    start_time = time.time()
+    
+    with open(OUTPUT_FILE, 'w', encoding='utf-8') as outfile:
+        # ProcessPoolExecutor로 병렬 처리
+        with ProcessPoolExecutor() as executor:
+            results = executor.map(parse_single_xml, xml_files)
+            
+            count = 0
+            total_articles = 0
+            
+            for result in results:
+                count += 1
+                if result:
+                    total_articles += len(result)
+                    for doc in result:
+                        json.dump(doc, outfile, ensure_ascii=False)
+                        outfile.write('\n')
+                
+                if count % 2000 == 0:
+                    print(f"   [{count}/{total_files}] 처리 중... ({total_articles} 건 추출)")
+
+    print("="*50)
+    print(f"✅ 변환 완료!")
+    print(f"📊 총 파일: {total_files}개")
+    print(f"📑 추출된 논문: {total_articles}건")
+    print(f"⏱️ 소요 시간: {time.time() - start_time:.1f}초")
+    print(f"📁 저장 위치: {OUTPUT_FILE}")
+
+if __name__ == "__main__":
+    main()