Create 99_test_models.py

scripts/99_test_models.py

@@ -0,0 +1,93 @@
+import os
+from huggingface_hub import hf_hub_download
+
+# ----------------------------------------
+# 1. 설정 (이곳을 수정하여 테스트 대상을 변경할 수 있습니다)
+# ----------------------------------------
+# 테스트할 모델 타입을 선택하세요: 'word2vec' 또는 'fasttext'
+MODEL_TYPE = 'word2vec'
+
+# [핵심 수정] 테스트할 시간 단위를 선택하세요: 'yearly' 또는 'decade'
+TIME_UNIT = 'decade'
+
+# Hugging Face 모델 저장소 ID
+MODEL_REPO_ID = "ddokbaro/chosunilbo-LMs"
+
+# 테스트할 연도(yearly) 또는 시대(decade)와 키워드 목록
+if TIME_UNIT == 'yearly':
+    UNITS_TO_TEST = [1935, 1955, 1975, 1995]
+else: # decade
+    UNITS_TO_TEST = [1930, 1950, 1970, 1990]
+
+KEYWORDS_TO_TEST = ['경제', '민주주의', '여성', '미래']
+
+# ----------------------------------------
+# 2. 라이브러리 동적 임포트
+# ----------------------------------------
+if MODEL_TYPE == 'word2vec':
+    from gensim.models import Word2Vec
+elif MODEL_TYPE == 'fasttext':
+    import fasttext
+else:
+    raise ValueError("MODEL_TYPE은 'word2vec' 또는 'fasttext'여야 합니다.")
+
+# ----------------------------------------
+# 3. 모델 테스트 함수
+# ----------------------------------------
+def test_model(unit, keywords):
+    """
+    지정된 시간 단위의 모델을 Hugging Face Hub에서 다운로드하여 테스트를 수행합니다.
+    """
+    print("\n" + "="*50)
+    print(f" T E S T : {unit}년대 {MODEL_TYPE.upper()} 모델")
+    print("="*50)
+    
+    try:
+        # Hugging Face Hub에서 모델 다운로드 경로 설정
+        if MODEL_TYPE == 'word2vec':
+            filename = f"word2vec/{TIME_UNIT}/word2vec_{unit}.model"
+        else: # fasttext
+            filename = f"fasttext/{TIME_UNIT}/fasttext_{unit}.bin"
+
+        model_path = hf_hub_download(repo_id=MODEL_REPO_ID, filename=filename)
+        
+        # 모델 로드
+        if MODEL_TYPE == 'word2vec':
+            model = Word2Vec.load(model_path)
+            vocab_size = len(model.wv.index_to_key)
+        else: # fasttext
+            model = fasttext.load_model(model_path)
+            vocab_size = len(model.words)
+            
+        print(f"결과: 모델 로드 성공.")
+        print(f"  - 총 학습된 어휘 수: {vocab_size} 개")
+
+        # 키워드별 유사어 탐색
+        for keyword in keywords:
+            print(f"\n--- 키워드 '{keyword}'의 유사어 Top 10 ---")
+            try:
+                if MODEL_TYPE == 'word2vec':
+                    if keyword in model.wv:
+                        similar_words = model.wv.most_similar(keyword, topn=10)
+                        for word, score in similar_words:
+                            print(f"  - {word}: {score:.4f}")
+                    else:
+                        print(f"  - '{keyword}' 단어가 해당 모델의 어휘 목록에 없습니다.")
+                else: # fasttext
+                    similar_words = model.get_nearest_neighbors(keyword, k=10)
+                    for score, word in similar_words:
+                        print(f"  - {word}: {score:.4f}")
+            except Exception as e:
+                print(f"  - '{keyword}' 유사어 탐색 중 오류 발생: {e}")
+
+    except Exception as e:
+        print(f"모델 테스트 중 오류 발생: {e}")
+
+# ----------------------------------------
+# 4. 메인 실행 로직
+# ----------------------------------------
+if __name__ == "__main__":
+    for unit in UNITS_TO_TEST:
+        test_model(unit, KEYWORDS_TO_TEST)
+    print("\n" + "="*50)
+    print("모든 테스트가 완료되었습니다.")