scripts/99_test_models.py

import os
from huggingface_hub import hf_hub_download

# ----------------------------------------
# 1. 설정 (이곳을 수정하여 테스트 대상을 변경할 수 있습니다)
# ----------------------------------------
# 테스트할 모델 타입을 선택하세요: 'word2vec' 또는 'fasttext'
MODEL_TYPE = 'word2vec'

# [핵심 수정] 테스트할 시간 단위를 선택하세요: 'yearly' 또는 'decade'
TIME_UNIT = 'decade'

# Hugging Face 모델 저장소 ID
MODEL_REPO_ID = "ddokbaro/chosunilbo-LMs"

# 테스트할 연도(yearly) 또는 시대(decade)와 키워드 목록
if TIME_UNIT == 'yearly':
    UNITS_TO_TEST = [1935, 1955, 1975, 1995]
else: # decade
    UNITS_TO_TEST = [1930, 1950, 1970, 1990]

KEYWORDS_TO_TEST = ['경제', '민주주의', '여성', '미래']

# ----------------------------------------
# 2. 라이브러리 동적 임포트
# ----------------------------------------
if MODEL_TYPE == 'word2vec':
    from gensim.models import Word2Vec
elif MODEL_TYPE == 'fasttext':
    import fasttext
else:
    raise ValueError("MODEL_TYPE은 'word2vec' 또는 'fasttext'여야 합니다.")

# ----------------------------------------
# 3. 모델 테스트 함수
# ----------------------------------------
def test_model(unit, keywords):
    """
    지정된 시간 단위의 모델을 Hugging Face Hub에서 다운로드하여 테스트를 수행합니다.
    """
    print("\n" + "="*50)
    print(f" T E S T : {unit}년대 {MODEL_TYPE.upper()} 모델")
    print("="*50)
    
    try:
        # Hugging Face Hub에서 모델 다운로드 경로 설정
        if MODEL_TYPE == 'word2vec':
            filename = f"word2vec/{TIME_UNIT}/word2vec_{unit}.model"
        else: # fasttext
            filename = f"fasttext/{TIME_UNIT}/fasttext_{unit}.bin"

        model_path = hf_hub_download(repo_id=MODEL_REPO_ID, filename=filename)
        
        # 모델 로드
        if MODEL_TYPE == 'word2vec':
            model = Word2Vec.load(model_path)
            vocab_size = len(model.wv.index_to_key)
        else: # fasttext
            model = fasttext.load_model(model_path)
            vocab_size = len(model.words)
            
        print(f"결과: 모델 로드 성공.")
        print(f"  - 총 학습된 어휘 수: {vocab_size} 개")

        # 키워드별 유사어 탐색
        for keyword in keywords:
            print(f"\n--- 키워드 '{keyword}'의 유사어 Top 10 ---")
            try:
                if MODEL_TYPE == 'word2vec':
                    if keyword in model.wv:
                        similar_words = model.wv.most_similar(keyword, topn=10)
                        for word, score in similar_words:
                            print(f"  - {word}: {score:.4f}")
                    else:
                        print(f"  - '{keyword}' 단어가 해당 모델의 어휘 목록에 없습니다.")
                else: # fasttext
                    similar_words = model.get_nearest_neighbors(keyword, k=10)
                    for score, word in similar_words:
                        print(f"  - {word}: {score:.4f}")
            except Exception as e:
                print(f"  - '{keyword}' 유사어 탐색 중 오류 발생: {e}")

    except Exception as e:
        print(f"모델 테스트 중 오류 발생: {e}")

# ----------------------------------------
# 4. 메인 실행 로직
# ----------------------------------------
if __name__ == "__main__":
    for unit in UNITS_TO_TEST:
        test_model(unit, KEYWORDS_TO_TEST)
    print("\n" + "="*50)
    print("모든 테스트가 완료되었습니다.")