File size: 3,590 Bytes
ad597d5 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 |
import os
from huggingface_hub import hf_hub_download
# ----------------------------------------
# 1. 설정 (이곳을 수정하여 테스트 대상을 변경할 수 있습니다)
# ----------------------------------------
# 테스트할 모델 타입을 선택하세요: 'word2vec' 또는 'fasttext'
MODEL_TYPE = 'word2vec'
# [핵심 수정] 테스트할 시간 단위를 선택하세요: 'yearly' 또는 'decade'
TIME_UNIT = 'decade'
# Hugging Face 모델 저장소 ID
MODEL_REPO_ID = "ddokbaro/chosunilbo-LMs"
# 테스트할 연도(yearly) 또는 시대(decade)와 키워드 목록
if TIME_UNIT == 'yearly':
UNITS_TO_TEST = [1935, 1955, 1975, 1995]
else: # decade
UNITS_TO_TEST = [1930, 1950, 1970, 1990]
KEYWORDS_TO_TEST = ['경제', '민주주의', '여성', '미래']
# ----------------------------------------
# 2. 라이브러리 동적 임포트
# ----------------------------------------
if MODEL_TYPE == 'word2vec':
from gensim.models import Word2Vec
elif MODEL_TYPE == 'fasttext':
import fasttext
else:
raise ValueError("MODEL_TYPE은 'word2vec' 또는 'fasttext'여야 합니다.")
# ----------------------------------------
# 3. 모델 테스트 함수
# ----------------------------------------
def test_model(unit, keywords):
"""
지정된 시간 단위의 모델을 Hugging Face Hub에서 다운로드하여 테스트를 수행합니다.
"""
print("\n" + "="*50)
print(f" T E S T : {unit}년대 {MODEL_TYPE.upper()} 모델")
print("="*50)
try:
# Hugging Face Hub에서 모델 다운로드 경로 설정
if MODEL_TYPE == 'word2vec':
filename = f"word2vec/{TIME_UNIT}/word2vec_{unit}.model"
else: # fasttext
filename = f"fasttext/{TIME_UNIT}/fasttext_{unit}.bin"
model_path = hf_hub_download(repo_id=MODEL_REPO_ID, filename=filename)
# 모델 로드
if MODEL_TYPE == 'word2vec':
model = Word2Vec.load(model_path)
vocab_size = len(model.wv.index_to_key)
else: # fasttext
model = fasttext.load_model(model_path)
vocab_size = len(model.words)
print(f"결과: 모델 로드 성공.")
print(f" - 총 학습된 어휘 수: {vocab_size} 개")
# 키워드별 유사어 탐색
for keyword in keywords:
print(f"\n--- 키워드 '{keyword}'의 유사어 Top 10 ---")
try:
if MODEL_TYPE == 'word2vec':
if keyword in model.wv:
similar_words = model.wv.most_similar(keyword, topn=10)
for word, score in similar_words:
print(f" - {word}: {score:.4f}")
else:
print(f" - '{keyword}' 단어가 해당 모델의 어휘 목록에 없습니다.")
else: # fasttext
similar_words = model.get_nearest_neighbors(keyword, k=10)
for score, word in similar_words:
print(f" - {word}: {score:.4f}")
except Exception as e:
print(f" - '{keyword}' 유사어 탐색 중 오류 발생: {e}")
except Exception as e:
print(f"모델 테스트 중 오류 발생: {e}")
# ----------------------------------------
# 4. 메인 실행 로직
# ----------------------------------------
if __name__ == "__main__":
for unit in UNITS_TO_TEST:
test_model(unit, KEYWORDS_TO_TEST)
print("\n" + "="*50)
print("모든 테스트가 완료되었습니다.")
|