File size: 2,218 Bytes
cc9afbf |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 |
import pandas as pd
import os
import json
from tqdm import tqdm
from gensim.models import Word2Vec
import multiprocessing
# ----------------------------------------
# 1. 설정
# ----------------------------------------
# 전처리된 데이터 파일 경로
input_file_path = '/chosun_pos_tagged_parallel.jsonl'
# 10년 단위 모델 저장 디렉토리
output_dir = '/koselleck_analysis_results'
model_dir = os.path.join(output_dir, 'word2vec_models_decade')
os.makedirs(model_dir, exist_ok=True)
# Word2Vec 모델 학습 파라미터
VECTOR_SIZE = 100
WINDOW = 5
MIN_COUNT = 5
WORKERS = max(1, multiprocessing.cpu_count() - 1)
# ----------------------------------------
# 2. 데이터 로드 및 그룹화
# ----------------------------------------
print("--- 10년 단위 Word2Vec 모델 학습 시작 ---")
print("\n1. 전처리된 데이터를 로드하여 10년 단위로 그룹화합니다.")
try:
df = pd.read_json(input_file_path, lines=True)
df = df[df['type'] == 'article'].copy()
df['decade'] = (df['year'] // 10) * 10
print("파일 로드 및 그룹화 완료.")
except FileNotFoundError:
print(f"오류: '{input_file_path}'를 찾을 수 없습니다.")
exit()
# ----------------------------------------
# 3. 10년 단위 모델 학습
# ----------------------------------------
print(f"\n2. 10년 단위 Word2Vec 모델을 순차적으로 학습합니다.")
for decade, group in tqdm(df.groupby('decade'), desc="10년 단위 모델 학습"):
model_path = os.path.join(model_dir, f'word2vec_{decade}.model')
if os.path.exists(model_path):
print(f"{decade}년대 모델이 이미 존재하여 건너뜁니다.")
continue
try:
sentences = [[word for word, pos in doc if pos == 'Noun'] for doc in group['pos_tagged_body']]
model = Word2Vec(sentences, vector_size=VECTOR_SIZE, window=WINDOW, min_count=MIN_COUNT, workers=WORKERS)
model.save(model_path)
print(f"{decade}년대 모델 학습 및 저장 완료.")
except Exception as e:
print(f"{decade}년대 모델 학습 중 오류 발생: {e}")
print(f"\n> 모든 10년 단위 모델 학습이 완료되었습니다. 결과 저장 경로: {model_dir}")
|