|
|
import pandas as pd |
|
|
from konlpy.tag import Okt |
|
|
import os |
|
|
import json |
|
|
from tqdm import tqdm |
|
|
import datetime |
|
|
import multiprocessing |
|
|
import numpy as np |
|
|
import time |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
input_file_path = '/chosun_preprocessed.csv' |
|
|
|
|
|
|
|
|
output_dir = '/koselleck_analysis_results' |
|
|
output_file_path = os.path.join(output_dir, 'chosun_pos_tagged_parallel.jsonl') |
|
|
error_log_path = os.path.join(output_dir, 'pos_tagging_errors_parallel.log') |
|
|
|
|
|
|
|
|
NUM_PROCESSES = max(1, multiprocessing.cpu_count() - 1) |
|
|
|
|
|
CHUNK_SIZE = 200000 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
okt_worker = None |
|
|
progress_counter = None |
|
|
lock = None |
|
|
|
|
|
def init_worker(counter, lk): |
|
|
""" |
|
|
각 Worker 프로세스가 시작될 때 한 번만 실행되는 초기화 함수. |
|
|
Okt 객체, 공유 카운터, 공유 잠금 장치를 전역 변수에 할당합니다. |
|
|
""" |
|
|
global okt_worker, progress_counter, lock |
|
|
okt_worker = Okt() |
|
|
progress_counter = counter |
|
|
lock = lk |
|
|
|
|
|
def process_chunk(chunk_df): |
|
|
""" |
|
|
데이터프레임 덩어리(chunk)를 받아 형태소 분석을 수행하는 함수 (각 프로세스에서 실행됨) |
|
|
""" |
|
|
global okt_worker, progress_counter, lock |
|
|
results = [] |
|
|
errors = [] |
|
|
|
|
|
for index, row in chunk_df.iterrows(): |
|
|
source_text = None |
|
|
year = row['year'] |
|
|
|
|
|
if year < 1954: |
|
|
if pd.notna(row['body_korean']): |
|
|
source_text = str(row['body_korean']) |
|
|
else: |
|
|
if pd.notna(row['body_archaic']): |
|
|
source_text = str(row['body_archaic']) |
|
|
|
|
|
if not source_text: |
|
|
with lock: |
|
|
progress_counter.value += 1 |
|
|
continue |
|
|
|
|
|
try: |
|
|
pos_tagged_body = okt_worker.pos(source_text, norm=True, stem=True) |
|
|
result = { |
|
|
'id': row['id'], |
|
|
'date': str(row['publication_date']), |
|
|
'year': year, |
|
|
'type': row['type'], |
|
|
'pos_tagged_body': pos_tagged_body |
|
|
} |
|
|
results.append(json.dumps(result, ensure_ascii=False) + '\n') |
|
|
except Exception as e: |
|
|
error_time = datetime.datetime.now().strftime("%Y-%m-%d %H:%M:%S") |
|
|
error_message = f"[{error_time}] - ID: {row['id']}, Year: {year}, Error: {e}\n" |
|
|
errors.append(error_message) |
|
|
|
|
|
with lock: |
|
|
progress_counter.value += 1 |
|
|
|
|
|
return results, errors |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
if __name__ == "__main__": |
|
|
print("--- 조선일보 데이터 병렬 전처리 시작 (최종 안정화 버전) ---") |
|
|
os.makedirs(output_dir, exist_ok=True) |
|
|
|
|
|
|
|
|
processed_ids = set() |
|
|
if os.path.exists(output_file_path): |
|
|
print(f"\n1. 기존 처리 파일 '{output_file_path}'을(를) 발견했습니다. 처리된 ID를 로드합니다.") |
|
|
with open(output_file_path, 'r', encoding='utf-8') as f: |
|
|
for line in tqdm(f, desc="기존 결과 로딩"): |
|
|
try: |
|
|
processed_ids.add(json.loads(line)['id']) |
|
|
except json.JSONDecodeError: |
|
|
continue |
|
|
print(f"총 {len(processed_ids)}개의 기사가 이미 처리되었습니다.") |
|
|
|
|
|
|
|
|
print("\n2. 처리할 데이터의 전체 규모를 계산합니다.") |
|
|
unprocessed_count = 0 |
|
|
chunk_iterator_for_count = pd.read_csv(input_file_path, usecols=['id'], chunksize=CHUNK_SIZE, low_memory=False) |
|
|
for chunk_df in tqdm(chunk_iterator_for_count, desc="전체 규모 계산"): |
|
|
chunk_df.dropna(subset=['id'], inplace=True) |
|
|
unprocessed_count += chunk_df[~chunk_df['id'].isin(processed_ids)].shape[0] |
|
|
|
|
|
if unprocessed_count == 0: |
|
|
print("\n모든 데이터가 이미 처리되었습니다. 작업을 종료합니다.") |
|
|
exit() |
|
|
print(f"총 {unprocessed_count}개의 미처리 기사를 대상으로 작업을 시작합니다.") |
|
|
|
|
|
|
|
|
print(f"\n3. {NUM_PROCESSES}개의 프로세스로 병렬 처리를 시작합니다.") |
|
|
|
|
|
manager = multiprocessing.Manager() |
|
|
progress_counter = manager.Value('i', 0) |
|
|
lock = manager.Lock() |
|
|
|
|
|
try: |
|
|
with multiprocessing.Pool(processes=NUM_PROCESSES, initializer=init_worker, initargs=(progress_counter, lock)) as pool, \ |
|
|
open(output_file_path, 'a', encoding='utf-8') as f_out, \ |
|
|
open(error_log_path, 'a', encoding='utf-8') as f_err, \ |
|
|
tqdm(total=unprocessed_count, desc="전체 진행률") as pbar: |
|
|
|
|
|
chunk_iterator = pd.read_csv( |
|
|
input_file_path, |
|
|
usecols=['id', 'publication_date', 'type', 'body_korean', 'body_archaic'], |
|
|
chunksize=CHUNK_SIZE, |
|
|
low_memory=False |
|
|
) |
|
|
|
|
|
async_results = [] |
|
|
for chunk_df in chunk_iterator: |
|
|
chunk_df.dropna(subset=['id', 'publication_date'], inplace=True) |
|
|
unprocessed_chunk = chunk_df[~chunk_df['id'].isin(processed_ids)].copy() |
|
|
if unprocessed_chunk.empty: |
|
|
continue |
|
|
|
|
|
unprocessed_chunk['year'] = pd.to_datetime(unprocessed_chunk['publication_date'], errors='coerce').dt.year |
|
|
unprocessed_chunk.dropna(subset=['year'], inplace=True) |
|
|
unprocessed_chunk['year'] = unprocessed_chunk['year'].astype(int) |
|
|
|
|
|
res = pool.apply_async(process_chunk, (unprocessed_chunk,)) |
|
|
async_results.append(res) |
|
|
|
|
|
last_value = 0 |
|
|
for res in async_results: |
|
|
while not res.ready(): |
|
|
current_value = progress_counter.value |
|
|
pbar.update(current_value - last_value) |
|
|
last_value = current_value |
|
|
time.sleep(1) |
|
|
|
|
|
results, errors = res.get() |
|
|
if results: |
|
|
f_out.writelines(results) |
|
|
if errors: |
|
|
f_err.writelines(errors) |
|
|
|
|
|
current_value = progress_counter.value |
|
|
pbar.update(current_value - last_value) |
|
|
|
|
|
except Exception as e: |
|
|
print(f"\n처리 중 심각한 오류 발생: {e}") |
|
|
|
|
|
print(f"\n> 형태소 분석 및 전처리가 완료되었습니다.") |
|
|
print(f"> 전체 결과는 다음 경로에 저장/추가되었습니다: {output_file_path}") |
|
|
|
