Revert "feat: cer_module.py 추가"

This reverts commit a341d0e357d63602fd6f4dadbce22bf0fbff96b4.

model/cer_module.py

@@ -1,178 +0,0 @@
-import re
-
-import numpy as np
-import torch
-import torchaudio
-from transformers import Wav2Vec2Processor, Wav2Vec2ForCTC
-
-def preprocess_text(text, remove_spaces=False, remove_punctuation=False):
-    """
-    텍스트 전처리 함수
-    
-    Args:
-        text (str): 전처리할 텍스트
-        remove_spaces (bool): 공백 제거 여부
-        remove_punctuation (bool): 문장부호 제거 여부
-    
-    Returns:
-        str: 전처리된 텍스트
-    """
-    if remove_punctuation:
-        # 한글, 영문, 숫자를 제외한 문장부호 등 제거
-        text = re.sub(r'[^\w\s]', '', text)
-    
-    if remove_spaces:
-        # 모든 공백 제거
-        text = text.replace(' ', '')
-    
-    return text
-
-def calculate_levenshtein(u, v):
-    """
-    두 문자열 간의 레벤슈타인 거리와 작업 세부 정보(대체, 삭제, 삽입)를 계산
-    
-    Args:
-        u (list): 첫 번째 문자열(문자 리스트)
-        v (list): 두 번째 문자열(문자 리스트)
-    
-    Returns:
-        tuple: (편집 거리, (대체 수, 삭제 수, 삽입 수))
-    """
-    prev = None
-    curr = [0] + list(range(1, len(v) + 1))
-    # 작업: (대체, 삭제, 삽입)
-    prev_ops = None
-    curr_ops = [(0, 0, i) for i in range(len(v) + 1)]
-    
-    for x in range(1, len(u) + 1):
-        prev, curr = curr, [x] + ([None] * len(v))
-        prev_ops, curr_ops = curr_ops, [(0, x, 0)] + ([None] * len(v))
-        
-        for y in range(1, len(v) + 1):
-            delcost = prev[y] + 1
-            addcost = curr[y - 1] + 1
-            subcost = prev[y - 1] + int(u[x - 1] != v[y - 1])
-            
-            curr[y] = min(subcost, delcost, addcost)
-            
-            if curr[y] == subcost:
-                (n_s, n_d, n_i) = prev_ops[y - 1]
-                curr_ops[y] = (n_s + int(u[x - 1] != v[y - 1]), n_d, n_i)
-            elif curr[y] == delcost:
-                (n_s, n_d, n_i) = prev_ops[y]
-                curr_ops[y] = (n_s, n_d + 1, n_i)
-            else:
-                (n_s, n_d, n_i) = curr_ops[y - 1]
-                curr_ops[y] = (n_s, n_d, n_i + 1)
-                
-    return curr[len(v)], curr_ops[len(v)]
-
-def calculate_korean_cer(reference, hypothesis, remove_spaces=True, remove_punctuation=True):
-    """
-    한국어 문장의 CER(Character Error Rate)을 계산
-    
-    Args:
-        reference (str): 정답 문장
-        hypothesis (str): 예측 문장
-        remove_spaces (bool): 공백 제거 여부
-        remove_punctuation (bool): 문장부호 제거 여부
-    
-    Returns:
-        dict: CER 값과 세부 정보 (대체, 삭제, 삽입 수)
-    """
-    # preprocessing
-    ref = preprocess_text(reference, remove_spaces, remove_punctuation)
-    hyp = preprocess_text(hypothesis, remove_spaces, remove_punctuation)
-
-    ref_chars = list(ref)
-    hyp_chars = list(hyp)
-    
-    _, (substitutions, deletions, insertions) = calculate_levenshtein(hyp_chars, ref_chars)
-
-    hits = len(ref_chars) - (substitutions + deletions)
-    incorrect = substitutions + deletions + insertions
-    total = substitutions + deletions + hits + insertions
-
-    cer = round(incorrect / total, 4) if total > 0 else 0
-    
-    result = {
-        'cer': cer,
-        'substitutions': substitutions,
-        'deletions': deletions,
-        'insertions': insertions
-    }
-    
-    return result
-
-def calculate_korean_crr(reference, hypothesis, remove_spaces=True, remove_punctuation=True):
-    """
-    한국어 문장의 CRR(정확도)을 계산
-    CRR = 1 - CER
-    
-    Args:
-        reference (str): 정답 문장
-        hypothesis (str): 예측 문장
-        remove_spaces (bool): 공백 제거 여부
-        remove_punctuation (bool): 문장부호 제거 여부
-    
-    Returns:
-        dict: CRR 값과 세부 정보 (대체, 삭제, 삽입 수)
-    """
-    cer_result = calculate_korean_cer(reference, hypothesis, remove_spaces, remove_punctuation)
-    crr = round(1 - cer_result['cer'], 4) # 이 부분에서 소수점 몇 번째 자리까지 나타낼지 설정 가능
-
-    result = {
-        'crr': crr, # 정확도
-        'substitutions': cer_result['substitutions'],
-        'deletions': cer_result['deletions'],
-        'insertions': cer_result['insertions']
-    }
-
-    return result
-
-def transcribe_audio(file_path, model_name="daeunn/wav2vec2-korean-finetuned2"):
-    # 모델 및 프로세서 로드
-    processor = Wav2Vec2Processor.from_pretrained(model_name)
-    model = Wav2Vec2ForCTC.from_pretrained(model_name)
-
-    # 오디오 파일 로드 및 16kHz 리샘플링
-    waveform, sample_rate = torchaudio.load(file_path)
-    if sample_rate != 16000:
-        waveform = torchaudio.transforms.Resample(orig_freq=sample_rate, new_freq=16000)(waveform)
-    input_values = processor(waveform.squeeze().numpy(), sampling_rate=16000, return_tensors="pt", padding=True)
-
-    # 추론
-    with torch.no_grad():
-        logits = model(**input_values).logits
-    predicted_ids = torch.argmax(logits, dim=-1)
-    transcription = processor.decode(predicted_ids[0])
-
-    return transcription
-
-
-if __name__ == "__main__":
-    # 동일한 문장에 대한 두 번의 녹음
-    reference = "제가 스웨덴에서 왔고, 우리나라가 큰 나라이지만 인구가 좀 적어서 학생이라도 재밌게 할 수 있는게 많이 없고 카페나 술집이나 이런게 많이 없어서 그런 거 한국에 많이 있다고 들었고 그거 때문에 한국에 공부하러 왔어요."
-
-    audio_path1 = "../data/stt_test.wav"
-    audio_path2 = "../data/stt_test.wav" # 파일 변경 필요요
-
-    # 첫 번째 오디오 처리
-    print("\n[첫 번째 발화 STT 및 정확도 평가]")
-    hypothesis1 = transcribe_audio(audio_path1)
-    print("예측 1:", hypothesis1)
-
-    crr_result1 = calculate_korean_crr(reference, hypothesis1)
-    print(f"CRR #1: {crr_result1['crr']} (대체={crr_result1['substitutions']}, 삭제={crr_result1['deletions']}, 삽입={crr_result1['insertions']})")
-
-    # 두 번째 오디오 처리
-    print("\n[두 번째 발화 STT 및 정확도 평가]")
-    hypothesis2 = transcribe_audio(audio_path2)
-    print("예측 2:", hypothesis2)
-
-    crr_result2 = calculate_korean_crr(reference, hypothesis2)
-    print(f"CRR #2: {crr_result2['crr']} (대체={crr_result2['substitutions']}, 삭제={crr_result2['deletions']}, 삽입={crr_result2['insertions']})")
-
-    # 정확도 변화량 출력
-    diff = round(crr_result2['crr'] - crr_result1['crr'], 4)
-    print(f"\n 동일 문장 재발화에 따른 CRR 변화량: {diff:+.4f}")