import time import re import json import os from enum import Enum import logging # DialogueType Enum class DialogueType(Enum): NORMAL = "normal" # ข้อความทั่วไป CHARACTER = "character" # ข้อความของตัวละคร มีชื่อนำหน้า CHOICE = "choice" # ข้อความตัวเลือกของผู้เล่น SYSTEM = "system" # ข้อความระบบ class NameConfidence: def __init__(self, name): self.name = name self.confidence = 0.8 # เริ่มต้นที่ 0.8 เพราะผ่านการตรวจสอบแล้ว self.last_update = time.time() def add_appearance(self): """อัพเดทเวลาล่าสุดที่พบชื่อนี้""" self.last_update = time.time() def should_confirm(self): """ตรวจสอบว่าควรยืนยันชื่อนี้หรือไม่""" return ( self.confidence >= 0.7 # ลดเกณฑ์ความเชื่อมั่น and len(self.appearances) >= 2 # ลดจำนวนครั้งที่ต้องเจอ and time.time() - self.appearances[0]["time"] < 600 # เพิ่มเวลาเป็น 10 นาที ) class TextCorrector: def __init__(self): self.load_npc_data() # สร้างไฟล์ new_friends.json ถ้ายังไม่มี initial_data = {"npcs": [], "last_updated": time.time(), "version": "1.0"} if not os.path.exists("new_friends.json"): try: with open("new_friends.json", "w", encoding="utf-8") as f: json.dump(initial_data, f, indent=4, ensure_ascii=False) logging.info("Created new new_friends.json file") except Exception as e: logging.error(f"Failed to create new_friends.json: {e}") # โหลดข้อมูล self.load_new_friends() # ระบบแคชใหม่ self.temp_names_cache = [] # เปลี่ยนเป็น list เพื่อเก็บลำดับ self.confirmed_names = set() # เพิ่มบรรทัดนี้ self.max_cached_names = 10 def load_new_friends(self): """โหลดชื่อที่ยืนยันแล้วจาก new_friends.json""" try: if os.path.exists("new_friends.json"): with open("new_friends.json", "r", encoding="utf-8") as f: data = json.load(f) for npc in data.get("npcs", []): self.confirmed_names.add(npc["name"]) except Exception as e: logging.error(f"Error loading new_friends.json: {e}") def save_new_friend(self, name, role="Unknown", description="Found in dialogue"): try: # สร้างโครงสร้างข้อมูลเริ่มต้น initial_data = {"npcs": [], "last_updated": time.time(), "version": "1.0"} # โหลดหรือสร้างไฟล์ if os.path.exists("new_friends.json"): with open("new_friends.json", "r", encoding="utf-8") as f: data = json.load(f) else: data = initial_data logging.info("Creating new new_friends.json file") # ตรวจสอบว่ามีชื่อนี้แล้วหรือยัง if not any(npc["name"] == name for npc in data["npcs"]): # เพิ่มข้อมูล timestamp และความมั่นใจ npc_data = { "name": name, "role": role, "description": description, "added_timestamp": time.time(), "confidence": 1.0, # ยืนยันแล้ว } data["npcs"].append(npc_data) data["last_updated"] = time.time() # บันทึกไฟล์ with open("new_friends.json", "w", encoding="utf-8") as f: json.dump(data, f, indent=4, ensure_ascii=False) self.confirmed_names.add(name) logging.info(f"New friend saved: {name}") except Exception as e: logging.error(f"Error saving new friend: {e}") # สร้างไฟล์ใหม่ถ้าเกิดข้อผิดพลาด if not os.path.exists("new_friends.json"): try: with open("new_friends.json", "w", encoding="utf-8") as f: json.dump(initial_data, f, indent=4, ensure_ascii=False) logging.info("Created new new_friends.json file after error") except Exception as e2: logging.error(f"Failed to create new_friends.json: {e2}") def cache_new_name(self, name): """เพิ่มชื่อใหม่เข้าแคชแบบวงกลม""" # ตรวจสอบว่ามีชื่อนี้ในแคชหรือไม่ for cached in self.temp_names_cache: if cached.name == name: cached.add_appearance() return cached.name # ถ้าไม่มี เพิ่มชื่อใหม่ new_name = NameConfidence(name) self.temp_names_cache.append(new_name) # ถ้าเกินขนาด ลบตัวแรกออก if len(self.temp_names_cache) > self.max_cached_names: self.temp_names_cache.pop(0) return name def find_similar_cached_name(self, name): """ค้นหาชื่อที่คล้ายกันในแคช""" highest_similarity = 0 best_match = None for cached in self.temp_names_cache: similarity = self.calculate_name_similarity(name, cached.name) if ( similarity > highest_similarity and similarity > 0.7 ): # ต้องคล้ายกันมากกว่า 70% highest_similarity = similarity best_match = cached.name return best_match def is_likely_character_name(self, text): """ตรวจสอบว่าข้อความน่าจะเป็นชื่อคนหรือไม่""" words = text.split() first_word = words[0] if words else "" # ต้องขึ้นต้นด้วยตัวพิมพ์ใหญ่ if not first_word or not first_word[0].isupper(): return False # ไม่ควรมีตัวอักษรพิเศษมากเกินไป (ยกเว้น ' - และ space) special_chars = sum(1 for c in text if not c.isalnum() and c not in "' -") if special_chars > 1: return False # ความยาวของชื่อทั้งหมดควรอยู่ในช่วงที่เหมาะสม if len(text) < 2 or len(text) > 50: # เพิ่มความยาวให้รองรับชื่อยาวๆ return False # ตรวจสอบแต่ละคำในชื่อ common_words = { "the", "a", "an", "this", "that", "these", "those", "here", "there", } first_word_lower = first_word.lower() # คำแรกต้องไม่ใช่คำทั่วไป if first_word_lower in common_words: return False # ถ้ามีหลายคำ ทุกคำควรขึ้นต้นด้วยตัวพิมพ์ใหญ่หรือเป็นคำเชื่อม connecting_words = {"van", "von", "de", "del", "of", "the"} for word in words[1:]: if not word[0].isupper() and word.lower() not in connecting_words: return False return True def load_npc_data(self): try: with open("NPC.json", "r", encoding="utf-8") as file: npc_data = json.load(file) self.word_corrections = npc_data["word_fixes"] self.names = set() # เพิ่ม "???" เป็นชื่อที่ยอมรับได้เป็นลำดับแรก self.names.add("???") # Load main characters for char in npc_data["main_characters"]: self.names.add(char["firstName"]) if char["lastName"]: self.names.add(f"{char['firstName']} {char['lastName']}") # Load NPCs for npc in npc_data["npcs"]: self.names.add(npc["name"]) print("TextCorrector: Loaded names:", self.names) # Debug log except FileNotFoundError: raise FileNotFoundError("NPC.json file not found") except json.JSONDecodeError: raise ValueError("Invalid JSON in NPC.json") def correct_text(self, text): # เพิ่มการจัดการพิเศษสำหรับ 22, 222 และ ? if text.strip() in ["22", "22?", "222", "222?", "???"]: return "???" # แทนที่ 22 หรือ 222 ด้วย ??? ถ้าขึ้นต้นด้วย 22 หรือ 222 text = re.sub(r"^(22|222)\s*", "??? ", text) speaker, content, dialogue_type = self.split_speaker_and_content(text) if speaker and speaker != "???": speaker = re.sub(r"[^\w\s\u0E00-\u0E7F]", "", speaker) words = content.split() if content else [] corrected_words = [] for word in words: if not re.search(r"[\u0E00-\u0E7F]", word): word = self.word_corrections.get(word, word) corrected_words.append(word) content = ( self.clean_content(" ".join(corrected_words)) if corrected_words else "" ) if speaker: return f"{speaker}: {content}" if content else speaker return content def _clean_name(self, name): """ทำความสะอาดชื่อเพื่อเปรียบเทียบ""" if not name: return "" name = name.lower().strip() replacements = { "'": "", "`": "", " ": "", "z": "2", "$": "s", "0": "o", "1": "l", } for old, new in replacements.items(): name = name.replace(old, new) return name def calculate_name_similarity(self, name1, name2): """คำนวณความคล้ายคลึงของชื่อ""" if not name1 or not name2: return 0 clean_name1 = self._clean_name(name1) clean_name2 = self._clean_name(name2) if clean_name1 == clean_name2: return 1.0 len1, len2 = len(clean_name1), len(clean_name2) if len1 == 0 or len2 == 0: return 0 matrix = [[0] * (len2 + 1) for _ in range(len1 + 1)] for i in range(len1 + 1): matrix[i][0] = i for j in range(len2 + 1): matrix[0][j] = j for i in range(1, len1 + 1): for j in range(1, len2 + 1): if clean_name1[i - 1] == clean_name2[j - 1]: matrix[i][j] = matrix[i - 1][j - 1] else: matrix[i][j] = min( matrix[i - 1][j] + 1, # deletion matrix[i][j - 1] + 1, # insertion matrix[i - 1][j - 1] + 1, # substitution ) distance = matrix[len1][len2] max_length = max(len1, len2) similarity = 1 - (distance / max_length) return similarity def is_numeric_name(self, name: str) -> bool: """ ตรวจสอบว่าชื่อเป็นตัวเลขหรือไม่ Args: name: ชื่อที่ต้องการตรวจสอบ Returns: bool: True ถ้าชื่อเป็นตัวเลข, False ถ้าไม่ใช่ """ # ลบช่องว่างและอักขระพิเศษ cleaned_name = re.sub(r"[^a-zA-Z0-9]", "", name) # ตรวจสอบว่าเหลือแต่ตัวเลขหรือไม่ return cleaned_name.isdigit() def split_speaker_and_content(self, text): """แยกชื่อผู้พูดและเนื้อหา""" # ตรวจสอบ ??? หรือ 22 หรือ 222 ก่อน if text.startswith(("???", "??", "22", "222")): for separator in [": ", " - ", " – "]: if separator in text: content = text.split(separator, 1)[1].strip() return "???", content, DialogueType.CHARACTER return None, text, DialogueType.NORMAL # จัดการกับ underscore ที่ท้ายประโยค text = text.replace("_", "") # ตรวจสอบรูปแบบที่มีเครื่องหมายคั่น content_separators = [": ", " - ", " – "] speaker = None content = None for separator in content_separators: if separator in text: parts = text.split(separator, 1) if len(parts) == 2: speaker = parts[0].strip() content = parts[1].strip() # เพิ่มการตรวจสอบชื่อที่เป็นตัวเลข if self.is_numeric_name(speaker): return None, text, DialogueType.NORMAL # ให้รอ OCR รอบถัดไป # ถ้าชื่อขึ้นต้นด้วย ? ให้แปลงเป็น ??? if speaker.startswith("?"): speaker = "???" return speaker, content.strip(), DialogueType.CHARACTER # ตรวจสอบในชื่อที่รู้จัก if speaker in self.names or speaker in self.confirmed_names: return speaker, content.strip(), DialogueType.CHARACTER else: # ถ้าไม่พบชื่อที่ตรงกัน ให้ถือเป็นข้อความทั้งหมด return None, text, DialogueType.NORMAL # กรณีไม่มีเครื่องหมายคั่น ให้ถือเป็นข้อความทั่วไป return None, text, DialogueType.NORMAL def clean_content(self, content): # เพิ่มช่วง Unicode สำหรับภาษาเกาหลี (Hangul) # \u3130-\u318F คือ Hangul Compatibility Jamo # \uAC00-\uD7AF คือ Hangul Syllables content = re.sub( r"[^\w\s\u0E00-\u0E7F\u3130-\u318F\uAC00-\uD7AF.!...—]", "", content ) # แก้ไข '|' เป็น 'I' เสมอ content = content.replace("|", "I") # แก้ไข '!' เป็น 'I' เมื่ออยู่ต้นประโยคหรือหลังช่องว่าง content = re.sub(r'(^|(?<=\s))!(?![\s"\'.])', "I", content) # แทนที่สัญลักษณ์การหยุดรอด้วย ... content = re.sub(r"[_\-]{2,}", "...", content) # รวมช่องว่าง content = re.sub(r"\s+", " ", content) # จัดการ ... ท้ายประโยค if not content.endswith(("...", "!", "—")): content = re.sub(r"\.{1,2}$", "...", content) # รักษาเครื่องหมาย — content = content.replace(" - ", " — ") return content.strip() def reload_data(self): """โหลดข้อมูลใหม่""" print("TextCorrector: Reloading NPC data...") # เพิ่มบรรทัดนี้ self.load_npc_data() # ล้างแคชทั้งหมด self.temp_names_cache.clear() self.load_new_friends() # โหลด confirmed names ใหม่ print("TextCorrector: Data reloaded successfully") # เพิ่มบรรทัดนี้