Create restore_english_tags.py

eqbench-vast/restore_english_tags.py

@@ -0,0 +1,310 @@
+"""
+restore_english_tags.py — 翻訳済みファイルのタグ復元スクリプト
+
+翻訳時に日本語化されてしまった以下のタグを英語版に復元：
+1. ######## (シナリオヘッダー)
+2. {{XXX}} (プレースホルダー)
+3. /XXX (スラッシュタグ)
+4. [XXX] (角括弧タグ)
+5. [/XXX] (閉じタグ)
+
+使用方法:
+    python restore_english_tags.py
+    python restore_english_tags.py --dry-run  # 変更内容を確認のみ
+"""
+
+import argparse
+import re
+from pathlib import Path
+from typing import Any
+
+# ── 設定 ──────────────────────────────────────────────────────
+WORKSPACE = Path("/workspace/eqbench-ja")
+EQBENCH_DATA_DIR = WORKSPACE / "eqbench3" / "data"
+
+# 対象ファイル
+TARGET_FILES = [
+    "scenario_prompts.txt",
+    "scenario_notes.txt",
+    "scenario_master_prompt_message_drafting.txt",
+    "scenario_master_prompt_analysis.txt",
+    "scenario_master_prompt.txt",
+    "rubric_scoring_prompt_analysis.txt",
+    "rubric_scoring_prompt.txt",
+    "rubric_scoring_criteria_analysis.txt",
+    "rubric_scoring_criteria.txt",
+    "pairwise_prompt_eqbench3_analysis.txt",
+    "pairwise_prompt_eqbench3.txt",
+    "debrief_prompt.txt",
+]
+
+# ── 復元パターン定義 ──────────────────────────────────────────
+# (説明, 正規表現パターン, 抽出・復元方法)
+
+RESTORE_PATTERNS = [
+    # 1. シナリオヘッダー: ######## 1 | Category | ...
+    (
+        "scenario_header",
+        re.compile(r'^(#{8,})\s*(\d+)\s*\|\s*([^|]+)\s*\|'),
+        "keep_original",  # 行全体を英語版から保持
+    ),
+    # 2. プレースホルダー: {{XXX}}
+    (
+        "placeholder",
+        re.compile(r'\{\{[^}]+\}\}'),
+        "keep_exact",  # そのまま保持
+    ),
+    # 3. プレースホルダー（単一括弧）: {XXX}
+    (
+        "placeholder_single",
+        re.compile(r'\{[^{}]+\}'),
+        "keep_exact",
+    ),
+    # 4. スラッシュタグ: /think, /response など
+    (
+        "slash_tag",
+        re.compile(r'(?<![a-zA-Z])/[a-zA-Z_][a-zA-Z0-9_]*(?![a-zA-Z0-9_])'),
+        "keep_exact",
+    ),
+    # 5. 角括弧タグ: [INST], [/INST], [THOUGHT] など
+    (
+        "bracket_tag",
+        re.compile(r'\[/?[A-Z_][A-Z0-9_]*\]', re.IGNORECASE),
+        "keep_exact",
+    ),
+    # 6. プロンプトセパレーター: ####### Prompt1 など
+    (
+        "prompt_separator",
+        re.compile(r'^(#{7,})\s*Prompt\d*'),
+        "keep_original",
+    ),
+]
+
+
+class TagRestorer:
+    """英語版タグの復元を行うクラス"""
+    
+    def __init__(self, dry_run: bool = False):
+        self.dry_run = dry_run
+        self.stats: dict[str, dict[str, int]] = {}
+    
+    def extract_tags(self, text: str) -> dict[str, list[str]]:
+        """テキストから保護対象のタグを抽出"""
+        tags = {}
+        for name, pattern, _ in RESTORE_PATTERNS:
+            matches = pattern.findall(text)
+            if matches:
+                tags[name] = matches if isinstance(matches[0], str) else [m[0] if isinstance(m, tuple) else m for m in matches]
+        return tags
+    
+    def extract_lines_with_tags(self, text: str) -> dict[int, str]:
+        """タグを含む行を抽出（行番号 -> 行内容）"""
+        lines = text.split('\n')
+        tagged_lines = {}
+        for i, line in enumerate(lines):
+            for name, pattern, mode in RESTORE_PATTERNS:
+                if pattern.search(line) and mode == "keep_original":
+                    tagged_lines[i] = line
+                    break
+        return tagged_lines
+    
+    def restore_file(self, filepath: Path) -> dict[str, Any]:
+        """単一ファイルのタグを復元"""
+        # 英語版バックアップを探す
+        en_backup = Path(str(filepath) + ".en.bak")
+        if not en_backup.exists():
+            # 別のバックアップ場所も試す
+            en_backup = filepath.parent / (filepath.name.replace(".txt", "_en.txt"))
+        
+        if not en_backup.exists():
+            return {"status": "skip", "reason": "英語版バックアップが見つかりません"}
+        
+        # ファイル読み込み
+        ja_text = filepath.read_text(encoding="utf-8")
+        en_text = en_backup.read_text(encoding="utf-8")
+        
+        if ja_text == en_text:
+            return {"status": "skip", "reason": "英語版と同一"}
+        
+        # タグ抽出
+        en_tags = self.extract_tags(en_text)
+        en_tagged_lines = self.extract_lines_with_tags(en_text)
+        
+        # 復元処理
+        ja_lines = ja_text.split('\n')
+        en_lines = en_text.split('\n')
+        changes = []
+        
+        # 行単位の復元（シナリオヘッダーなど）
+        for line_idx, en_line in en_tagged_lines.items():
+            if line_idx < len(ja_lines):
+                ja_line = ja_lines[line_idx]
+                if ja_line != en_line:
+                    # 行全体を置換
+                    changes.append({
+                        "line": line_idx + 1,
+                        "type": "line_replace",
+                        "before": ja_line[:80] + "..." if len(ja_line) > 80 else ja_line,
+                        "after": en_line[:80] + "..." if len(en_line) > 80 else en_line,
+                    })
+                    ja_lines[line_idx] = en_line
+        
+        # インラインタグの復元
+        restored_text = '\n'.join(ja_lines)
+        
+        # プレースホルダー {{XXX}} の復元
+        ja_placeholders = re.findall(r'\{\{[^}]+\}\}', restored_text)
+        en_placeholders = re.findall(r'\{\{[^}]+\}\}', en_text)
+        
+        # 日本語版のプレースホルダーを英語版のものに置換
+        # 行番号対応でマッチング
+        for match in re.finditer(r'\{\{[^}]+\}\}', restored_text):
+            ja_ph = match.group()
+            # 対応する英語版プレースホルダーを探す
+            # 同じ行番号付近で探す
+            start_pos = match.start()
+            line_num = restored_text[:start_pos].count('\n')
+            
+            # 英語版の同じ行付近で同じ種類のプレースホルダーを探す
+            for en_ph in en_placeholders:
+                if en_ph not in restored_text and ja_ph != en_ph:
+                    # プレースホルダー名が似ているかチェック
+                    ja_inner = ja_ph[2:-2]
+                    en_inner = en_ph[2:-2]
+                    # 日本語が含まれている場合は置換
+                    if re.search(r'[^\x00-\x7F]', ja_inner):
+                        changes.append({
+                            "position": start_pos,
+                            "type": "placeholder",
+                            "before": ja_ph,
+                            "after": en_ph,
+                        })
+                        restored_text = restored_text.replace(ja_ph, en_ph, 1)
+                        break
+        
+        # 単一括弧プレースホルダー {XXX} の復元
+        for match in re.finditer(r'\{[^{}]+\}', restored_text):
+            ja_ph = match.group()
+            if re.search(r'[^\x00-\x7F]', ja_ph):  # 日本語が含まれる
+                # 英語版から対応するプレースホルダーを探す
+                for en_ph in re.finditer(r'\{[^{}]+\}', en_text):
+                    en_match = en_ph.group()
+                    if en_match not in restored_text:
+                        changes.append({
+                            "position": match.start(),
+                            "type": "placeholder_single",
+                            "before": ja_ph,
+                            "after": en_match,
+                        })
+                        restored_text = restored_text.replace(ja_ph, en_match, 1)
+                        break
+        
+        # 角括弧タグ [XXX], [/XXX] の復元
+        for match in re.finditer(r'\[/?[^\]]+\]', restored_text):
+            ja_tag = match.group()
+            if re.search(r'[^\x00-\x7F]', ja_tag):  # 日本語が含まれる
+                # 英語版から対応するタグを探す
+                for en_match in re.finditer(r'\[/?[^\]]+\]', en_text):
+                    en_tag = en_match.group()
+                    if en_tag not in restored_text and not re.search(r'[^\x00-\x7F]', en_tag):
+                        # 開きタグ/閉じタグの対応をチェック
+                        if ja_tag.startswith('[/') == en_tag.startswith('[/'):
+                            changes.append({
+                                "position": match.start(),
+                                "type": "bracket_tag",
+                                "before": ja_tag,
+                                "after": en_tag,
+                            })
+                            restored_text = restored_text.replace(ja_tag, en_tag, 1)
+                            break
+        
+        # スラッシュタグ /XXX の復元
+        for match in re.finditer(r'(?<![a-zA-Z])/[a-zA-Z_][a-zA-Z0-9_]*(?![a-zA-Z0-9_])', restored_text):
+            tag = match.group()
+            # これは英語なのでそのまま
+        
+        # 日本語化されたスラッシュタグを探す（例：/思考 → /think）
+        ja_slash_tags = re.findall(r'(?<![a-zA-Z])/[^\s\n"' + r"']+", restored_text)
+        en_slash_tags = re.findall(r'(?<![a-zA-Z])/[a-zA-Z_][a-zA-Z0-9_]*(?![a-zA-Z0-9_])', en_text)
+        
+        for ja_tag in ja_slash_tags:
+            if re.search(r'[^\x00-\x7F]', ja_tag):  # 日本語が含まれる
+                # 英語版から対応するタグを探す
+                for en_tag in en_slash_tags:
+                    if en_tag not in restored_text:
+                        changes.append({
+                            "type": "slash_tag",
+                            "before": ja_tag,
+                            "after": en_tag,
+                        })
+                        restored_text = restored_text.replace(ja_tag, en_tag, 1)
+                        break
+        
+        if not changes:
+            return {"status": "skip", "reason": "変更なし"}
+        
+        # ファイル保存
+        if not self.dry_run:
+            filepath.write_text(restored_text, encoding="utf-8")
+        
+        return {
+            "status": "success",
+            "changes": changes,
+            "change_count": len(changes),
+        }
+    
+    def restore_all(self) -> None:
+        """全ファイルのタグを復元"""
+        print("=" * 60)
+        print("EQ-Bench3 タグ復元スクリプト")
+        print("=" * 60)
+        print(f"対象ディレクトリ: {EQBENCH_DATA_DIR}")
+        print(f"ドライラン: {self.dry_run}")
+        print()
+        
+        total_changes = 0
+        
+        for filename in TARGET_FILES:
+            filepath = EQBENCH_DATA_DIR / filename
+            if not filepath.exists():
+                print(f"[skip] {filename} - ファイルが見つかりません")
+                continue
+            
+            print(f"[process] {filename}")
+            result = self.restore_file(filepath)
+            
+            if result["status"] == "skip":
+                print(f"  ⏭️  スキップ: {result['reason']}")
+            elif result["status"] == "success":
+                print(f"  ✅ 復元完了: {result['change_count']}件の変更")
+                total_changes += result['change_count']
+                
+                if self.dry_run and result.get("changes"):
+                    for change in result["changes"][:5]:  # 最初の5件のみ表示
+                        print(f"     - {change['type']}: '{change['before']}' → '{change['after']}'")
+                    if len(result["changes"]) > 5:
+                        print(f"     ... 他 {len(result['changes']) - 5}件")
+            
+            self.stats[filename] = result
+        
+        print()
+        print("=" * 60)
+        if self.dry_run:
+            print(f"[dry-run] 合計 {total_changes}件の変更が検出されました")
+            print("実際に変更を適用するには --dry-run なしで実行してください")
+        else:
+            print(f"✅ 復元完了: 合計 {total_changes}件の変更を適用")
+        print("=" * 60)
+
+
+def main():
+    parser = argparse.ArgumentParser(description="翻訳済みファイルのタグ復元")
+    parser.add_argument("--dry-run", action="store_true", help="変更を確認のみ（実際には適用しない）")
+    args = parser.parse_args()
+    
+    restorer = TagRestorer(dry_run=args.dry_run)
+    restorer.restore_all()
+
+
+if __name__ == "__main__":
+    main()