glmocr.py

"""
GLM-OCR 汎用画像OCR・Excel出力スクリプト

モデル : zai-org/GLM-OCR (HuggingFace)
設定   : YAML または Excel (.xlsx) のコンフィグファイルで抽出項目・画像・出力先を定義
使い方 :
    python glmocr.py --config configs/invoice.yaml
    python glmocr.py --config configs/invoice.xlsx
    python glmocr.py --config configs/invoice.yaml --image scan.pdf
    python glmocr.py --config configs/invoice.yaml --create-excel   # Excel テンプレート生成
出力   : {output_dir}/{config名}.xlsx（セクションごとにシートを分けて保存）
         PDF 複数ページの場合はシート名を P01_/P02_... でページ区別する
"""

import argparse
import json
import re
import sys
from html.parser import HTMLParser
from pathlib import Path

from config_loader import load_config, create_excel_template
from preprocess import apply_preprocess, load_input_images

# Windows コンソールの文字化け対策
if sys.stdout.encoding != "utf-8":
    sys.stdout.reconfigure(encoding="utf-8", errors="replace")
if sys.stderr.encoding != "utf-8":
    sys.stderr.reconfigure(encoding="utf-8", errors="replace")

import pandas as pd
import torch
from transformers import AutoProcessor, AutoModelForImageTextToText

MODEL_ID = "zai-org/GLM-OCR"


# ─────────────────────────────────────────────
# JSON スキーマ動的生成
# ─────────────────────────────────────────────
def build_json_schema(sections: dict) -> str:
    """YAML sections 定義から GLM-OCR 用 JSON スキーマ文字列を生成する。

    Args:
        sections: YAML の sections 辞書

    Returns:
        str: JSON スキーマ文字列
    """
    schema = {name: cfg["fields"] for name, cfg in sections.items()}
    return json.dumps(schema, ensure_ascii=False, indent=2)


# ─────────────────────────────────────────────
# モデル読み込み
# ─────────────────────────────────────────────
def load_model():
    """GLM-OCR モデルと Processor を読み込む。

    Returns:
        tuple[AutoModelForImageTextToText, AutoProcessor]: モデルとプロセッサ
    """
    print(f"[INFO] モデルを読み込んでいます: {MODEL_ID}")
    processor = AutoProcessor.from_pretrained(MODEL_ID)
    model = AutoModelForImageTextToText.from_pretrained(
        MODEL_ID,
        torch_dtype="auto",
        device_map="auto",
    )
    model.eval()
    print(f"[INFO] モデル読み込み完了 (device: {model.device})")
    return model, processor


# ─────────────────────────────────────────────
# 推論
# ─────────────────────────────────────────────
def run_ocr(model, processor, pil_image: Image.Image, prompt: str) -> str:
    """単一プロンプトで GLM-OCR 推論を実行する。

    Args:
        model: GLM-OCR モデル
        processor: GLM-OCR プロセッサ
        pil_image: 入力画像 (PIL.Image)
        prompt: OCR プロンプト文字列

    Returns:
        str: モデルが生成したテキスト
    """
    messages = [
        {
            "role": "user",
            "content": [
                {"type": "image", "image": pil_image},
                {"type": "text", "text": prompt},
            ],
        }
    ]

    inputs = processor.apply_chat_template(
        messages,
        tokenize=True,
        add_generation_prompt=True,
        return_dict=True,
        return_tensors="pt",
    )
    inputs.pop("token_type_ids", None)
    inputs = {k: v.to(model.device) for k, v in inputs.items()}

    with torch.no_grad():
        generated_ids = model.generate(**inputs, max_new_tokens=8192)

    output_text = processor.decode(
        generated_ids[0][inputs["input_ids"].shape[1]:],
        skip_special_tokens=True,
    )
    return output_text.strip()


# ─────────────────────────────────────────────
# パース: HTML テーブル → DataFrame
# ─────────────────────────────────────────────
class _HtmlTableParser(HTMLParser):
    """HTML テーブルをパースして行リストを収集するシンプルなパーサー。"""

    def __init__(self):
        super().__init__()
        self.rows: list[list[str]] = []
        self._current_row: list[str] = []
        self._current_cell: str = ""
        self._in_cell: bool = False

    def handle_starttag(self, tag, attrs):
        if tag == "tr":
            self._current_row = []
        elif tag in ("td", "th"):
            self._current_cell = ""
            self._in_cell = True

    def handle_endtag(self, tag):
        if tag in ("td", "th"):
            self._current_row.append(self._current_cell.strip())
            self._in_cell = False
        elif tag == "tr":
            if self._current_row:
                self.rows.append(self._current_row)

    def handle_data(self, data):
        if self._in_cell:
            self._current_cell += data


def parse_html_table(text: str) -> pd.DataFrame:
    """OCR 出力テキストから HTML テーブルを抽出して DataFrame に変換する。

    Args:
        text: OCR モデルの出力テキスト

    Returns:
        pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。
    """
    match = re.search(r"<table.*?>.*?</table>", text, re.DOTALL | re.IGNORECASE)
    if not match:
        return pd.DataFrame()

    parser = _HtmlTableParser()
    parser.feed(match.group(0))

    if len(parser.rows) < 2:
        return pd.DataFrame()

    return pd.DataFrame(parser.rows[1:], columns=parser.rows[0])


# ─────────────────────────────────────────────
# パース: Markdown テーブル → DataFrame
# ─────────────────────────────────────────────
def parse_markdown_table(text: str) -> pd.DataFrame:
    """OCR 出力テキストから Markdown テーブルを抽出して DataFrame に変換する。

    Args:
        text: OCR モデルの出力テキスト

    Returns:
        pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。
    """
    table_lines = [l for l in text.splitlines() if "|" in l]
    if len(table_lines) < 2:
        return pd.DataFrame()

    data_lines = [l for l in table_lines if not re.match(r"^\|[\s\-:|]+\|$", l)]
    rows = [[c.strip() for c in l.strip().strip("|").split("|")] for l in data_lines]

    if not rows:
        return pd.DataFrame()
    return pd.DataFrame(rows[1:], columns=rows[0])


def parse_table(text: str) -> pd.DataFrame:
    """HTML または Markdown テーブルを自動判別してパースする。

    Args:
        text: OCR モデルの出力テキスト

    Returns:
        pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。
    """
    if "<table" in text.lower():
        return parse_html_table(text)
    return parse_markdown_table(text)


# ─────────────────────────────────────────────
# パース: JSON テキスト → dict
# ─────────────────────────────────────────────
def parse_json_output(text: str) -> dict:
    """OCR 出力テキストから JSON 部分を抽出してパースする。

    Args:
        text: OCR モデルの出力テキスト

    Returns:
        dict: パースされた JSON データ。失敗時は空の dict。
    """
    code_block = re.search(r"```(?:json)?\s*(\{.*?\})\s*```", text, re.DOTALL)
    json_str = code_block.group(1) if code_block else None

    if not json_str:
        brace_match = re.search(r"\{.*\}", text, re.DOTALL)
        if not brace_match:
            return {}
        json_str = brace_match.group(0)

    try:
        return json.loads(json_str)
    except json.JSONDecodeError:
        json_str_fixed = re.sub(r",\s*([}\]])", r"\1", json_str)
        try:
            return json.loads(json_str_fixed)
        except json.JSONDecodeError:
            return {}


# ─────────────────────────────────────────────
# Excel 保存（全シートまとめ書き）
# ─────────────────────────────────────────────
def save_excel(sheets: dict[str, pd.DataFrame], filepath: Path) -> None:
    """複数の DataFrame を 1 つの Excel ファイルにシートごとに保存する。

    Args:
        sheets: {シート名: DataFrame} の辞書（空の DataFrame は空シートとして保存）
        filepath: 出力先 Excel ファイルのパス (.xlsx)
    """
    filepath.parent.mkdir(parents=True, exist_ok=True)
    with pd.ExcelWriter(filepath, engine="openpyxl") as writer:
        for sheet_name, df in sheets.items():
            # Excel シート名は 31 文字以内の制限あり
            safe_name = sheet_name[:31]
            df.to_excel(writer, sheet_name=safe_name, index=False)
            row_info = f"{len(df)} 行" if not df.empty else "データなし"
            print(f"[OK]   シート '{safe_name}' を書き込みました ({row_info})")
    print(f"[OK]   Excel 保存完了: {filepath}")


# ─────────────────────────────────────────────
# セクション dict → DataFrame 変換
# ─────────────────────────────────────────────
def section_to_df(section: dict) -> pd.DataFrame:
    """1 レベルの dict を「key / value」の 2 列 DataFrame に変換する。

    Args:
        section: キーと値を持つ辞書

    Returns:
        pd.DataFrame: key / value の 2 列 DataFrame
    """
    if not section:
        return pd.DataFrame()
    return pd.DataFrame({"key": list(section.keys()), "value": list(section.values())})


# ─────────────────────────────────────────────
# メイン
# ─────────────────────────────────────────────
def main():
    """メイン処理: コンフィグ読み込み → 画像OCR → Excel 出力。"""
    parser = argparse.ArgumentParser(description="GLM-OCR 汎用画像OCR・CSV出力スクリプト")
    parser.add_argument(
        "--config", "-c", required=True, type=Path,
        help="コンフィグファイルのパス（.yaml または .xlsx）例: configs/invoice.yaml",
    )
    parser.add_argument(
        "--image", "-i", type=Path, default=None,
        help="画像ファイルのパス（省略時はコンフィグの image 設定を使用）",
    )
    parser.add_argument(
        "--create-excel", action="store_true",
        help="コンフィグを読み込んで Excel テンプレートを生成して終了する",
    )
    args = parser.parse_args()

    # ── コンフィグ読み込み ────────────────────
    config_path = args.config.resolve()
    if not config_path.exists():
        print(f"[ERROR] コンフィグが見つかりません: {config_path}", file=sys.stderr)
        sys.exit(1)

    cfg = load_config(config_path)

    # ── Excel テンプレート生成モード ──────────
    if args.create_excel:
        xlsx_path = config_path.with_suffix(".xlsx")
        create_excel_template(cfg, xlsx_path)
        print(f"[INFO] Excel テンプレートを生成しました: {xlsx_path}")
        sys.exit(0)
    config_dir = config_path.parent.parent  # configs/ の親 = スクリプトのディレクトリ

    # 画像パスの解決（CLI引数 > YAML設定）
    if args.image:
        image_path = args.image.resolve()
    else:
        image_path = (config_dir / cfg["image"]).resolve()

    output_dir = (config_dir / cfg.get("output_dir", "output")).resolve()
    extract_table: bool = cfg.get("extract_table", True)
    sections: dict = cfg.get("sections", {})

    if not image_path.exists():
        print(f"[ERROR] 画像が見つかりません: {image_path}", file=sys.stderr)
        sys.exit(1)

    # 出力 Excel ファイル名: {config名}.xlsx
    excel_path = output_dir / f"{config_path.stem}.xlsx"
    preprocess_cfg: dict = cfg.get("preprocess", {})

    print(f"[INFO] コンフィグ : {config_path.name}")
    print(f"[INFO] 対象ファイル: {image_path}")
    print(f"[INFO] 出力先    : {excel_path}")
    print(f"[INFO] テーブル認識: {'あり' if extract_table else 'なし'}")
    print(f"[INFO] 抽出セクション: {list(sections.keys())}")
    print(f"[INFO] 前処理設定: {preprocess_cfg or '全ステップ ON（デフォルト）'}")

    # ── 入力読み込み（画像 or PDF 全ページ）──
    print(f"\n[INFO] ファイルを読み込んでいます...")
    raw_pages = load_input_images(image_path)
    total_pages = len(raw_pages)
    print(f"[INFO] ページ数: {total_pages}")

    # ── モデル読み込み ────────────────────────
    model, processor = load_model()

    # 書き込むシートを収集する辞書 {シート名: DataFrame}
    sheets: dict[str, pd.DataFrame] = {}

    # ── 各ページを処理 ────────────────────────
    for page_no, raw_image in enumerate(raw_pages, start=1):
        # 複数ページの場合はシート名に P01_ / P02_ ... を付与
        prefix = f"P{page_no:02d}_" if total_pages > 1 else ""
        print(f"\n{'─' * 50}")
        print(f"[INFO] ページ {page_no}/{total_pages} を処理中...")

        # 前処理
        pil_image = apply_preprocess(raw_image, preprocess_cfg)
        print(f"[INFO] 画像サイズ: {pil_image.size}")

        # ── 推論①: テーブル認識（オプション）──
        if extract_table:
            print("[INFO] 推論① テーブル認識 を実行中...")
            table_text = run_ocr(model, processor, pil_image, "Table Recognition:")
            print("[RAW] テーブル認識 出力:")
            print(table_text)
            print()
            sheets[f"{prefix}table"] = parse_table(table_text)

        # ── 推論②: 構造化 JSON 抽出 ──────────
        if sections:
            print("[INFO] 推論② 構造化 JSON 抽出 を実行中...")
            json_schema = build_json_schema(sections)
            extract_prompt = (
                "Extract all the following information from this image "
                "and fill in the JSON template below. "
                "Return only valid JSON, no extra text.\n\n"
                + json_schema
            )
            json_text = run_ocr(model, processor, pil_image, extract_prompt)
            print("[RAW] JSON 抽出 出力:")
            print(json_text)
            print()

            data = parse_json_output(json_text)
            for section_name, section_cfg in sections.items():
                label = f"{prefix}{section_cfg.get('label', section_name)}"
                sheets[label] = section_to_df(data.get(section_name, {}))

    # ── Excel 保存 ────────────────────────────
    print()
    save_excel(sheets, excel_path)

    # ── 結果サマリー表示 ─────────────────────
    print("\n" + "=" * 60)
    print("  出力結果サマリー")
    print("=" * 60)

    for sheet_name, df in sheets.items():
        print(f"\n▼ {sheet_name}")
        print(df.to_string(index=False) if not df.empty else "  (データなし)")

    print("\n[INFO] 全処理が完了しました。")


if __name__ == "__main__":
    main()