""" GLM-OCR 汎用画像OCR・Excel出力スクリプト モデル : zai-org/GLM-OCR (HuggingFace) 設定 : YAML または Excel (.xlsx) のコンフィグファイルで抽出項目・画像・出力先を定義 使い方 : python glmocr.py --config configs/invoice.yaml python glmocr.py --config configs/invoice.xlsx python glmocr.py --config configs/invoice.yaml --image scan.pdf python glmocr.py --config configs/invoice.yaml --create-excel # Excel テンプレート生成 出力 : {output_dir}/{config名}.xlsx(セクションごとにシートを分けて保存) PDF 複数ページの場合はシート名を P01_/P02_... でページ区別する """ import argparse import json import re import sys from html.parser import HTMLParser from pathlib import Path from config_loader import load_config, create_excel_template from preprocess import apply_preprocess, load_input_images # Windows コンソールの文字化け対策 if sys.stdout.encoding != "utf-8": sys.stdout.reconfigure(encoding="utf-8", errors="replace") if sys.stderr.encoding != "utf-8": sys.stderr.reconfigure(encoding="utf-8", errors="replace") import pandas as pd import torch from transformers import AutoProcessor, AutoModelForImageTextToText MODEL_ID = "zai-org/GLM-OCR" # ───────────────────────────────────────────── # JSON スキーマ動的生成 # ───────────────────────────────────────────── def build_json_schema(sections: dict) -> str: """YAML sections 定義から GLM-OCR 用 JSON スキーマ文字列を生成する。 Args: sections: YAML の sections 辞書 Returns: str: JSON スキーマ文字列 """ schema = {name: cfg["fields"] for name, cfg in sections.items()} return json.dumps(schema, ensure_ascii=False, indent=2) # ───────────────────────────────────────────── # モデル読み込み # ───────────────────────────────────────────── def load_model(): """GLM-OCR モデルと Processor を読み込む。 Returns: tuple[AutoModelForImageTextToText, AutoProcessor]: モデルとプロセッサ """ print(f"[INFO] モデルを読み込んでいます: {MODEL_ID}") processor = AutoProcessor.from_pretrained(MODEL_ID) model = AutoModelForImageTextToText.from_pretrained( MODEL_ID, torch_dtype="auto", device_map="auto", ) model.eval() print(f"[INFO] モデル読み込み完了 (device: {model.device})") return model, processor # ───────────────────────────────────────────── # 推論 # ───────────────────────────────────────────── def run_ocr(model, processor, pil_image: Image.Image, prompt: str) -> str: """単一プロンプトで GLM-OCR 推論を実行する。 Args: model: GLM-OCR モデル processor: GLM-OCR プロセッサ pil_image: 入力画像 (PIL.Image) prompt: OCR プロンプト文字列 Returns: str: モデルが生成したテキスト """ messages = [ { "role": "user", "content": [ {"type": "image", "image": pil_image}, {"type": "text", "text": prompt}, ], } ] inputs = processor.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_dict=True, return_tensors="pt", ) inputs.pop("token_type_ids", None) inputs = {k: v.to(model.device) for k, v in inputs.items()} with torch.no_grad(): generated_ids = model.generate(**inputs, max_new_tokens=8192) output_text = processor.decode( generated_ids[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True, ) return output_text.strip() # ───────────────────────────────────────────── # パース: HTML テーブル → DataFrame # ───────────────────────────────────────────── class _HtmlTableParser(HTMLParser): """HTML テーブルをパースして行リストを収集するシンプルなパーサー。""" def __init__(self): super().__init__() self.rows: list[list[str]] = [] self._current_row: list[str] = [] self._current_cell: str = "" self._in_cell: bool = False def handle_starttag(self, tag, attrs): if tag == "tr": self._current_row = [] elif tag in ("td", "th"): self._current_cell = "" self._in_cell = True def handle_endtag(self, tag): if tag in ("td", "th"): self._current_row.append(self._current_cell.strip()) self._in_cell = False elif tag == "tr": if self._current_row: self.rows.append(self._current_row) def handle_data(self, data): if self._in_cell: self._current_cell += data def parse_html_table(text: str) -> pd.DataFrame: """OCR 出力テキストから HTML テーブルを抽出して DataFrame に変換する。 Args: text: OCR モデルの出力テキスト Returns: pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。 """ match = re.search(r".*?", text, re.DOTALL | re.IGNORECASE) if not match: return pd.DataFrame() parser = _HtmlTableParser() parser.feed(match.group(0)) if len(parser.rows) < 2: return pd.DataFrame() return pd.DataFrame(parser.rows[1:], columns=parser.rows[0]) # ───────────────────────────────────────────── # パース: Markdown テーブル → DataFrame # ───────────────────────────────────────────── def parse_markdown_table(text: str) -> pd.DataFrame: """OCR 出力テキストから Markdown テーブルを抽出して DataFrame に変換する。 Args: text: OCR モデルの出力テキスト Returns: pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。 """ table_lines = [l for l in text.splitlines() if "|" in l] if len(table_lines) < 2: return pd.DataFrame() data_lines = [l for l in table_lines if not re.match(r"^\|[\s\-:|]+\|$", l)] rows = [[c.strip() for c in l.strip().strip("|").split("|")] for l in data_lines] if not rows: return pd.DataFrame() return pd.DataFrame(rows[1:], columns=rows[0]) def parse_table(text: str) -> pd.DataFrame: """HTML または Markdown テーブルを自動判別してパースする。 Args: text: OCR モデルの出力テキスト Returns: pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。 """ if " dict: """OCR 出力テキストから JSON 部分を抽出してパースする。 Args: text: OCR モデルの出力テキスト Returns: dict: パースされた JSON データ。失敗時は空の dict。 """ code_block = re.search(r"```(?:json)?\s*(\{.*?\})\s*```", text, re.DOTALL) json_str = code_block.group(1) if code_block else None if not json_str: brace_match = re.search(r"\{.*\}", text, re.DOTALL) if not brace_match: return {} json_str = brace_match.group(0) try: return json.loads(json_str) except json.JSONDecodeError: json_str_fixed = re.sub(r",\s*([}\]])", r"\1", json_str) try: return json.loads(json_str_fixed) except json.JSONDecodeError: return {} # ───────────────────────────────────────────── # Excel 保存(全シートまとめ書き) # ───────────────────────────────────────────── def save_excel(sheets: dict[str, pd.DataFrame], filepath: Path) -> None: """複数の DataFrame を 1 つの Excel ファイルにシートごとに保存する。 Args: sheets: {シート名: DataFrame} の辞書(空の DataFrame は空シートとして保存) filepath: 出力先 Excel ファイルのパス (.xlsx) """ filepath.parent.mkdir(parents=True, exist_ok=True) with pd.ExcelWriter(filepath, engine="openpyxl") as writer: for sheet_name, df in sheets.items(): # Excel シート名は 31 文字以内の制限あり safe_name = sheet_name[:31] df.to_excel(writer, sheet_name=safe_name, index=False) row_info = f"{len(df)} 行" if not df.empty else "データなし" print(f"[OK] シート '{safe_name}' を書き込みました ({row_info})") print(f"[OK] Excel 保存完了: {filepath}") # ───────────────────────────────────────────── # セクション dict → DataFrame 変換 # ───────────────────────────────────────────── def section_to_df(section: dict) -> pd.DataFrame: """1 レベルの dict を「key / value」の 2 列 DataFrame に変換する。 Args: section: キーと値を持つ辞書 Returns: pd.DataFrame: key / value の 2 列 DataFrame """ if not section: return pd.DataFrame() return pd.DataFrame({"key": list(section.keys()), "value": list(section.values())}) # ───────────────────────────────────────────── # メイン # ───────────────────────────────────────────── def main(): """メイン処理: コンフィグ読み込み → 画像OCR → Excel 出力。""" parser = argparse.ArgumentParser(description="GLM-OCR 汎用画像OCR・CSV出力スクリプト") parser.add_argument( "--config", "-c", required=True, type=Path, help="コンフィグファイルのパス(.yaml または .xlsx)例: configs/invoice.yaml", ) parser.add_argument( "--image", "-i", type=Path, default=None, help="画像ファイルのパス(省略時はコンフィグの image 設定を使用)", ) parser.add_argument( "--create-excel", action="store_true", help="コンフィグを読み込んで Excel テンプレートを生成して終了する", ) args = parser.parse_args() # ── コンフィグ読み込み ──────────────────── config_path = args.config.resolve() if not config_path.exists(): print(f"[ERROR] コンフィグが見つかりません: {config_path}", file=sys.stderr) sys.exit(1) cfg = load_config(config_path) # ── Excel テンプレート生成モード ────────── if args.create_excel: xlsx_path = config_path.with_suffix(".xlsx") create_excel_template(cfg, xlsx_path) print(f"[INFO] Excel テンプレートを生成しました: {xlsx_path}") sys.exit(0) config_dir = config_path.parent.parent # configs/ の親 = スクリプトのディレクトリ # 画像パスの解決(CLI引数 > YAML設定) if args.image: image_path = args.image.resolve() else: image_path = (config_dir / cfg["image"]).resolve() output_dir = (config_dir / cfg.get("output_dir", "output")).resolve() extract_table: bool = cfg.get("extract_table", True) sections: dict = cfg.get("sections", {}) if not image_path.exists(): print(f"[ERROR] 画像が見つかりません: {image_path}", file=sys.stderr) sys.exit(1) # 出力 Excel ファイル名: {config名}.xlsx excel_path = output_dir / f"{config_path.stem}.xlsx" preprocess_cfg: dict = cfg.get("preprocess", {}) print(f"[INFO] コンフィグ : {config_path.name}") print(f"[INFO] 対象ファイル: {image_path}") print(f"[INFO] 出力先 : {excel_path}") print(f"[INFO] テーブル認識: {'あり' if extract_table else 'なし'}") print(f"[INFO] 抽出セクション: {list(sections.keys())}") print(f"[INFO] 前処理設定: {preprocess_cfg or '全ステップ ON(デフォルト)'}") # ── 入力読み込み(画像 or PDF 全ページ)── print(f"\n[INFO] ファイルを読み込んでいます...") raw_pages = load_input_images(image_path) total_pages = len(raw_pages) print(f"[INFO] ページ数: {total_pages}") # ── モデル読み込み ──────────────────────── model, processor = load_model() # 書き込むシートを収集する辞書 {シート名: DataFrame} sheets: dict[str, pd.DataFrame] = {} # ── 各ページを処理 ──────────────────────── for page_no, raw_image in enumerate(raw_pages, start=1): # 複数ページの場合はシート名に P01_ / P02_ ... を付与 prefix = f"P{page_no:02d}_" if total_pages > 1 else "" print(f"\n{'─' * 50}") print(f"[INFO] ページ {page_no}/{total_pages} を処理中...") # 前処理 pil_image = apply_preprocess(raw_image, preprocess_cfg) print(f"[INFO] 画像サイズ: {pil_image.size}") # ── 推論①: テーブル認識(オプション)── if extract_table: print("[INFO] 推論① テーブル認識 を実行中...") table_text = run_ocr(model, processor, pil_image, "Table Recognition:") print("[RAW] テーブル認識 出力:") print(table_text) print() sheets[f"{prefix}table"] = parse_table(table_text) # ── 推論②: 構造化 JSON 抽出 ────────── if sections: print("[INFO] 推論② 構造化 JSON 抽出 を実行中...") json_schema = build_json_schema(sections) extract_prompt = ( "Extract all the following information from this image " "and fill in the JSON template below. " "Return only valid JSON, no extra text.\n\n" + json_schema ) json_text = run_ocr(model, processor, pil_image, extract_prompt) print("[RAW] JSON 抽出 出力:") print(json_text) print() data = parse_json_output(json_text) for section_name, section_cfg in sections.items(): label = f"{prefix}{section_cfg.get('label', section_name)}" sheets[label] = section_to_df(data.get(section_name, {})) # ── Excel 保存 ──────────────────────────── print() save_excel(sheets, excel_path) # ── 結果サマリー表示 ───────────────────── print("\n" + "=" * 60) print(" 出力結果サマリー") print("=" * 60) for sheet_name, df in sheets.items(): print(f"\n▼ {sheet_name}") print(df.to_string(index=False) if not df.empty else " (データなし)") print("\n[INFO] 全処理が完了しました。") if __name__ == "__main__": main()