"""
GLM-OCR 汎用画像OCR・Excel出力スクリプト
モデル : zai-org/GLM-OCR (HuggingFace)
設定 : YAML または Excel (.xlsx) のコンフィグファイルで抽出項目・画像・出力先を定義
使い方 :
python glmocr.py --config configs/invoice.yaml
python glmocr.py --config configs/invoice.xlsx
python glmocr.py --config configs/invoice.yaml --image scan.pdf
python glmocr.py --config configs/invoice.yaml --create-excel # Excel テンプレート生成
出力 : {output_dir}/{config名}.xlsx(セクションごとにシートを分けて保存)
PDF 複数ページの場合はシート名を P01_/P02_... でページ区別する
"""
import argparse
import json
import re
import sys
from html.parser import HTMLParser
from pathlib import Path
from config_loader import load_config, create_excel_template
from preprocess import apply_preprocess, load_input_images
# Windows コンソールの文字化け対策
if sys.stdout.encoding != "utf-8":
sys.stdout.reconfigure(encoding="utf-8", errors="replace")
if sys.stderr.encoding != "utf-8":
sys.stderr.reconfigure(encoding="utf-8", errors="replace")
import pandas as pd
import torch
from transformers import AutoProcessor, AutoModelForImageTextToText
MODEL_ID = "zai-org/GLM-OCR"
# ─────────────────────────────────────────────
# JSON スキーマ動的生成
# ─────────────────────────────────────────────
def build_json_schema(sections: dict) -> str:
"""YAML sections 定義から GLM-OCR 用 JSON スキーマ文字列を生成する。
Args:
sections: YAML の sections 辞書
Returns:
str: JSON スキーマ文字列
"""
schema = {name: cfg["fields"] for name, cfg in sections.items()}
return json.dumps(schema, ensure_ascii=False, indent=2)
# ─────────────────────────────────────────────
# モデル読み込み
# ─────────────────────────────────────────────
def load_model():
"""GLM-OCR モデルと Processor を読み込む。
Returns:
tuple[AutoModelForImageTextToText, AutoProcessor]: モデルとプロセッサ
"""
print(f"[INFO] モデルを読み込んでいます: {MODEL_ID}")
processor = AutoProcessor.from_pretrained(MODEL_ID)
model = AutoModelForImageTextToText.from_pretrained(
MODEL_ID,
torch_dtype="auto",
device_map="auto",
)
model.eval()
print(f"[INFO] モデル読み込み完了 (device: {model.device})")
return model, processor
# ─────────────────────────────────────────────
# 推論
# ─────────────────────────────────────────────
def run_ocr(model, processor, pil_image: Image.Image, prompt: str) -> str:
"""単一プロンプトで GLM-OCR 推論を実行する。
Args:
model: GLM-OCR モデル
processor: GLM-OCR プロセッサ
pil_image: 入力画像 (PIL.Image)
prompt: OCR プロンプト文字列
Returns:
str: モデルが生成したテキスト
"""
messages = [
{
"role": "user",
"content": [
{"type": "image", "image": pil_image},
{"type": "text", "text": prompt},
],
}
]
inputs = processor.apply_chat_template(
messages,
tokenize=True,
add_generation_prompt=True,
return_dict=True,
return_tensors="pt",
)
inputs.pop("token_type_ids", None)
inputs = {k: v.to(model.device) for k, v in inputs.items()}
with torch.no_grad():
generated_ids = model.generate(**inputs, max_new_tokens=8192)
output_text = processor.decode(
generated_ids[0][inputs["input_ids"].shape[1]:],
skip_special_tokens=True,
)
return output_text.strip()
# ─────────────────────────────────────────────
# パース: HTML テーブル → DataFrame
# ─────────────────────────────────────────────
class _HtmlTableParser(HTMLParser):
"""HTML テーブルをパースして行リストを収集するシンプルなパーサー。"""
def __init__(self):
super().__init__()
self.rows: list[list[str]] = []
self._current_row: list[str] = []
self._current_cell: str = ""
self._in_cell: bool = False
def handle_starttag(self, tag, attrs):
if tag == "tr":
self._current_row = []
elif tag in ("td", "th"):
self._current_cell = ""
self._in_cell = True
def handle_endtag(self, tag):
if tag in ("td", "th"):
self._current_row.append(self._current_cell.strip())
self._in_cell = False
elif tag == "tr":
if self._current_row:
self.rows.append(self._current_row)
def handle_data(self, data):
if self._in_cell:
self._current_cell += data
def parse_html_table(text: str) -> pd.DataFrame:
"""OCR 出力テキストから HTML テーブルを抽出して DataFrame に変換する。
Args:
text: OCR モデルの出力テキスト
Returns:
pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。
"""
match = re.search(r"
.*?", text, re.DOTALL | re.IGNORECASE)
if not match:
return pd.DataFrame()
parser = _HtmlTableParser()
parser.feed(match.group(0))
if len(parser.rows) < 2:
return pd.DataFrame()
return pd.DataFrame(parser.rows[1:], columns=parser.rows[0])
# ─────────────────────────────────────────────
# パース: Markdown テーブル → DataFrame
# ─────────────────────────────────────────────
def parse_markdown_table(text: str) -> pd.DataFrame:
"""OCR 出力テキストから Markdown テーブルを抽出して DataFrame に変換する。
Args:
text: OCR モデルの出力テキスト
Returns:
pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。
"""
table_lines = [l for l in text.splitlines() if "|" in l]
if len(table_lines) < 2:
return pd.DataFrame()
data_lines = [l for l in table_lines if not re.match(r"^\|[\s\-:|]+\|$", l)]
rows = [[c.strip() for c in l.strip().strip("|").split("|")] for l in data_lines]
if not rows:
return pd.DataFrame()
return pd.DataFrame(rows[1:], columns=rows[0])
def parse_table(text: str) -> pd.DataFrame:
"""HTML または Markdown テーブルを自動判別してパースする。
Args:
text: OCR モデルの出力テキスト
Returns:
pd.DataFrame: テーブルデータ。見つからない場合は空の DataFrame。
"""
if " dict:
"""OCR 出力テキストから JSON 部分を抽出してパースする。
Args:
text: OCR モデルの出力テキスト
Returns:
dict: パースされた JSON データ。失敗時は空の dict。
"""
code_block = re.search(r"```(?:json)?\s*(\{.*?\})\s*```", text, re.DOTALL)
json_str = code_block.group(1) if code_block else None
if not json_str:
brace_match = re.search(r"\{.*\}", text, re.DOTALL)
if not brace_match:
return {}
json_str = brace_match.group(0)
try:
return json.loads(json_str)
except json.JSONDecodeError:
json_str_fixed = re.sub(r",\s*([}\]])", r"\1", json_str)
try:
return json.loads(json_str_fixed)
except json.JSONDecodeError:
return {}
# ─────────────────────────────────────────────
# Excel 保存(全シートまとめ書き)
# ─────────────────────────────────────────────
def save_excel(sheets: dict[str, pd.DataFrame], filepath: Path) -> None:
"""複数の DataFrame を 1 つの Excel ファイルにシートごとに保存する。
Args:
sheets: {シート名: DataFrame} の辞書(空の DataFrame は空シートとして保存)
filepath: 出力先 Excel ファイルのパス (.xlsx)
"""
filepath.parent.mkdir(parents=True, exist_ok=True)
with pd.ExcelWriter(filepath, engine="openpyxl") as writer:
for sheet_name, df in sheets.items():
# Excel シート名は 31 文字以内の制限あり
safe_name = sheet_name[:31]
df.to_excel(writer, sheet_name=safe_name, index=False)
row_info = f"{len(df)} 行" if not df.empty else "データなし"
print(f"[OK] シート '{safe_name}' を書き込みました ({row_info})")
print(f"[OK] Excel 保存完了: {filepath}")
# ─────────────────────────────────────────────
# セクション dict → DataFrame 変換
# ─────────────────────────────────────────────
def section_to_df(section: dict) -> pd.DataFrame:
"""1 レベルの dict を「key / value」の 2 列 DataFrame に変換する。
Args:
section: キーと値を持つ辞書
Returns:
pd.DataFrame: key / value の 2 列 DataFrame
"""
if not section:
return pd.DataFrame()
return pd.DataFrame({"key": list(section.keys()), "value": list(section.values())})
# ─────────────────────────────────────────────
# メイン
# ─────────────────────────────────────────────
def main():
"""メイン処理: コンフィグ読み込み → 画像OCR → Excel 出力。"""
parser = argparse.ArgumentParser(description="GLM-OCR 汎用画像OCR・CSV出力スクリプト")
parser.add_argument(
"--config", "-c", required=True, type=Path,
help="コンフィグファイルのパス(.yaml または .xlsx)例: configs/invoice.yaml",
)
parser.add_argument(
"--image", "-i", type=Path, default=None,
help="画像ファイルのパス(省略時はコンフィグの image 設定を使用)",
)
parser.add_argument(
"--create-excel", action="store_true",
help="コンフィグを読み込んで Excel テンプレートを生成して終了する",
)
args = parser.parse_args()
# ── コンフィグ読み込み ────────────────────
config_path = args.config.resolve()
if not config_path.exists():
print(f"[ERROR] コンフィグが見つかりません: {config_path}", file=sys.stderr)
sys.exit(1)
cfg = load_config(config_path)
# ── Excel テンプレート生成モード ──────────
if args.create_excel:
xlsx_path = config_path.with_suffix(".xlsx")
create_excel_template(cfg, xlsx_path)
print(f"[INFO] Excel テンプレートを生成しました: {xlsx_path}")
sys.exit(0)
config_dir = config_path.parent.parent # configs/ の親 = スクリプトのディレクトリ
# 画像パスの解決(CLI引数 > YAML設定)
if args.image:
image_path = args.image.resolve()
else:
image_path = (config_dir / cfg["image"]).resolve()
output_dir = (config_dir / cfg.get("output_dir", "output")).resolve()
extract_table: bool = cfg.get("extract_table", True)
sections: dict = cfg.get("sections", {})
if not image_path.exists():
print(f"[ERROR] 画像が見つかりません: {image_path}", file=sys.stderr)
sys.exit(1)
# 出力 Excel ファイル名: {config名}.xlsx
excel_path = output_dir / f"{config_path.stem}.xlsx"
preprocess_cfg: dict = cfg.get("preprocess", {})
print(f"[INFO] コンフィグ : {config_path.name}")
print(f"[INFO] 対象ファイル: {image_path}")
print(f"[INFO] 出力先 : {excel_path}")
print(f"[INFO] テーブル認識: {'あり' if extract_table else 'なし'}")
print(f"[INFO] 抽出セクション: {list(sections.keys())}")
print(f"[INFO] 前処理設定: {preprocess_cfg or '全ステップ ON(デフォルト)'}")
# ── 入力読み込み(画像 or PDF 全ページ)──
print(f"\n[INFO] ファイルを読み込んでいます...")
raw_pages = load_input_images(image_path)
total_pages = len(raw_pages)
print(f"[INFO] ページ数: {total_pages}")
# ── モデル読み込み ────────────────────────
model, processor = load_model()
# 書き込むシートを収集する辞書 {シート名: DataFrame}
sheets: dict[str, pd.DataFrame] = {}
# ── 各ページを処理 ────────────────────────
for page_no, raw_image in enumerate(raw_pages, start=1):
# 複数ページの場合はシート名に P01_ / P02_ ... を付与
prefix = f"P{page_no:02d}_" if total_pages > 1 else ""
print(f"\n{'─' * 50}")
print(f"[INFO] ページ {page_no}/{total_pages} を処理中...")
# 前処理
pil_image = apply_preprocess(raw_image, preprocess_cfg)
print(f"[INFO] 画像サイズ: {pil_image.size}")
# ── 推論①: テーブル認識(オプション)──
if extract_table:
print("[INFO] 推論① テーブル認識 を実行中...")
table_text = run_ocr(model, processor, pil_image, "Table Recognition:")
print("[RAW] テーブル認識 出力:")
print(table_text)
print()
sheets[f"{prefix}table"] = parse_table(table_text)
# ── 推論②: 構造化 JSON 抽出 ──────────
if sections:
print("[INFO] 推論② 構造化 JSON 抽出 を実行中...")
json_schema = build_json_schema(sections)
extract_prompt = (
"Extract all the following information from this image "
"and fill in the JSON template below. "
"Return only valid JSON, no extra text.\n\n"
+ json_schema
)
json_text = run_ocr(model, processor, pil_image, extract_prompt)
print("[RAW] JSON 抽出 出力:")
print(json_text)
print()
data = parse_json_output(json_text)
for section_name, section_cfg in sections.items():
label = f"{prefix}{section_cfg.get('label', section_name)}"
sheets[label] = section_to_df(data.get(section_name, {}))
# ── Excel 保存 ────────────────────────────
print()
save_excel(sheets, excel_path)
# ── 結果サマリー表示 ─────────────────────
print("\n" + "=" * 60)
print(" 出力結果サマリー")
print("=" * 60)
for sheet_name, df in sheets.items():
print(f"\n▼ {sheet_name}")
print(df.to_string(index=False) if not df.empty else " (データなし)")
print("\n[INFO] 全処理が完了しました。")
if __name__ == "__main__":
main()