diff --git a/MM_tools/README.md b/MM_tools/README.md new file mode 100644 index 0000000000000000000000000000000000000000..ea9aaff418478615f3da56e67f894bd8d08f31e0 --- /dev/null +++ b/MM_tools/README.md @@ -0,0 +1,152 @@ +# AI Tools + +ローカル AI モデルを使った 4 つのツールを Flask + Blueprint で統合したアプリです。 + +--- + +## 機能一覧 + +| # | ツール | URL | 概要 | +|---|--------|-----|------| +| ① | 多言語翻訳 | `/translation` | テキストを各国語へリアルタイム翻訳（LFM 2.5） | +| ② | OCR と翻訳 | `/ocr` | 画像から文字認識（GLM-OCR）→ 翻訳（LFM 2.5） | +| ③ | 表 OCR → Excel | `/ledger` | 帳簿・表の画像を解析して Excel に変換（Qwen3-VL） | +| ④ | VLM | `/vlm` | 画像＋プロンプトで Qwen3-VL に自由に問い合わせ（ストリーミング） | +| ⑤ | 音声文字起こし | `/whisper` | 音声・動画ファイルを文字起こし（Whisper）+ 翻訳（LFM 2.5） | + +--- + +## 起動方法 + +```bash +python run.py +``` + +ブラウザで `http://localhost:5000` を開く。 + +> ポート番号などは `config.py` で変更できます。 + +--- + +## 設定（config.py） + +`run.py` と同じフォルダにある `config.py` を編集することで、各種設定を一括変更できます。 + +| 設定項目 | デフォルト | 説明 | +|----------|-----------|------| +| `FLASK_HOST` | `"0.0.0.0"` | `"127.0.0.1"` にするとローカルのみ接続可 | +| `FLASK_PORT` | `5000` | サーバーのポート番号 | +| `FLASK_DEBUG` | `False` | デバッグモード | +| `DEVICE` | `"cpu"` | モデルのデバイス。`"cuda"` / `"auto"` も指定可 | +| `WHISPER_COMPUTE_TYPE` | `"int8"` | GPU 時は `"float16"` を推奨 | +| `LFM_MODEL_PATH` | `models/lfm2.5_instruct` | LFM 2.5 モデルの場所 | +| `GLM_OCR_PATH` | `models/GLM_OCR` | GLM-OCR モデルの場所 | +| `QWEN_MODEL_PATH` | `models/Qwen3-VL-2B-Instruct` | Qwen3-VL モデルの場所 | +| `WHISPER_SMALL_ID` | `"small"` | Whisper Small のモデルID | +| `WHISPER_LARGE_ID` | `"deepdml/..."` | Whisper Large のモデルID | +| `UPLOAD_DIR` | `app/static/uploads` | 音声ファイルの一時保存先 | +| `EXPORT_DIR` | `app/static/exports` | 書き出しテキストの保存先 | + +--- + +## 必要なモデル + +`models/` フォルダ以下に配置してください（パスは `config.py` で変更可）。 + +``` +models/ +├── lfm2.5_instruct/ # LFM 2.5 ONNX（翻訳・① ② ④ 共通） +├── GLM_OCR/ # GLM-OCR（② OCR） +└── Qwen3-VL-2B-Instruct/ # Qwen3-VL（③ 表OCR） +``` + +> Whisper モデルは `faster-whisper` が初回起動時に自動ダウンロードします。 + +--- + +## 必要なパッケージ + +```bash +pip install flask transformers pillow openpyxl faster-whisper +``` + +> venv はプロジェクトの 1 つ上の階層 `../venv/` に配置。 + +--- + +## フォルダ構成 + +``` +AI-OCR/ +│ +├── run.py # 起動エントリポイント +├── config.py # 設定ファイル（モデルパス・ポート等）← ここを編集 +├── README.md +│ +├── models/ # AI モデル保存先（config.py で変更可） +│ ├── lfm2.5_instruct/ +│ ├── GLM_OCR/ +│ └── Qwen3-VL-2B-Instruct/ +│ +├── app/ +│ ├── __init__.py # Flask アプリファクトリ +│ ├── templates/ +│ │ └── base.html # 共通レイアウト（ナビ・背景・雪アニメーション） +│ ├── static/ +│ │ ├── HP1.png # 背景画像 +│ │ ├── Flag_of_Japan_Customs.svg.png # ナビロゴ +│ │ ├── uploads/ # 音声ファイル一時保存 +│ │ └── exports/ # テキスト書き出し保存 +│ ├── shared/ +│ │ ├── models.py # 遅延ロード モデル管理（全 Blueprint 共用） +│ │ └── utils.py # SSE ヘルパー等 +│ └── blueprints/ +│ ├── main/ # / トップページ +│ ├── translation/ # /translation 多言語翻訳 +│ ├── ocr/ # /ocr OCR と翻訳 +│ ├── ledger/ # /ledger 表 OCR → Excel +│ ├── vlm/ # /vlm VLM（画像＋プロンプト） +│ └── whisper/ # /whisper 音声文字起こし +│ └── engine/ +│ └── core.py # 文字起こし + 翻訳コア +│ +└── WhisperApp/ # 旧スタンドアロン版（参照用） +``` + +--- + +## 各ツールの詳細 + +### ① 多言語翻訳 `/translation` +- 左ボックスに原文を入力 → 右ボックスに翻訳結果をリアルタイム表示 +- 原文言語は自動検出（Auto）または手動指定 +- 翻訳先は日本語・英語ほか自由入力可 + +### ② OCR と翻訳 `/ocr` +- 画像をアップロード → GLM-OCR でテキスト抽出 → LFM 2.5 で翻訳 +- 結果はリアルタイムにストリーミング表示 + +### ③ 表 OCR → Excel `/ledger` +- 帳簿・表形式の画像を Qwen3-VL-2B で解析 +- JSON 構造を自動抽出 → openpyxl で Excel (.xlsx) に変換 → ダウンロード + +### ④ VLM `/vlm` +- 画像をアップロードしてプロンプトで Qwen3-VL-2B に自由に問い合わせ +- プリセットボタン: 画像の概要・文字読み取り要約・HTML テーブル変換・フリー入力 +- 結果はトークン単位でリアルタイムストリーミング表示 +- HTML タグが含まれる場合はそのまま HTML レンダリング（テーブルなど） + +### ⑤ 音声文字起こし `/whisper` +- .mp3 / .wav / .mp4 / .m4a / .ogg をドラッグ&ドロップでアップロード +- **Small**（高速・シアン枠）/ **Large-v3-turbo**（高精度・レッド枠）を選択 +- 出力形式: タイムスタンプあり（`whisper_text_time.txt`）/ なし（`whisper_only_text.txt`） +- 翻訳オプション: LFM 2.5 で各セグメントを翻訳（「英語」「中国語」など言語名で指定） +- 処理中は右上にスピナー表示、結果はリアルタイムにストリーミング表示 + +--- + +## 注意事項 + +- モデルはすべて初回リクエスト時に遅延ロードされます（起動は即座に完了します） +- モデルのロード中は画面にステータスが表示されます +- CPU 動作が前提です。GPU を使う場合は `config.py` で `DEVICE = "cuda"`、`WHISPER_COMPUTE_TYPE = "float16"` に変更してください diff --git a/MM_tools/app/__init__.py b/MM_tools/app/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e1355b5377a0a39ea0b0735522a6e6ce3c56c264 --- /dev/null +++ b/MM_tools/app/__init__.py @@ -0,0 +1,30 @@ +"""Flask アプリケーションファクトリ。""" + +from flask import Flask + + +def create_app() -> Flask: + """ + Flask アプリケーションを生成・設定して返す。 + + Returns: + Flask: 設定済みの Flask アプリインスタンス + """ + app = Flask(__name__, template_folder="templates") + + # Blueprint の登録 + from .blueprints.main import main_bp + from .blueprints.translation import translation_bp + from .blueprints.ocr import ocr_bp + from .blueprints.ledger import ledger_bp + from .blueprints.vlm import vlm_bp + from .blueprints.whisper import whisper_bp + + app.register_blueprint(main_bp) + app.register_blueprint(translation_bp, url_prefix="/translation") + app.register_blueprint(ocr_bp, url_prefix="/ocr") + app.register_blueprint(ledger_bp, url_prefix="/ledger") + app.register_blueprint(vlm_bp, url_prefix="/vlm") + app.register_blueprint(whisper_bp, url_prefix="/whisper") + + return app diff --git a/MM_tools/app/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..ade54ebf257a9450589225cc1e4f3a895ea62eec Binary files /dev/null and b/MM_tools/app/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/ledger/__init__.py b/MM_tools/app/blueprints/ledger/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..8ac4d66558f7a840aaa432580cd343c3dcdeb2b3 --- /dev/null +++ b/MM_tools/app/blueprints/ledger/__init__.py @@ -0,0 +1,9 @@ +from flask import Blueprint + +ledger_bp = Blueprint( + "ledger", + __name__, + template_folder="templates", +) + +from . import routes # noqa: E402, F401 diff --git a/MM_tools/app/blueprints/ledger/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/blueprints/ledger/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..71beb7bbc41d8d771f58af86653ebb247a3e6482 Binary files /dev/null and b/MM_tools/app/blueprints/ledger/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/ledger/__pycache__/routes.cpython-314.pyc b/MM_tools/app/blueprints/ledger/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..948f7dbeef896d8002d5914990e54d4908c893d4 Binary files /dev/null and b/MM_tools/app/blueprints/ledger/__pycache__/routes.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/ledger/routes.py b/MM_tools/app/blueprints/ledger/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..8cc4d3fa889725f7aafec786bac0c895edf4a5e0 --- /dev/null +++ b/MM_tools/app/blueprints/ledger/routes.py @@ -0,0 +1,346 @@ +""" +ledger ブループリント ルーティング。 + +③ 表形式 OCR → Excel 出力ページ。 +帳簿・表の画像を Qwen3-VL-2B で解析し、JSON → Excel に変換して提供する。 +進捗は SSE (Server-Sent Events) でストリーミング送信する。 +""" + +import io +import re +import json +import threading +from datetime import datetime +from pathlib import Path + +from flask import render_template, request, Response, stream_with_context, send_file +from PIL import Image + +from . import ledger_bp +from app.shared.models import get_qwen_model +from app.shared.utils import sse_event + +# 出力先ディレクトリ（プロジェクトルートの output/） +OUTPUT_DIR = Path(__file__).parent.parent.parent.parent / "output" +OUTPUT_DIR.mkdir(exist_ok=True) + +# モデルは 1 スレッドのみ利用可能なため排他ロック +_model_lock = threading.Lock() + +# 表データ抽出プロンプト +OCR_PROMPT = """この画像は帳簿・表をカメラで撮影したものです。 +画像内の表形式データをすべて読み取り、以下のJSON形式のみで出力してください。 + +```json +{ + "title": "帳簿のタイトル（ある場合。なければ null）", + "tables": [ + { + "headers": ["列名1", "列名2", "列名3"], + "rows": [ + ["セル1", "セル2", "セル3"] + ] + } + ] +} +``` + +注意事項： +- 数字は半角で出力してください +- 日付は記載通りに出力してください +- 判読できない箇所は「???」と記載してください +- 表が複数ある場合は tables 配列に複数のオブジェクトを含めてください +- JSONのみを出力してください（前後の説明文は不要です）""" + + +@ledger_bp.route("/") +def index(): + """表 OCR ページを返す。""" + return render_template("ledger/index.html") + + +@ledger_bp.route("/process", methods=["POST"]) +def process(): + """ + 画像を受け取り、Qwen3-VL で表データを抽出して Excel に変換する。 + 進捗を SSE でストリーミングし、完了後にダウンロード URL を返す。 + + Form data: + image (file): アップロード画像（任意） + image_path (str): 画像ファイルパス（任意） + ※ どちらか一方を指定 + + Returns: + text/event-stream: 進捗メッセージ → {"done": True, "download": "/ledger/download/"} + """ + # 画像の取得（アップロード優先、なければパス指定） + image_file = request.files.get("image") + image_path_str = request.form.get("image_path", "").strip() + + # SSEジェネレータの遅延実行時にリクエストストリームが閉じられる問題を防ぐため、 + # ここでバイト列として先読みしておく + image_bytes: bytes | None = None + if image_file and image_file.filename: + image_bytes = image_file.read() + + def generate(): + with _model_lock: + try: + # ── 画像読み込み ── + yield sse_event({"progress": "画像を読み込み中...", "step": 1}) + + if image_bytes: + image = Image.open(io.BytesIO(image_bytes)).convert("RGB") + elif image_path_str: + p = Path(image_path_str) + if not p.exists(): + yield sse_event({"error": f"ファイルが見つかりません: {image_path_str}"}) + return + image = Image.open(p).convert("RGB") + else: + yield sse_event({"error": "画像をアップロードするか、パスを入力してください。"}) + return + + # ── モデルロード ── + yield sse_event({"progress": "モデルをロード中（初回のみ数分かかります）...", "step": 2}) + processor, model = get_qwen_model() + device = next(model.parameters()).device + + # ── OCR 実行 ── + yield sse_event({"progress": "表データを解析中（しばらくお待ちください）...", "step": 3}) + + import torch + + messages = [ + { + "role": "user", + "content": [ + {"type": "image"}, + {"type": "text", "text": OCR_PROMPT}, + ], + } + ] + + text_input = processor.apply_chat_template( + messages, + tokenize=False, + add_generation_prompt=True, + ) + inputs = processor( + images=[image], + text=[text_input], + padding=True, + return_tensors="pt", + ) + inputs = {k: v.to(device) for k, v in inputs.items()} + + with torch.no_grad(): + generated_ids = model.generate( + **inputs, + max_new_tokens=2048, + do_sample=False, + ) + + generated_ids_trimmed = [ + out_ids[len(in_ids):] + for in_ids, out_ids in zip(inputs["input_ids"], generated_ids) + ] + result_text = processor.batch_decode( + generated_ids_trimmed, + skip_special_tokens=True, + clean_up_tokenization_spaces=False, + )[0] + + # ── JSON → Excel 変換 ── + yield sse_event({"progress": "Excel ファイルを生成中...", "step": 4}) + + timestamp = datetime.now().strftime("%Y%m%d_%H%M%S") + output_filename = f"ledger_{timestamp}.xlsx" + output_path = OUTPUT_DIR / output_filename + + parsed = _extract_json(result_text) + if parsed: + _save_to_excel(parsed, output_path) + else: + _fallback_save(result_text, output_path) + + yield sse_event({ + "done": True, + "download": f"/ledger/download/{output_filename}", + "filename": output_filename, + }) + + except Exception as exc: + yield sse_event({"error": f"処理エラー: {exc}"}) + + response = Response(stream_with_context(generate()), mimetype="text/event-stream") + response.headers["Cache-Control"] = "no-cache" + response.headers["X-Accel-Buffering"] = "no" + return response + + +@ledger_bp.route("/download/") +def download(filename: str): + """ + 生成済み Excel ファイルをダウンロードとして提供する。 + + Args: + filename: ファイル名（ledger_YYYYMMDD_HHMMSS.xlsx 形式のみ許可） + + Returns: + Excel ファイルのダウンロードレスポンス + """ + # パストラバーサル防止：ファイル名のみ許可 + safe_name = Path(filename).name + if not re.match(r'^ledger_\d{8}_\d{6}\.xlsx$', safe_name): + return "ファイルが見つかりません", 404 + + file_path = OUTPUT_DIR / safe_name + if not file_path.exists(): + return "ファイルが見つかりません", 404 + + return send_file( + file_path, + as_attachment=True, + download_name=safe_name, + mimetype="application/vnd.openxmlformats-officedocument.spreadsheetml.sheet", + ) + + +# ── Excel 書き出しユーティリティ ────────────────────────────────────────── + + +def _extract_json(text: str) -> dict | None: + """ + モデル出力テキストから JSON オブジェクトを抽出する。 + + Args: + text: モデルが生成したテキスト + + Returns: + dict | None: パース済み JSON、失敗時は None + """ + for pattern in [r'```json\s*([\s\S]*?)\s*```', r'```\s*([\s\S]*?)\s*```', r'(\{[\s\S]*\})']: + m = re.search(pattern, text) + if m: + try: + return json.loads(m.group(1)) + except json.JSONDecodeError: + pass + return None + + +def _try_numeric(value: str): + """ + 文字列を int → float の順で変換を試み、失敗時は元の文字列を返す。 + + Args: + value: セルの値文字列 + + Returns: + int | float | str: 変換後の値 + """ + if not isinstance(value, str): + return value + cleaned = value.replace(",", "").replace("，", "") + try: + return int(cleaned) + except ValueError: + pass + try: + return float(cleaned) + except ValueError: + pass + return value + + +def _save_to_excel(data: dict, output_path: Path) -> None: + """ + JSON データを整形した Excel ファイルに書き出す。 + + Args: + data: 抽出済み JSON 辞書 (title, tables キーを持つ) + output_path: 保存先パス + """ + import openpyxl + from openpyxl.styles import Font, PatternFill, Alignment + + HEADER_FILL = PatternFill(start_color="4472C4", end_color="4472C4", fill_type="solid") + ROW_FILL_ODD = PatternFill(start_color="DCE6F1", end_color="DCE6F1", fill_type="solid") + + wb = openpyxl.Workbook() + book_title = data.get("title") + tables = data.get("tables", []) + + if not tables: + raise ValueError("tables キーが空です。") + + for idx, table in enumerate(tables): + ws = wb.active if idx == 0 else wb.create_sheet() + ws.title = f"帳簿{idx + 1}" + row_ptr = 1 + + if book_title and idx == 0: + title_cell = ws.cell(row=row_ptr, column=1, value=book_title) + title_cell.font = Font(bold=True, size=14) + row_ptr += 2 + + headers = table.get("headers", []) + rows = table.get("rows", []) + + for col_idx, header in enumerate(headers, start=1): + cell = ws.cell(row=row_ptr, column=col_idx, value=header) + cell.font = Font(bold=True, color="FFFFFF") + cell.fill = HEADER_FILL + cell.alignment = Alignment(horizontal="center", vertical="center", wrap_text=True) + row_ptr += 1 + + for row_num, row_data in enumerate(rows): + fill = ROW_FILL_ODD if row_num % 2 == 0 else None + for col_idx, raw_value in enumerate(row_data, start=1): + value = _try_numeric(raw_value) + cell = ws.cell(row=row_ptr, column=col_idx, value=value) + cell.alignment = Alignment(vertical="center", wrap_text=True) + if fill: + cell.fill = fill + if isinstance(value, (int, float)): + cell.alignment = Alignment(horizontal="right", vertical="center") + row_ptr += 1 + + for row in ws.iter_rows(): + ws.row_dimensions[row[0].row].height = 18 + + for col in ws.columns: + max_len = 0 + col_letter = col[0].column_letter + for cell in col: + if cell.value: + w = sum(2 if ord(c) > 127 else 1 for c in str(cell.value)) + max_len = max(max_len, w) + ws.column_dimensions[col_letter].width = min(max_len + 4, 50) + + header_row = 1 if not book_title else 3 + ws.freeze_panes = ws.cell(row=header_row + 1, column=1) + + wb.save(str(output_path)) + + +def _fallback_save(text: str, output_path: Path) -> None: + """ + JSON パース失敗時のフォールバック: テキストをそのまま Excel に保存する。 + + Args: + text: モデルの生出力テキスト + output_path: 保存先パス + """ + import openpyxl + from openpyxl.styles import Font + + wb = openpyxl.Workbook() + ws = wb.active + ws.title = "OCR結果（テキスト）" + ws.cell(row=1, column=1, value="OCR結果（JSON解析失敗）").font = Font(bold=True, size=12) + for i, line in enumerate(text.splitlines(), start=2): + ws.cell(row=i, column=1, value=line) + ws.column_dimensions["A"].width = 80 + wb.save(str(output_path)) diff --git a/MM_tools/app/blueprints/ledger/templates/ledger/index.html b/MM_tools/app/blueprints/ledger/templates/ledger/index.html new file mode 100644 index 0000000000000000000000000000000000000000..70eed81ce5124d808dce089442c50f8f16996c1a --- /dev/null +++ b/MM_tools/app/blueprints/ledger/templates/ledger/index.html @@ -0,0 +1,379 @@ +{% extends "base.html" %} + +{% block title %}表 OCR → Excel - AI Tools{% endblock %} + +{% block head %} + +{% endblock %} + +{% block content %} +
+ + +
+
+ + + +
+
+

表 OCR → Excel 出力

+

Qwen3-VL-2B で帳簿・表を解析して Excel ファイルを生成

+
+
+ +
+ + +
+ + +
+
+ + + +
+

使い方

+
    +
  1. 帳簿・表が写った画像をアップロード（またはパスを入力）
    2. +
  2. 「Excel を生成」ボタンをクリック
    3. +
  3. 解析完了後、Excel ファイルをダウンロード
    4. +
+
+
+
+ + +
+ +
+ + + + +
+
+ + + +
+

クリックまたはドラッグ＆ドロップ

+

PNG, JPG, WEBP など

+
+ + +
+
+ + +
+ +
+ +
+

+ ※ アップロード画像がある場合はそちらが優先されます +

+
+ + + + +
+ + +
+ + +
+

処理ステップ

+
+
+
1
+
+

画像の読み込み

+

画像ファイルを開きます

+
+
+
+
2
+
+

モデルのロード

+

初回のみ数分かかります

+
+
+
+
3
+
+

表データの解析

+

Qwen3-VL で OCR・JSON 抽出

+
+
+
+
4
+
+

Excel ファイルの生成

+

openpyxl で書き出します

+
+
+
+ + +

+
+ + + + + + + + +
+

対応画像形式

+
+ JPG + PNG + WEBP + BMP + TIFF +
+

精度を上げるコツ

+
    +
  • • 表全体が収まるように撮影
    • +
  • • 十分な明るさで水平に撮影
    • +
  • • 解像度は高いほど精度が向上
    • +
+
+ +
+ +
+
+ + +{% endblock %} diff --git a/MM_tools/app/blueprints/main/__init__.py b/MM_tools/app/blueprints/main/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..6d2a3f772d35882002faab779bd9e3b94c0424df --- /dev/null +++ b/MM_tools/app/blueprints/main/__init__.py @@ -0,0 +1,9 @@ +from flask import Blueprint + +main_bp = Blueprint( + "main", + __name__, + template_folder="templates", +) + +from . import routes # noqa: E402, F401 diff --git a/MM_tools/app/blueprints/main/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/blueprints/main/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..081b638bd3064d067637a5a526933f6e62d7f0a3 Binary files /dev/null and b/MM_tools/app/blueprints/main/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/main/__pycache__/routes.cpython-314.pyc b/MM_tools/app/blueprints/main/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..9561d43cea42527140c74f0ca64403346a86097c Binary files /dev/null and b/MM_tools/app/blueprints/main/__pycache__/routes.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/main/routes.py b/MM_tools/app/blueprints/main/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..cfa1454c24985cd5e01279d9efaaaccfbb4e2d5a --- /dev/null +++ b/MM_tools/app/blueprints/main/routes.py @@ -0,0 +1,10 @@ +"""main ブループリント ルーティング（トップページ）。""" + +from flask import render_template +from . import main_bp + + +@main_bp.route("/") +def index(): + """トップページを返す。""" + return render_template("main/index.html") diff --git a/MM_tools/app/blueprints/main/templates/main/index.html b/MM_tools/app/blueprints/main/templates/main/index.html new file mode 100644 index 0000000000000000000000000000000000000000..6425090e9167936f2e4e83d5e556e3d36fd8a2de --- /dev/null +++ b/MM_tools/app/blueprints/main/templates/main/index.html @@ -0,0 +1,216 @@ +{% extends "base.html" %} + +{% block title %}AI Tools - トップページ{% endblock %} + +{% block content %} +
+ + +
+
+ + + +
+

AI Tools

+

+ ローカル AI モデルを使った、翻訳・OCR・帳簿 Excel 化・VLM・音声文字起こしツール +

+
+ + +
+ + + +
+ + + +
+
+
+ ① 翻訳 +
+

+ 多言語翻訳 +

+

+ テキストを自由に入力して多言語へ翻訳。日本語・英語ほか、任意の言語を指定できます。 +

+
+ 開く + + + +
+
+ + + + +
+ + + + +
+
+
+ ② OCR +
+

+ OCR と翻訳 +

+

+ 画像をアップロードして GLM-OCR でテキスト抽出。抽出結果をそのまま日本語翻訳できます。 +

+
+ 開く + + + +
+
+ + + + +
+ + + +
+
+
+ ③ Excel 出力 +
+

+ 表 OCR → Excel +

+

+ 帳簿・表の画像を Qwen3-VL で解析し、Excel ファイルとしてダウンロードできます。 +

+
+ 開く + + + +
+
+ + + + +
+ + + +
+
+
+ ④ VLM +
+

+ ビジュアル言語モデル +

+

+ 画像とプロンプトで Qwen3-VL に自由に問い合わせ。概要・文字読み取り・HTML テーブル化など。 +

+
+ 開く + + + +
+
+ + + + +
+ + + +
+
+
+ ⑤ 文字起こし +
+

+ 音声文字起こし +

+

+ 音声・動画ファイルを Whisper で解析。タイムスタンプあり/なしで書き起こしテキストを出力。 +

+
+ 開く + + + +
+
+ + +
+ + +
+

使用モデル

+
+
+
+
+

多言語翻訳

+

LFM 2.5 (ONNX)

+
+
+
+
+
+

OCR と翻訳

+

GLM-OCR + LFM 2.5

+
+
+
+
+
+

表 OCR → Excel

+

Qwen3-VL-2B-Instruct

+
+
+
+
+
+

VLM

+

Qwen3-VL-2B-Instruct

+
+
+
+
+
+

音声文字起こし

+

Whisper Small / Large-v3-turbo

+
+
+
+
+ +
+{% endblock %} diff --git a/MM_tools/app/blueprints/ocr/__init__.py b/MM_tools/app/blueprints/ocr/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..104dae4b053eba7b1d377c6413f877938e872991 --- /dev/null +++ b/MM_tools/app/blueprints/ocr/__init__.py @@ -0,0 +1,9 @@ +from flask import Blueprint + +ocr_bp = Blueprint( + "ocr", + __name__, + template_folder="templates", +) + +from . import routes # noqa: E402, F401 diff --git a/MM_tools/app/blueprints/ocr/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/blueprints/ocr/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..9b0e05a41652e69d0fab78698c661ebe6b2f7547 Binary files /dev/null and b/MM_tools/app/blueprints/ocr/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/ocr/__pycache__/routes.cpython-314.pyc b/MM_tools/app/blueprints/ocr/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..4eb4e0605ff25d981497d2461298860baa900102 Binary files /dev/null and b/MM_tools/app/blueprints/ocr/__pycache__/routes.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/ocr/routes.py b/MM_tools/app/blueprints/ocr/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..83c8d9ca851e0944977ef39734b89a38ab6a3612 --- /dev/null +++ b/MM_tools/app/blueprints/ocr/routes.py @@ -0,0 +1,200 @@ +""" +ocr ブループリント ルーティング。 + +② OCR と翻訳ページ。 +GLM-OCR で画像からテキストを抽出し、LFM 2.5 (ONNX) で日本語翻訳する。 +両処理とも SSE (Server-Sent Events) でストリーミング送信する。 +ステータスイベント: {"status": "loading"|"processing", "message": "...", "detail": "..."} +""" + +import io +import threading + +from flask import render_template, request, Response, stream_with_context +from PIL import Image + +from . import ocr_bp +from app.shared.models import get_glm_model, get_lfm, is_glm_loaded, is_lfm_loaded, get_lfm_lock +from app.shared.utils import sse_event, resize_image_to_base64 + + +@ocr_bp.route("/") +def index(): + """OCR ページを返す。""" + return render_template("ocr/index.html") + + +@ocr_bp.route("/run", methods=["POST"]) +def run_ocr(): + """ + 画像とプロンプトを受け取り、GLM-OCR 結果を SSE でストリーミングする。 + + Form data: + image (file): アップロード画像 + prompt (str): OCR プロンプト（省略時はデフォルト） + + SSE イベント: + {"status": "loading", "message": "...", "detail": "..."} モデルロード中 + {"status": "processing", "message": "...", "detail": "..."} OCR処理中 + {"text": "累積テキスト"} トークンストリーム + {"done": True} 完了 + + Returns: + text/event-stream + """ + from transformers import TextIteratorStreamer + + if "image" not in request.files or request.files["image"].filename == "": + def _err(): + yield sse_event({"error": "画像をアップロードしてください。"}) + return Response(stream_with_context(_err()), mimetype="text/event-stream") + + image_file = request.files["image"] + prompt = request.form.get("prompt", "").strip() + if not prompt: + prompt = "画像内のテキストをすべて読み取ってHTMLとして出力してください。" + + # ファイルバイトを先読み（ジェネレータ遅延実行時にストリームが閉じる問題を防ぐ） + try: + image_bytes = image_file.read() + except Exception as exc: + def _err(): + yield sse_event({"error": f"画像の読み込みに失敗しました: {exc}"}) + return Response(stream_with_context(_err()), mimetype="text/event-stream") + + def generate(): + """モデルロード → OCR → SSE ストリーミングを行うジェネレータ。""" + # ── 画像を開く ────────────────────────────────────────────── + try: + image = Image.open(io.BytesIO(image_bytes)).convert("RGB") + image_base64 = resize_image_to_base64(image) + except Exception as exc: + yield sse_event({"error": f"画像の読み込みに失敗しました: {exc}"}) + return + + # ── モデルロード状態を通知 ────────────────────────────────── + if not is_glm_loaded(): + yield sse_event({ + "status": "loading", + "message": "OCR モデルをロード中...", + "detail": "初回のみ数分かかります。しばらくお待ちください。", + }) + else: + yield sse_event({ + "status": "processing", + "message": "OCR を開始します...", + "detail": "", + }) + + try: + processor, model = get_glm_model() + except Exception as exc: + yield sse_event({"error": f"OCR モデルのロードに失敗しました: {exc}"}) + return + + # ── OCR 処理中を通知 ──────────────────────────────────────── + yield sse_event({ + "status": "processing", + "message": "OCR 解析中...", + "detail": "画像からテキストを認識しています", + }) + + messages = [ + { + "role": "user", + "content": [ + {"type": "image", "image": f"data:image/jpeg;base64,{image_base64}"}, + {"type": "text", "text": prompt}, + ], + } + ] + + inputs = processor.apply_chat_template( + messages, + tokenize=True, + add_generation_prompt=True, + return_dict=True, + return_tensors="pt", + ).to(model.device) + inputs.pop("token_type_ids", None) + + streamer = TextIteratorStreamer(processor, skip_prompt=True, skip_special_tokens=True) + generation_kwargs = {**inputs, "max_new_tokens": 5120, "streamer": streamer} + thread = threading.Thread(target=model.generate, kwargs=generation_kwargs) + + thread.start() + output_text = "" + for token in streamer: + output_text += token + yield sse_event({"text": output_text}) + thread.join() + yield sse_event({"done": True}) + + response = Response(stream_with_context(generate()), mimetype="text/event-stream") + response.headers["Cache-Control"] = "no-cache" + response.headers["X-Accel-Buffering"] = "no" + return response + + +@ocr_bp.route("/translate", methods=["POST"]) +def translate(): + """ + OCR テキストを受け取り、LFM 2.5 (ONNX) で日本語翻訳して SSE でストリーミングする。 + + Form data: + text (str): 翻訳対象のプレーンテキスト（OCR 出力の innerText） + + SSE イベント: + {"status": "loading", "message": "...", "detail": "..."} モデルロード中 + {"status": "processing", "message": "...", "detail": "..."} 翻訳処理中 + {"text": "累積テキスト"} トークンストリーム + {"done": True} 完了 + + Returns: + text/event-stream + """ + text = request.form.get("text", "").strip() + if not text: + def _err(): + yield sse_event({"error": "翻訳するテキストがありません。"}) + return Response(stream_with_context(_err()), mimetype="text/event-stream") + + system_prompt = ( + "あなたはプロの翻訳者です。与えられた文章を日本語に翻訳してください。" + "翻訳文のみを出力してください。説明や補足は不要です。" + ) + + def generate(): + """翻訳トークンを SSE で送信するジェネレータ。""" + with get_lfm_lock(): + # ── モデルロード状態を通知 ────────────────────────────── + if not is_lfm_loaded(): + yield sse_event({ + "status": "loading", + "message": "翻訳モデルをロード中...", + "detail": "初回のみ数分かかります。しばらくお待ちください。", + }) + else: + yield sse_event({ + "status": "processing", + "message": "翻訳中...", + "detail": "テキストを日本語に変換しています", + }) + + try: + llm = get_lfm() + yield sse_event({ + "status": "processing", + "message": "翻訳中...", + "detail": "テキストを日本語に変換しています", + }) + for chunk in llm.stream(user_prompt=text, system_prompt=system_prompt): + yield sse_event({"text": chunk}) + yield sse_event({"done": True}) + except Exception as exc: + yield sse_event({"error": f"翻訳エラー: {exc}"}) + + response = Response(stream_with_context(generate()), mimetype="text/event-stream") + response.headers["Cache-Control"] = "no-cache" + response.headers["X-Accel-Buffering"] = "no" + return response diff --git a/MM_tools/app/blueprints/ocr/templates/ocr/index.html b/MM_tools/app/blueprints/ocr/templates/ocr/index.html new file mode 100644 index 0000000000000000000000000000000000000000..9ffb47c91b06c1fd4f30cb2d687ab89304cb1424 --- /dev/null +++ b/MM_tools/app/blueprints/ocr/templates/ocr/index.html @@ -0,0 +1,586 @@ +{% extends "base.html" %} + +{% block title %}OCR と翻訳 - AI Tools{% endblock %} + +{% block head %} + +{% endblock %} + +{% block content %} +
+ + +
+
+ + + + +
+
+

OCR と翻訳

+

GLM-OCR で文字認識 → LFM 2.5 で日本語翻訳

+
+
+ +
+ + +
+ + +
+ +
+ + + + +
+
+ + + +
+

クリックまたはドラッグ＆ドロップ

+

PNG, JPG, WEBP など

+
+ + +
+
+ + +
+ +
+ + + + +
+ + +
+ + + +
+ + +
+ + +
+ + +
+ + +
+ + + + +
+
+ + + +

OCR 結果がここに表示されます

+
+
+ +
+ + +
+ + +
+
+
+ + + + +
+
+
+ + +{% endblock %} diff --git a/MM_tools/app/blueprints/translation/__init__.py b/MM_tools/app/blueprints/translation/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e99684a8ed8ecd8399a73bd7a0875668bbaa3c9e --- /dev/null +++ b/MM_tools/app/blueprints/translation/__init__.py @@ -0,0 +1,9 @@ +from flask import Blueprint + +translation_bp = Blueprint( + "translation", + __name__, + template_folder="templates", +) + +from . import routes # noqa: E402, F401 diff --git a/MM_tools/app/blueprints/translation/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/blueprints/translation/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..8461801e6f1715389abaade64df37f1267fda27f Binary files /dev/null and b/MM_tools/app/blueprints/translation/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/translation/__pycache__/routes.cpython-314.pyc b/MM_tools/app/blueprints/translation/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..660b5b21e678aa906e76e4c5c48f0586855740e5 Binary files /dev/null and b/MM_tools/app/blueprints/translation/__pycache__/routes.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/translation/routes.py b/MM_tools/app/blueprints/translation/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..5080ff44d7e6002600042b7637a488a79e8afc12 --- /dev/null +++ b/MM_tools/app/blueprints/translation/routes.py @@ -0,0 +1,98 @@ +""" +translation ブループリント ルーティング。 + +① 多言語翻訳ページ。 +テキストを受け取り、指定言語へ LFM 2.5 (ONNX) で翻訳する。 +翻訳結果は SSE (Server-Sent Events) でストリーミング送信する。 +ステータスイベント: {"status": "loading"|"processing", "message": "...", "detail": "..."} +""" + +from flask import render_template, request, Response, stream_with_context +from . import translation_bp +from app.shared.models import get_lfm, is_lfm_loaded, get_lfm_lock +from app.shared.utils import sse_event + + +@translation_bp.route("/") +def index(): + """翻訳ページを返す。""" + return render_template("translation/index.html") + + +@translation_bp.route("/translate", methods=["POST"]) +def translate(): + """ + テキストを受け取り、指定言語に翻訳して SSE でストリーミングする。 + + Form data: + text (str) : 翻訳対象テキスト + source_lang (str): 原文言語（例: "Auto", "日本語", "English"） + target_lang (str): 翻訳先言語（例: "日本語", "English", "中国語"） + + SSE イベント: + {"status": "loading", "message": "...", "detail": "..."} + {"status": "processing", "message": "...", "detail": "..."} + {"text": "累積テキスト"} + {"done": True} + + Returns: + text/event-stream + """ + text = request.form.get("text", "").strip() + source_lang = request.form.get("source_lang", "Auto").strip() or "Auto" + target_lang = request.form.get("target_lang", "日本語").strip() or "日本語" + + if not text: + def _err(): + yield sse_event({"error": "翻訳するテキストを入力してください。"}) + return Response(stream_with_context(_err()), mimetype="text/event-stream") + + # 原文言語の付加情報をユーザープロンプトに含める + if source_lang.lower() in ("auto", "自動"): + user_prompt = text + else: + user_prompt = f"（{source_lang}）\n{text}" + + system_prompt = ( + f"あなたはプロの翻訳者です。" + f"与えられた文章を{target_lang}に翻訳してください。" + "翻訳文のみを出力してください。説明や補足は不要です。" + ) + + def generate(): + """翻訳トークンを SSE で送信するジェネレータ。""" + with get_lfm_lock(): + # モデルロード状態を通知 + if not is_lfm_loaded(): + yield sse_event({ + "status": "loading", + "message": "翻訳モデルをロード中...", + "detail": "初回のみ数分かかります。しばらくお待ちください。", + }) + else: + yield sse_event({ + "status": "processing", + "message": "翻訳中...", + "detail": f"{target_lang} に変換しています", + }) + + try: + llm = get_lfm() + yield sse_event({ + "status": "processing", + "message": "翻訳中...", + "detail": f"{target_lang} に変換しています", + }) + for chunk in llm.stream(user_prompt=user_prompt, system_prompt=system_prompt): + yield sse_event({"text": chunk}) + yield sse_event({"done": True}) + except Exception as exc: + yield sse_event({"error": f"翻訳エラー: {exc}"}) + + response = Response( + stream_with_context(generate()), + mimetype="text/event-stream", + ) + response.headers["Cache-Control"] = "no-cache" + response.headers["X-Accel-Buffering"] = "no" + return response diff --git a/MM_tools/app/blueprints/translation/templates/translation/index.html b/MM_tools/app/blueprints/translation/templates/translation/index.html new file mode 100644 index 0000000000000000000000000000000000000000..3858a7ba925c08177524969117cf9ada489e05d7 --- /dev/null +++ b/MM_tools/app/blueprints/translation/templates/translation/index.html @@ -0,0 +1,358 @@ +{% extends "base.html" %} + +{% block title %}多言語翻訳 - AI Tools{% endblock %} + +{% block head %} + +{% endblock %} + +{% block content %} +
+ + +
+
+ + + +
+
+

多言語翻訳

+

LFM 2.5 (ONNX) によるローカル翻訳

+
+
+ + +
+ + +
+ + +
+ + + +
+ + + + + +
+ 0 文字 + +
+ + +
+ + + + +
+ + +

+ Ctrl + Enter でも翻訳できます +

+
+ + +
+ + +
+ + + +
+ + + + + +
+
+ + + +

翻訳結果がここに表示されます

+
+
+ + +
+ +
+ + +
+
+
+ +
+
+ + +{% endblock %} diff --git a/MM_tools/app/blueprints/vlm/__init__.py b/MM_tools/app/blueprints/vlm/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..bb6a90fa3ec8283d184ed4dd8e072fe5719df013 --- /dev/null +++ b/MM_tools/app/blueprints/vlm/__init__.py @@ -0,0 +1,7 @@ +"""VLM (Visual Language Model) ブループリント。""" + +from flask import Blueprint + +vlm_bp = Blueprint("vlm", __name__, template_folder="templates") + +from . import routes # noqa: E402, F401 diff --git a/MM_tools/app/blueprints/vlm/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/blueprints/vlm/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..71ada46db7aa4b836b7444c0f5d7058bd4bdf3c7 Binary files /dev/null and b/MM_tools/app/blueprints/vlm/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/vlm/__pycache__/routes.cpython-314.pyc b/MM_tools/app/blueprints/vlm/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..3824bba66a1ac57081108b697e1b5846d9bc49b7 Binary files /dev/null and b/MM_tools/app/blueprints/vlm/__pycache__/routes.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/vlm/routes.py b/MM_tools/app/blueprints/vlm/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..3f8161bdc172d2e809e48b57234a6a2eeb599816 --- /dev/null +++ b/MM_tools/app/blueprints/vlm/routes.py @@ -0,0 +1,151 @@ +""" +VLM ブループリント ルーティング。 + +④ VLM (Visual Language Model) ページ。 +Qwen3-VL-2B-Instruct に画像とプロンプトを与え、SSE でトークンをストリーミング送信する。 + +SSE イベント: + {"status": "loading"|"processing", "message": "...", "detail": "..."} + {"text": "<トークン>"} + {"done": True} + {"error": "エラー内容"} +""" + +import io +import json +import threading + +from flask import render_template, request, Response, stream_with_context +from PIL import Image + +from . import vlm_bp +from app.shared.models import get_qwen_model + +# Qwen モデルは ledger と共用するため排他ロック +_model_lock = threading.Lock() + + +def _sse(data: dict) -> str: + """SSE フォーマットに変換する。""" + return f"data: {json.dumps(data, ensure_ascii=False)}\n\n" + + +@vlm_bp.route("/") +def index(): + """VLM ページを返す。""" + return render_template("vlm/index.html") + + +@vlm_bp.route("/process", methods=["POST"]) +def process(): + """ + 画像とプロンプトを受け取り Qwen3-VL で推論し SSE でストリーミング送信する。 + + Form data: + image (file): 画像ファイル + prompt (str): プロンプトテキスト + + SSE イベント: モジュール docstring 参照 + Returns: + text/event-stream + """ + image_file = request.files.get("image") + prompt = request.form.get("prompt", "").strip() + + if not image_file or not image_file.filename: + def _err(): + yield _sse({"error": "画像をアップロードしてください。"}) + return Response(stream_with_context(_err()), mimetype="text/event-stream") + + if not prompt: + def _err(): + yield _sse({"error": "プロンプトを入力してください。"}) + return Response(stream_with_context(_err()), mimetype="text/event-stream") + + # SSE ジェネレータの遅延実行でリクエストストリームが閉じられる問題を防ぐため先読み + image_bytes = image_file.read() + + def generate(): + from transformers import TextIteratorStreamer + with _model_lock: + try: + # ── 画像読み込み ── + yield _sse({ + "status": "processing", + "message": "画像を読み込み中...", + "detail": "", + }) + image = Image.open(io.BytesIO(image_bytes)).convert("RGB") + + # ── モデルロード ── + yield _sse({ + "status": "loading", + "message": "モデルをロード中（初回のみ数分かかります）...", + "detail": "Qwen3-VL-2B-Instruct", + }) + processor, model = get_qwen_model() + device = next(model.parameters()).device + + yield _sse({ + "status": "processing", + "message": "推論中...", + "detail": "テキストを生成しています", + }) + + # ── メッセージ構築 ── + messages = [ + { + "role": "user", + "content": [ + {"type": "image"}, + {"type": "text", "text": prompt}, + ], + } + ] + text_input = processor.apply_chat_template( + messages, + tokenize=False, + add_generation_prompt=True, + ) + inputs = processor( + images=[image], + text=[text_input], + padding=True, + return_tensors="pt", + ) + inputs = {k: v.to(device) for k, v in inputs.items()} + + # ── ストリーミング生成 ── + streamer = TextIteratorStreamer( + processor.tokenizer, + skip_prompt=True, + skip_special_tokens=True, + ) + + gen_kwargs = { + **inputs, + "max_new_tokens": 2048, + "do_sample": False, + "streamer": streamer, + } + gen_thread = threading.Thread( + target=model.generate, + kwargs=gen_kwargs, + daemon=True, + ) + gen_thread.start() + + for token in streamer: + if token: + yield _sse({"text": token}) + + gen_thread.join() + yield _sse({"done": True}) + + except Exception as exc: + yield _sse({"error": f"処理エラー: {exc}"}) + + response = Response(stream_with_context(generate()), mimetype="text/event-stream") + response.headers["Cache-Control"] = "no-cache" + response.headers["X-Accel-Buffering"] = "no" + return response diff --git a/MM_tools/app/blueprints/vlm/templates/vlm/index.html b/MM_tools/app/blueprints/vlm/templates/vlm/index.html new file mode 100644 index 0000000000000000000000000000000000000000..ae769d45907a9844a56eacd719f00e1f4ced08cf --- /dev/null +++ b/MM_tools/app/blueprints/vlm/templates/vlm/index.html @@ -0,0 +1,313 @@ +{% extends "base.html" %} + +{% block title %}AI Tools - VLM{% endblock %} + +{% block head %} + +{% endblock %} + +{% block content %} +
+ + +
+
+ ④ VLM +

ビジュアル言語モデル

+
+

画像をアップロードしてプロンプトで自由に指示。Qwen3-VL-2B-Instruct が回答します。

+
+ + + + + +
+ + +
+ + +
+ +
+ + +
+ + + +

クリックまたはドラッグ&ドロップ

+

PNG / JPG / WEBP など

+
+ + +
+ +
+ + +
+ + + +
+ + + + +
+ + +
+ + + + +
+ + +
+
+ + +
+ + +
+

実行すると結果がここに表示されます

+
+
+ +
+
+ + +{% endblock %} diff --git a/MM_tools/app/blueprints/whisper/__init__.py b/MM_tools/app/blueprints/whisper/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..bb571c4ba6ece746b7ca06f7f8c74b279d81476e --- /dev/null +++ b/MM_tools/app/blueprints/whisper/__init__.py @@ -0,0 +1,5 @@ +from flask import Blueprint + +whisper_bp = Blueprint("whisper", __name__, template_folder="templates") + +from . import routes diff --git a/MM_tools/app/blueprints/whisper/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/blueprints/whisper/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..c58159323acea107c71dc1cc4581a34b3990e81c Binary files /dev/null and b/MM_tools/app/blueprints/whisper/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/whisper/__pycache__/routes.cpython-314.pyc b/MM_tools/app/blueprints/whisper/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..590152fd09aa5638fd06900b2dda71c598fdb20b Binary files /dev/null and b/MM_tools/app/blueprints/whisper/__pycache__/routes.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/whisper/engine/__init__.py b/MM_tools/app/blueprints/whisper/engine/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/MM_tools/app/blueprints/whisper/engine/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/blueprints/whisper/engine/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..a77aad3052be1dce25c31e63af42d5cb85ff2aa6 Binary files /dev/null and b/MM_tools/app/blueprints/whisper/engine/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/whisper/engine/__pycache__/core.cpython-314.pyc b/MM_tools/app/blueprints/whisper/engine/__pycache__/core.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..3eb5cad0283381c181eaafdf40b70f1628dc5468 Binary files /dev/null and b/MM_tools/app/blueprints/whisper/engine/__pycache__/core.cpython-314.pyc differ diff --git a/MM_tools/app/blueprints/whisper/engine/core.py b/MM_tools/app/blueprints/whisper/engine/core.py new file mode 100644 index 0000000000000000000000000000000000000000..247870bbca0a18e1177a2f1450a12e8b4bf4a3ea --- /dev/null +++ b/MM_tools/app/blueprints/whisper/engine/core.py @@ -0,0 +1,155 @@ +""" +Whisper 音声認識コアモジュール。 + +翻訳は共有の Gemma-1b (CTranslate2) を使用する。 + +SSE イベント形式: + {"status": "loading"|"processing", "message": "...", "detail": "..."} + {"type": "info", "text": "言語推定結果など"} + {"type": "segment", "time": "[0s → 5s]"|"", "text": "認識テキスト"} + {"done": True, "elapsed": 12.3} + {"error": "エラー内容"} +""" + +import json +import time +from pathlib import Path + + +# ───────────────────────────────────────────────────────────────────────────── +# 内部ユーティリティ +# ───────────────────────────────────────────────────────────────────────────── + +def _sse(data: dict) -> str: + """dict を SSE data 行に変換する。""" + return f"data: {json.dumps(data, ensure_ascii=False)}\n\n" + + +def _time_label(seconds: float) -> str: + """秒数を 'Xm Ys' 形式の文字列に変換する。""" + if seconds >= 3600: + h = int(seconds // 3600) + m = int((seconds % 3600) // 60) + s = int(seconds % 60) + return f"{h}h {m}m {s}s" + if seconds >= 60: + m = int(seconds // 60) + s = int(seconds % 60) + return f"{m}m {s}s" + return f"{int(seconds)}s" + + +def _append_file(path: Path, text: str, first: bool) -> None: + """テキストをファイルに追記（初回は新規作成）する。""" + path.parent.mkdir(parents=True, exist_ok=True) + with path.open("w" if first else "a", encoding="utf-8") as f: + f.write(text + "\n") + + +def _translate(text: str, target_lang: str) -> str: + """ + LFM 2.5 (ONNX) で指定言語に翻訳する。 + + Args: + text: 翻訳対象テキスト + target_lang: 翻訳先言語名（例: "英語", "English", "中国語"） + + Returns: + str: 翻訳済みテキスト + """ + from app.shared.models import get_lfm, get_lfm_lock + system_prompt = ( + f"あなたはプロの翻訳者です。" + f"与えられた文章を{target_lang}に翻訳してください。" + "翻訳文のみを出力してください。説明や補足は不要です。" + ) + with get_lfm_lock(): + llm = get_lfm() + return llm.generate(user_prompt=text, system_prompt=system_prompt) + + +# ───────────────────────────────────────────────────────────────────────────── +# 公開関数 +# ───────────────────────────────────────────────────────────────────────────── + +def voice2character_yield_with_timestamp( + file_path: str, + model, + export_dir: Path, + trg_lang: str | None = None, +): + """ + タイムスタンプ付きで文字起こしを行い、SSE イベントをジェネレートする。 + 出力ファイル: whisper_text_time.txt + + Args: + file_path: 音声ファイルのパス + model: faster-whisper WhisperModel インスタンス + export_dir: テキスト書き出し先ディレクトリ + trg_lang: 翻訳先言語名（例: "英語"）。None なら翻訳しない + """ + timer = time.time() + segments, info = model.transcribe(file_path, beam_size=5, vad_filter=True) + + yield _sse({"type": "info", + "text": f"書き出し元言語：「{info.language}」（{info.language_probability * 100:.1f}%）"}) + + for i, segment in enumerate(segments): + text = segment.text.strip() + if not text: + continue + + if trg_lang: + try: + translated = _translate(text, trg_lang) + text = f"{translated} （原文: {text}）" + except Exception as exc: + yield _sse({"type": "info", "text": f"翻訳エラー（セグメント {i}）: {exc}"}) + + time_str = f"[{_time_label(segment.start)} → {_time_label(segment.end)}]" + _append_file(export_dir / "whisper_text_time.txt", f"{time_str} {text}", first=(i == 0)) + + yield _sse({"type": "segment", "time": time_str, "text": text}) + + yield _sse({"done": True, "elapsed": round(time.time() - timer, 1)}) + + +def voice2character_yield_no_timestamp( + file_path: str, + model, + export_dir: Path, + trg_lang: str | None = None, +): + """ + タイムスタンプなしで文字起こしを行い、SSE イベントをジェネレートする。 + 出力ファイル: whisper_only_text.txt + + Args: + file_path: 音声ファイルのパス + model: faster-whisper WhisperModel インスタンス + export_dir: テキスト書き出し先ディレクトリ + trg_lang: 翻訳先言語名（例: "英語"）。None なら翻訳しない + """ + timer = time.time() + segments, info = model.transcribe(file_path, beam_size=5, vad_filter=True) + + yield _sse({"type": "info", + "text": f"書き出し元言語：「{info.language}」（{info.language_probability * 100:.1f}%）"}) + + for i, segment in enumerate(segments): + text = segment.text.strip() + if not text: + continue + + if trg_lang: + try: + translated = _translate(text, trg_lang) + text = f"{translated} （原文: {text}）" + except Exception as exc: + yield _sse({"type": "info", "text": f"翻訳エラー（セグメント {i}）: {exc}"}) + + _append_file(export_dir / "whisper_only_text.txt", text, first=(i == 0)) + + yield _sse({"type": "segment", "time": "", "text": text}) + + yield _sse({"done": True, "elapsed": round(time.time() - timer, 1)}) diff --git a/MM_tools/app/blueprints/whisper/engine/punctuation.py b/MM_tools/app/blueprints/whisper/engine/punctuation.py new file mode 100644 index 0000000000000000000000000000000000000000..9831915763b4c60468b60a63a89d3466f6b95779 --- /dev/null +++ b/MM_tools/app/blueprints/whisper/engine/punctuation.py @@ -0,0 +1,110 @@ +""" +日本語句読点予測モジュール（遅延ロード）。 + +BERT (tohoku-nlp/bert-base-japanese-char-v3) + カスタム重みで +句点（。）・読点（、）を文中に挿入する。 + +重みファイル: /WhisperApp/weight/punctuation_position_model.pth +""" + +from pathlib import Path +import torch + +ROOT = Path(__file__).resolve().parents[5] # AI-OCR/ +WEIGHT_PATH = ROOT / "WhisperApp" / "weight" / "punctuation_position_model.pth" + +_tokenizer = None +_model = None + + +def _load() -> None: + """BERT モデルと重みを遅延ロードする。""" + global _tokenizer, _model + if _model is not None: + return + + from transformers import BertTokenizer, BertModel + + model_name = "tohoku-nlp/bert-base-japanese-char-v3" + _tokenizer = BertTokenizer.from_pretrained(model_name) + base_model = BertModel.from_pretrained(model_name) + + _model = _PunctuationPredictor(base_model) + _model.load_state_dict( + torch.load(str(WEIGHT_PATH), map_location="cpu", weights_only=True) + ) + _model.eval() + + +class _PunctuationPredictor(torch.nn.Module): + """BERT ベースの句読点予測モデル。""" + + def __init__(self, base_model): + super().__init__() + self.base_model = base_model + self.dropout = torch.nn.Dropout(0.2) + self.linear = torch.nn.Linear(768, 2) + + def forward(self, input_ids, attention_mask): + last_hidden = self.base_model( + input_ids=input_ids, attention_mask=attention_mask + ).last_hidden_state + return self.linear(self.dropout(last_hidden)) + + +def _insert_punctuation(input_ids, comma_pos, period_pos) -> str: + """予測ポジションに基づいて句読点を挿入する。""" + text = [] + for i, (c, p) in enumerate(zip(comma_pos, period_pos)): + token_id = input_ids[i].item() + if token_id > 5 and i < len(input_ids) - 1: + char = _tokenizer.ids_to_tokens[token_id] + if p: + text.append(char + "。") + elif c: + text.append(char + "、") + else: + text.append(char) + return "".join(text) + + +def process_long_text( + text: str, + max_length: int = 256, + comma_thresh: float = 0.1, + period_thresh: float = 0.1, +) -> str: + """ + 長文を分割しながら句読点を挿入して返す。 + + Args: + text: 句読点なしの日本語テキスト + max_length: 一度に処理する文字数 + comma_thresh: 読点挿入の閾値 + period_thresh: 句点挿入の閾値 + + Returns: + str: 句読点挿入済みテキスト + """ + _load() + text = text.replace("、", "").replace("。", "") + result = "" + + for i in range(0, len(text), max_length): + chunk = text[i : i + max_length] + inputs = _tokenizer( + " ".join(list(chunk)), + max_length=512, + padding="max_length", + truncation=True, + return_tensors="pt", + ) + with torch.no_grad(): + output = _model(inputs.input_ids, inputs.attention_mask) + + output = torch.sigmoid(output) + comma_pos = output[0].detach().numpy().T[0] > comma_thresh + period_pos = output[0].detach().numpy().T[1] > period_thresh + result += _insert_punctuation(inputs.input_ids[0], comma_pos, period_pos) + + return result diff --git a/MM_tools/app/blueprints/whisper/engine/translator.py b/MM_tools/app/blueprints/whisper/engine/translator.py new file mode 100644 index 0000000000000000000000000000000000000000..a1fe1af34cf8fd92f43665c5f97a295a1cc89faa --- /dev/null +++ b/MM_tools/app/blueprints/whisper/engine/translator.py @@ -0,0 +1,77 @@ +""" +M2M100 418M CTranslate2 翻訳モジュール（遅延ロード）。 + +モデルパス優先順: + 1. /models/m2m100_418M_int8/ + 2. C:/Users/showe/Desktop/python/仕事関係/量子化Transformer/m2m100_418M_int8/ +""" + +from pathlib import Path + +ROOT = Path(__file__).resolve().parents[5] # AI-OCR/ + +_PRIMARY_PATH = ROOT / "models" / "m2m100_418M_int8" +_FALLBACK_PATH = Path(r"C:\Users\showe\Desktop\python\仕事関係\量子化Transformer\m2m100_418M_int8") + +_instance = None + + +def get_m2m100() -> "_M2M100Translator": + """ + M2M100 翻訳モデルを遅延ロードして返す。 + + Returns: + _M2M100Translator: 翻訳モデルインスタンス + + Raises: + FileNotFoundError: モデルディレクトリが見つからない場合 + """ + global _instance + if _instance is None: + _instance = _M2M100Translator() + return _instance + + +class _M2M100Translator: + """CTranslate2 M2M100 418M を用いた多言語翻訳クラス。""" + + def __init__(self): + import ctranslate2 + import transformers + + model_path = ( + str(_PRIMARY_PATH) if _PRIMARY_PATH.exists() else str(_FALLBACK_PATH) + ) + if not Path(model_path).exists(): + raise FileNotFoundError( + f"M2M100 モデルが見つかりません。\n" + f" 確認パス1: {_PRIMARY_PATH}\n" + f" 確認パス2: {_FALLBACK_PATH}" + ) + + self._translator = ctranslate2.Translator(model_path) + self._tokenizer = transformers.AutoTokenizer.from_pretrained("facebook/m2m100_418M") + + def translate(self, text: str, src_lang: str = "en", trg_lang: str = "ja") -> str: + """ + テキストを指定言語に翻訳する。 + + Args: + text: 翻訳対象テキスト + src_lang: 原文言語コード（例: "ja", "en", "zh"） + trg_lang: 翻訳先言語コード + + Returns: + str: 翻訳済みテキスト + """ + self._tokenizer.src_lang = src_lang + tokens = self._tokenizer.convert_ids_to_tokens(self._tokenizer.encode(text)) + prefix = [self._tokenizer.lang_code_to_token[trg_lang]] + results = self._translator.translate_batch( + [tokens], + target_prefix=[prefix], + max_decoding_length=512, + ) + return self._tokenizer.decode( + self._tokenizer.convert_tokens_to_ids(results[0].hypotheses[0][1:]) + ) diff --git a/MM_tools/app/blueprints/whisper/routes.py b/MM_tools/app/blueprints/whisper/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..1ded248920ec9ca5955f5bb94d3896b2a24a74ad --- /dev/null +++ b/MM_tools/app/blueprints/whisper/routes.py @@ -0,0 +1,175 @@ +""" +whisper ブループリント ルーティング。 + +④ 音声文字起こしページ。 +faster-whisper で音声/動画ファイルからテキストを抽出し SSE でストリーミング送信する。 +翻訳オプションは LFM 2.5 (ONNX) を使用する。 + +SSE イベント: + {"status": "loading"|"processing", "message": "...", "detail": "..."} + {"type": "info", "text": "言語推定など"} + {"type": "segment", "time": "[0s → 5s]", "text": "テキスト"} + {"done": True, "elapsed": 12.3} + {"error": "エラー内容"} + +設定変更: config.py の UPLOAD_DIR / EXPORT_DIR / WHISPER_*_ID を参照。 +""" + +import json +import os + +from flask import render_template, request, Response, stream_with_context, send_file + +from . import whisper_bp +from app.shared.models import ( + get_whisper_small, + get_whisper_large, + is_whisper_small_loaded, + is_whisper_large_loaded, +) +from config import UPLOAD_DIR, EXPORT_DIR + +UPLOAD_DIR.mkdir(parents=True, exist_ok=True) +EXPORT_DIR.mkdir(parents=True, exist_ok=True) + +_ALLOWED_EXTS = {"mp3", "wav", "mp4", "m4a", "ogg", "webm"} + + +def _sse(data: dict) -> str: + return f"data: {json.dumps(data, ensure_ascii=False)}\n\n" + + +@whisper_bp.route("/") +def index(): + """文字起こしページを返す。""" + return render_template("whisper/index.html") + + +@whisper_bp.route("/upload", methods=["POST"]) +def upload(): + """ + 音声/動画ファイルをアップロードしてサーバーに保存する。 + + Form data: + file (file): 音声・動画ファイル (.mp3 .wav .mp4 .m4a .ogg .webm) + + Returns: + JSON: {"message": "...", "filename": "..."} または {"error": "..."} + """ + if "file" not in request.files or request.files["file"].filename == "": + return {"error": "ファイルが選択されていません"}, 400 + + file = request.files["file"] + ext = os.path.splitext(file.filename)[-1].lstrip(".").lower() + + if ext not in _ALLOWED_EXTS: + return {"error": f"対応していない形式です: .{ext}"}, 400 + + # 既存の音声ファイルをクリア + for old in UPLOAD_DIR.glob("audio.*"): + old.unlink(missing_ok=True) + + save_path = UPLOAD_DIR / f"audio.{ext}" + file.save(str(save_path)) + return {"message": "アップロード完了", "filename": file.filename} + + +@whisper_bp.route("/process", methods=["POST"]) +def process(): + """ + アップロード済み音声を文字起こしして SSE でストリーミング送信する。 + + JSON body: + model_type (str): "Small" | "Large" + mode_type (str): "タイムスタンプあり" | "タイムスタンプなし" + trg_lang (str): 翻訳先言語名（空文字なら翻訳なし） + + SSE イベント: モジュール docstring 参照 + Returns: + text/event-stream + """ + data = request.get_json() or {} + model_type = data.get("model_type", "Small") + mode_type = data.get("mode_type", "タイムスタンプあり") + trg_lang = data.get("trg_lang", "").strip() or None + is_ts = (mode_type == "タイムスタンプあり") + + audio_files = list(UPLOAD_DIR.glob("audio.*")) + if not audio_files: + def _err(): + yield _sse({"error": "音声ファイルが見つかりません。先にアップロードしてください。"}) + return Response(stream_with_context(_err()), mimetype="text/event-stream") + + file_path = str(audio_files[0]) + + def generate(): + is_small = (model_type == "Small") + is_loaded = is_whisper_small_loaded() if is_small else is_whisper_large_loaded() + name = "Whisper Small" if is_small else "Whisper Large-v3-turbo" + + if not is_loaded: + yield _sse({ + "status": "loading", + "message": f"{name} モデルをロード中...", + "detail": "初回のみ数分かかります。しばらくお待ちください。", + }) + else: + yield _sse({ + "status": "processing", + "message": "文字起こしを開始します...", + "detail": f"モード: {mode_type}", + }) + + try: + model = get_whisper_small() if is_small else get_whisper_large() + except Exception as exc: + yield _sse({"error": f"モデルのロードに失敗しました: {exc}"}) + return + + yield _sse({ + "status": "processing", + "message": "音声を解析中...", + "detail": "音声認識を実行しています", + }) + + from .engine.core import ( + voice2character_yield_with_timestamp, + voice2character_yield_no_timestamp, + ) + fn = voice2character_yield_with_timestamp if is_ts else voice2character_yield_no_timestamp + + try: + yield from fn(file_path, model, export_dir=EXPORT_DIR, trg_lang=trg_lang) + except Exception as exc: + yield _sse({"error": f"文字起こしエラー: {exc}"}) + + response = Response(stream_with_context(generate()), mimetype="text/event-stream") + response.headers["Cache-Control"] = "no-cache" + response.headers["X-Accel-Buffering"] = "no" + return response + + +@whisper_bp.route("/download") +def download(): + """ + 文字起こし結果テキストをダウンロードする。 + + Query params: + type (str): "text_time" | "text_only" | "minutes" + + Returns: + file attachment + """ + file_map = { + "text_time": "whisper_text_time.txt", + "text_only": "whisper_only_text.txt", + "minutes": "whisper_minutes.txt", + } + file_type = request.args.get("type", "text_time") + filename = file_map.get(file_type, "whisper_text_time.txt") + path = EXPORT_DIR / filename + + if not path.exists(): + return {"error": "ファイルが見つかりません。先に書き出しを実行してください。"}, 404 + + return send_file(str(path), as_attachment=True, download_name=filename) diff --git a/MM_tools/app/blueprints/whisper/templates/whisper/index.html b/MM_tools/app/blueprints/whisper/templates/whisper/index.html new file mode 100644 index 0000000000000000000000000000000000000000..0e1b02674464ff95933a1c26acb41fd8ee617c9a --- /dev/null +++ b/MM_tools/app/blueprints/whisper/templates/whisper/index.html @@ -0,0 +1,486 @@ +{% extends "base.html" %} + +{% block title %}音声文字起こし - AI Tools{% endblock %} + +{% block head %} + +{% endblock %} + +{% block content %} +
+ + +
+
+ + + +
+
+

音声文字起こし

+

Whisper (faster-whisper) によるローカル音声認識

+
+
+ + +
+ + + + + +
+ + + +
+ + + +

音声・動画ファイルをドロップ、またはクリックして選択

+

.mp3  .wav  .mp4  .m4a  .ogg

+
+ + + +
+ + +
+ + +
+

モデル

+
+ + +
+
+ + +
+

出力形式

+
+ + +
+
+ + +
+

翻訳（オプション）

+
+ + +
+
+ +
+ + +
+ + +
+ + + + + + + + +
+
+ 文字起こし結果がここに表示されます +
+
+ + + + +
+ + +

+ ※ Small: 高速・軽量  /  Large: 高精度（初回ロードに数分かかる場合があります）
+ タイムスタンプあり: 時刻付きで書き出し（whisper_text_time.txt） /  タイムスタンプなし: テキストのみ（whisper_only_text.txt）
+ 翻訳オプションは LFM 2.5 (ONNX) を使用します。翻訳先は「英語」「中国語」などの言語名で入力してください。 +

+ +
+ + +{% endblock %} diff --git a/MM_tools/app/shared/__init__.py b/MM_tools/app/shared/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..6dce36b4f9c638529c4fd6b1372635b721a084d3 --- /dev/null +++ b/MM_tools/app/shared/__init__.py @@ -0,0 +1 @@ +# shared パッケージ diff --git a/MM_tools/app/shared/__pycache__/__init__.cpython-314.pyc b/MM_tools/app/shared/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..3acfff09309c21025b3f6263906e0a3c9ca6afb9 Binary files /dev/null and b/MM_tools/app/shared/__pycache__/__init__.cpython-314.pyc differ diff --git a/MM_tools/app/shared/__pycache__/models.cpython-314.pyc b/MM_tools/app/shared/__pycache__/models.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..dc3f8e30829a5276b241e99e404cc1a29722eae9 Binary files /dev/null and b/MM_tools/app/shared/__pycache__/models.cpython-314.pyc differ diff --git a/MM_tools/app/shared/__pycache__/utils.cpython-314.pyc b/MM_tools/app/shared/__pycache__/utils.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..8bc6ae7fea9a02b9f4aa1b8bc988a31b5321fb4d Binary files /dev/null and b/MM_tools/app/shared/__pycache__/utils.cpython-314.pyc differ diff --git a/MM_tools/app/shared/models.py b/MM_tools/app/shared/models.py new file mode 100644 index 0000000000000000000000000000000000000000..e62610599cad97b691a4c47ef16d6c31bfb7a8a2 --- /dev/null +++ b/MM_tools/app/shared/models.py @@ -0,0 +1,211 @@ +""" +遅延ロード対応の共有モデル管理モジュール。 + +各モデルは初回呼び出し時にのみロードされる（遅延初期化パターン）。 +スレッドセーフのために各モデルに専用ロックを用意している。 +モデルパスやデバイス設定は config.py で一元管理する。 +""" + +import sys +import threading +from pathlib import Path + +# config.py のある ROOT を sys.path に追加してインポートを保証 +_ROOT = Path(__file__).parent.parent.parent +if str(_ROOT) not in sys.path: + sys.path.insert(0, str(_ROOT)) + +from config import ( + GLM_OCR_PATH, + LFM_MODEL_PATH, + QWEN_MODEL_PATH, + WHISPER_SMALL_ID, + WHISPER_LARGE_ID, + DEVICE, + WHISPER_COMPUTE_TYPE, +) + + +# ── GLM-OCR モデル（ocr ブループリント用） ───────────────────────────────── + +_glm_processor = None +_glm_model = None +_glm_lock = threading.Lock() + + +def is_glm_loaded() -> bool: + """GLM-OCR モデルがロード済みかどうかを返す（ロックなし）。""" + return _glm_model is not None + + +def get_glm_model(): + """ + GLM-OCR モデルをローカルから遅延ロードして返す。 + + Returns: + tuple[AutoProcessor, AutoModelForImageTextToText]: (processor, model) + + Raises: + Exception: モデルのロードに失敗した場合 + """ + global _glm_processor, _glm_model + with _glm_lock: + if _glm_model is None: + from transformers import AutoProcessor, AutoModelForImageTextToText + + model_path = str(GLM_OCR_PATH) + print(f"[OCR] GLM モデルをロード中: {model_path}") + _glm_processor = AutoProcessor.from_pretrained(model_path) + _glm_model = AutoModelForImageTextToText.from_pretrained( + pretrained_model_name_or_path=model_path, + torch_dtype="auto", + device_map=DEVICE, + ) + print("[OCR] GLM モデルのロード完了") + return _glm_processor, _glm_model + + +# ── LFM 2.5 翻訳モデル（translation / ocr / whisper ブループリント共用） ── + +_lfm = None +_lfm_init_lock = threading.Lock() # 初期化専用ロック（二重初期化防止） +_lfm_infer_lock = threading.Lock() # 推論専用ロック（全ブループリント共有） + + +def is_lfm_loaded() -> bool: + """LFM 翻訳モデルがロード済みかどうかを返す（ロックなし）。""" + return _lfm is not None + + +def get_lfm(): + """ + LFM 2.5 (ONNX) 翻訳モデルを遅延ロードして返す。 + + Returns: + LFMInference: LFM 推論インスタンス + + Raises: + Exception: モデルのロードに失敗した場合 + """ + global _lfm + with _lfm_init_lock: + if _lfm is None: + from lfm25_run import LFMInference + + model_path = str(LFM_MODEL_PATH) + print(f"[Translation] LFM モデルをロード中: {model_path}") + _lfm = LFMInference(model_path) + print("[Translation] LFM モデルのロード完了") + return _lfm + + +def get_lfm_lock() -> threading.Lock: + """ + LFM 推論用の共有排他ロックを返す。 + + 全ブループリントでこのロックを取得してから推論を実行すること。 + + Returns: + threading.Lock: 推論用ロック + """ + return _lfm_infer_lock + + +# ── Qwen3-VL モデル（ledger ブループリント用） ───────────────────────────── + +_qwen_processor = None +_qwen_model = None +_qwen_lock = threading.Lock() + + +def get_qwen_model(): + """ + Qwen3-VL-2B モデルをローカルから遅延ロードして返す。 + + Returns: + tuple[AutoProcessor, AutoModelForImageTextToText]: (processor, model) + + Raises: + Exception: モデルのロードに失敗した場合 + """ + global _qwen_processor, _qwen_model + with _qwen_lock: + if _qwen_model is None: + from transformers import AutoProcessor, AutoModelForImageTextToText + + model_path = str(QWEN_MODEL_PATH) + print(f"[Ledger] Qwen モデルをロード中: {model_path}") + _qwen_processor = AutoProcessor.from_pretrained( + model_path, + min_pixels=256 * 28 * 28, + max_pixels=768 * 28 * 28, + ) + _qwen_model = AutoModelForImageTextToText.from_pretrained( + model_path, + torch_dtype="auto", + device_map=DEVICE, + low_cpu_mem_usage=True, + ) + _qwen_model.eval() + print("[Ledger] Qwen モデルのロード完了") + return _qwen_processor, _qwen_model + + +# ── Whisper 音声認識モデル（whisper ブループリント用） ──────────────────────── + +_whisper_small = None +_whisper_small_lock = threading.Lock() +_whisper_large = None +_whisper_large_lock = threading.Lock() + + +def is_whisper_small_loaded() -> bool: + """Whisper Small モデルがロード済みかどうかを返す（ロックなし）。""" + return _whisper_small is not None + + +def is_whisper_large_loaded() -> bool: + """Whisper Large モデルがロード済みかどうかを返す（ロックなし）。""" + return _whisper_large is not None + + +def get_whisper_small(): + """ + Whisper Small モデルを遅延ロードして返す。 + + Returns: + WhisperModel: faster-whisper Small モデルインスタンス + """ + global _whisper_small + with _whisper_small_lock: + if _whisper_small is None: + from faster_whisper import WhisperModel + print(f"[Whisper] Small モデルをロード中: {WHISPER_SMALL_ID}") + _whisper_small = WhisperModel( + WHISPER_SMALL_ID, + device=DEVICE, + compute_type=WHISPER_COMPUTE_TYPE, + ) + print("[Whisper] Small モデルのロード完了") + return _whisper_small + + +def get_whisper_large(): + """ + Whisper Large-v3-turbo モデルを遅延ロードして返す。 + + Returns: + WhisperModel: faster-whisper Large-v3-turbo モデルインスタンス + """ + global _whisper_large + with _whisper_large_lock: + if _whisper_large is None: + from faster_whisper import WhisperModel + print(f"[Whisper] Large モデルをロード中: {WHISPER_LARGE_ID}") + _whisper_large = WhisperModel( + WHISPER_LARGE_ID, + device=DEVICE, + compute_type=WHISPER_COMPUTE_TYPE, + ) + print("[Whisper] Large モデルのロード完了") + return _whisper_large diff --git a/MM_tools/app/shared/utils.py b/MM_tools/app/shared/utils.py new file mode 100644 index 0000000000000000000000000000000000000000..a627d6b4018720238f964d46310e2bb13d76299a --- /dev/null +++ b/MM_tools/app/shared/utils.py @@ -0,0 +1,39 @@ +"""共通ユーティリティ関数。""" + +import io +import base64 +import json + +from PIL import Image + + +def sse_event(data: dict) -> str: + """ + 辞書を SSE フォーマット文字列に変換する。 + + Args: + data: JSON シリアライズ可能な辞書 + + Returns: + str: "data: {...}\\n\\n" 形式の SSE 文字列 + """ + return f"data: {json.dumps(data, ensure_ascii=False)}\n\n" + + +def resize_image_to_base64(image: Image.Image, max_size: int = 512) -> str: + """ + PIL 画像をリサイズして Base64 エンコード済み JPEG 文字列を返す。 + + Args: + image: PIL.Image オブジェクト + max_size: 長辺の最大ピクセル数 + + Returns: + str: Base64 エンコード済み文字列（JPEG 形式） + """ + img = image.copy() + img.thumbnail((max_size, max_size), Image.LANCZOS) + buffer = io.BytesIO() + img.save(buffer, format="JPEG", quality=85) + buffer.seek(0) + return base64.b64encode(buffer.read()).decode("utf-8") diff --git a/MM_tools/app/static/Flag_of_Japan_Customs.svg.png b/MM_tools/app/static/Flag_of_Japan_Customs.svg.png new file mode 100644 index 0000000000000000000000000000000000000000..997c4fea53ab628677036211b3a421d995176d2e --- /dev/null +++ b/MM_tools/app/static/Flag_of_Japan_Customs.svg.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ae28d2b3554545290b2216bf58cecadd3c94dc28ea2e5da7dfb4e163e6dd1b3a +size 3663 diff --git a/MM_tools/app/static/HP1.png b/MM_tools/app/static/HP1.png new file mode 100644 index 0000000000000000000000000000000000000000..976c51f93a6bd86c643a3dd2cc0f3f8611bb5a46 --- /dev/null +++ b/MM_tools/app/static/HP1.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d1bd05cbbd38ad8cc24589f3b2f0a96cb69d290b97687a39bf0d37e3b43c13e5 +size 217625 diff --git a/MM_tools/app/static/exports/whisper_minutes.txt b/MM_tools/app/static/exports/whisper_minutes.txt new file mode 100644 index 0000000000000000000000000000000000000000..eca2be096df107a546abad539f08926cac4ecdd7 --- /dev/null +++ b/MM_tools/app/static/exports/whisper_minutes.txt @@ -0,0 +1 @@ +サーチサーチングサーチングカットサーチングカット切サーチングカット切削サーチングカット切削油サーチングカット切削油はサーチングカット切削油は、サーチングカット切削油は、被サーチングカット切削油は、被作サーチングカット切削油は、被作性のサーチングカット切削油は、被作性の悪いサーチングカット切削油は、被作性の悪いステンレスサーチングカット切削油は、被作性の悪いステンレス、サーチングカット切削油は、被作性の悪いステンレス、シサーチングカット切削油は、被作性の悪いステンレス、シタンサーチングカット切削油は、被作性の悪いステンレス、シタン、サーチングカット切削油は、被作性の悪いステンレス、シタン、コサーチングカット切削油は、被作性の悪いステンレス、シタン、コバサーチングカット切削油は、被作性の悪いステンレス、シタン、コバールサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネルサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といったサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザーサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にごサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただきサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度をサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視するサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などのサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油としてサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油として実績サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油として実績がございますサーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油として実績がございます。サーチングカット切削油は、被作性の悪いステンレス、シタン、コバール、インコネル、銅といった軟削材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油として実績がございます。 diff --git a/MM_tools/app/static/exports/whisper_only_text.txt b/MM_tools/app/static/exports/whisper_only_text.txt new file mode 100644 index 0000000000000000000000000000000000000000..5214d25959d2fc719913e80afdfb6072201ce862 --- /dev/null +++ b/MM_tools/app/static/exports/whisper_only_text.txt @@ -0,0 +1 @@ +Searching cutting cutting oil is a challenging material processing oil for non-stick steel, shank, cobalt, iridium, copper, and other difficult-to-machine materials. We have a proven track record in precision machining for automotive parts, medical devices, hygiene-related components, aerospace parts, and weak-electricity-sensitive components. （原文: サーチングカット切削油は、非作成の悪いステンレス、シタン、コバール、インコネル、銅といった難作材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油として実績がございます。） diff --git a/MM_tools/app/static/exports/whisper_text_time.txt b/MM_tools/app/static/exports/whisper_text_time.txt new file mode 100644 index 0000000000000000000000000000000000000000..5b1f8ed39fd335ed3efd6f37389744e7c0947bb2 --- /dev/null +++ b/MM_tools/app/static/exports/whisper_text_time.txt @@ -0,0 +1 @@ +[1s → 26s] サーチングカット切削油は、非作成の悪いステンレス、シタン、コバール、インコネル、銅といった難作材加工油としてユーザー様にご指示をいただき、精度を重視する自動車部品、医療機器部品、衛生関連部品、航空機部品、弱電部品などの金属加工油として実績がございます。 diff --git a/MM_tools/app/static/uploads/audio.mp3 b/MM_tools/app/static/uploads/audio.mp3 new file mode 100644 index 0000000000000000000000000000000000000000..18de41a2d662c902877bd20e901d667c35c3a28e --- /dev/null +++ b/MM_tools/app/static/uploads/audio.mp3 @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d0b7f25e6a1be8dc48ecee72c9736dadf7403591f891922d1c53f16c01a082d7 +size 747547 diff --git a/MM_tools/app/static/yuru_customkun.png b/MM_tools/app/static/yuru_customkun.png new file mode 100644 index 0000000000000000000000000000000000000000..8a589b00b94ce4b07a13ed1c78ed8b53553f86df --- /dev/null +++ b/MM_tools/app/static/yuru_customkun.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d24328339d01909dc40c3bd8dd91a99acbbe6e05edb6d2757a31358fb8f32d3e +size 30964 diff --git a/MM_tools/app/templates/base.html b/MM_tools/app/templates/base.html new file mode 100644 index 0000000000000000000000000000000000000000..493b8561f380b558f29cd866042a9b5d87356245 --- /dev/null +++ b/MM_tools/app/templates/base.html @@ -0,0 +1,131 @@ + + + + + + {% block title %}AI Tools{% endblock %} + + + + {% block head %}{% endblock %} + + + + + + + + +
+
+ + + 日本税関 + AI Tools + + + + +
+
+ + +
+
+ {% block content %}{% endblock %} +
+
+ + + diff --git a/MM_tools/config.py b/MM_tools/config.py new file mode 100644 index 0000000000000000000000000000000000000000..592a1fede65934568a7a6377655265f83b0748e8 --- /dev/null +++ b/MM_tools/config.py @@ -0,0 +1,67 @@ +""" +AI Tools アプリケーション 設定ファイル +======================================== +このファイルを編集することで、モデルパス・サーバー設定などを一括変更できます。 +run.py と同ディレクトリに置いてください。 +""" + +from pathlib import Path + +# プロジェクトルート（このファイルが置かれているディレクトリ） +ROOT = Path(__file__).parent + +# ══════════════════════════════════════════════════════════════════ +# Flask サーバー設定 +# ══════════════════════════════════════════════════════════════════ + +# FLASK_HOST = "0.0.0.0" # 0.0.0.0" open access +FLASK_HOST = "127.0.0.1" # "127.0.0.1" にするとローカルのみ接続可 +FLASK_PORT = 5559 +FLASK_DEBUG = False + +# ══════════════════════════════════════════════════════════════════ +# デバイス設定 +# ══════════════════════════════════════════════════════════════════ + +# テキスト系モデル（GLM-OCR / Qwen3-VL）に使用するデバイス +# "cpu" / "cuda" / "auto" から選択 +DEVICE = "cpu" + +# Whisper の演算精度 +# CPU の場合: "int8" +# GPU(CUDA) の場合: "float16" または "int8_float16" +WHISPER_COMPUTE_TYPE = "int8" + + +# ══════════════════════════════════════════════════════════════════ +# モデルパス +# ══════════════════════════════════════════════════════════════════ + +# ── ① 多言語翻訳 / ② OCR翻訳 / ④ 文字起こし翻訳 共通 ────────────── +# LFM 2.5 Instruct (ONNX) +LFM_MODEL_PATH = ROOT / "models" / "lfm2.5_instruct" + +# ── ② OCR と翻訳 ──────────────────────────────────────────────── +# GLM-OCR (transformers 形式) +GLM_OCR_PATH = ROOT / "models" / "GLM_OCR" + +# ── ③ 表 OCR → Excel ───────────────────────────────────────────── +# Qwen3-VL-2B-Instruct (transformers 形式) +QWEN_MODEL_PATH = ROOT / "models" / "Qwen3-VL-2B-Instruct" + +# ── ④ 音声文字起こし ───────────────────────────────────────────── +# faster-whisper のモデル識別子 +# ローカルパス（文字列）または HuggingFace モデル ID が使用可能 +WHISPER_SMALL_ID = "small" +WHISPER_LARGE_ID = "deepdml/faster-whisper-large-v3-turbo-ct2" + + +# ══════════════════════════════════════════════════════════════════ +# ファイル保存先ディレクトリ +# ══════════════════════════════════════════════════════════════════ + +# 音声ファイルの一時保存先（文字起こし機能） +UPLOAD_DIR = ROOT / "app" / "static" / "uploads" + +# 書き出しテキストの保存先（文字起こし機能） +EXPORT_DIR = ROOT / "app" / "static" / "exports" diff --git a/MM_tools/lfm25_run.py b/MM_tools/lfm25_run.py new file mode 100644 index 0000000000000000000000000000000000000000..276dd5bfb12a1a7c0bb84e5f65016befa76bfefa --- /dev/null +++ b/MM_tools/lfm25_run.py @@ -0,0 +1,264 @@ +""" +lfm_inference.py +──────────────── +ONNX ベースの LLM 推論モジュール。 + +使用例: + from lfm_inference import LFMInference + + # インスタンス生成（フォルダを渡すだけで OK） + llm = LFMInference("./models/lfm2.5_instruct") + + # 一括返却 + result = llm.generate(system_prompt="あなたは優秀な翻訳家です。", + user_prompt="Hello, world!") + print(result) + + # ストリーミング (yield) + for chunk in llm.stream(system_prompt="...", user_prompt="..."): + print(chunk, end="", flush=True) +""" + +from __future__ import annotations + +import os +from pathlib import Path +from typing import Generator, Iterator, Optional + +import numpy as np +import onnxruntime as ort +from transformers import AutoTokenizer + + +# ──────────────────────────────────────────────────────────── +# 定数 +# ──────────────────────────────────────────────────────────── +_ONNX_DTYPE: dict[str, type] = { + "tensor(float)": np.float32, + "tensor(float16)": np.float16, + "tensor(int64)": np.int64, +} + +_DEFAULT_ONNX_FILENAMES = [ + "onnx/model_q4.onnx", + "onnx/model.onnx", + "model_q4.onnx", + "model.onnx", +] + + +# ──────────────────────────────────────────────────────────── +# メインクラス +# ──────────────────────────────────────────────────────────── +class LFMInference: + """ + ONNX モデルをラップした LLM 推論クラス。 + + Parameters + ---------- + model_dir : str | Path + モデルフォルダのパス。 + tokenizer と ONNX ファイルが格納されている想定。 + onnx_filename : str | None + ONNX ファイルへの相対パス。None の場合は自動検索。 + max_new_tokens : int + 最大生成トークン数（デフォルト 3000）。 + providers : list[str] | None + ONNX Runtime プロバイダ。None の場合は自動選択。 + """ + + def __init__( + self, + model_dir: str | Path, + onnx_filename: Optional[str] = None, + max_new_tokens: int = 3000, + providers: Optional[list[str]] = None, + ) -> None: + self.model_dir = Path(model_dir) + self.max_new_tokens = max_new_tokens + + # ── Tokenizer ────────────────────────────────────── + self.tokenizer = AutoTokenizer.from_pretrained(str(self.model_dir)) + + # ── ONNX セッション ──────────────────────────────── + onnx_path = self._resolve_onnx_path(onnx_filename) + _providers = providers or ort.get_available_providers() + self.session = ort.InferenceSession(str(onnx_path), providers=_providers) + + # position_ids の有無を確認 + _input_names = {inp.name for inp in self.session.get_inputs()} + self._use_position_ids: bool = "position_ids" in _input_names + + print(f"[LFMInference] model : {onnx_path}") + print(f"[LFMInference] providers: {self.session.get_providers()}") + + # ──────────────────────────────────────────────────────── + # Public API + # ──────────────────────────────────────────────────────── + + def generate( + self, + user_prompt: str, + system_prompt: str = "", + max_new_tokens: Optional[int] = None, + ) -> str: + """ + 推論を実行し、生成テキストを **一括** で返す。 + + Parameters + ---------- + user_prompt : str + ユーザーの入力テキスト。 + system_prompt : str + システムプロンプト（省略可）。 + max_new_tokens : int | None + 最大生成トークン数。None の場合はインスタンス設定値を使用。 + + Returns + ------- + str + 生成されたテキスト全体。 + """ + tokens = list( + self._token_stream(user_prompt, system_prompt, max_new_tokens) + ) + return self.tokenizer.decode(tokens, skip_special_tokens=True) + + def stream( + self, + user_prompt: str, + system_prompt: str = "", + max_new_tokens: Optional[int] = None, + ) -> Generator[str, None, None]: + """ + 推論を実行し、生成テキストを **逐次 yield** する。 + + Parameters + ---------- + user_prompt : str + ユーザーの入力テキスト。 + system_prompt : str + システムプロンプト（省略可）。 + max_new_tokens : int | None + 最大生成トークン数。None の場合はインスタンス設定値を使用。 + + Yields + ------ + str + その時点までに生成されたテキスト全体（差分ではなく累積）。 + 差分のみが必要な場合は呼び出し側で前回値との差を取ってください。 + """ + generated: list[int] = [] + for token_id in self._token_stream(user_prompt, system_prompt, max_new_tokens): + generated.append(token_id) + yield self.tokenizer.decode(generated, skip_special_tokens=True) + + # ──────────────────────────────────────────────────────── + # 内部実装 + # ──────────────────────────────────────────────────────── + + def _resolve_onnx_path(self, onnx_filename: Optional[str]) -> Path: + """ONNX ファイルのパスを解決する。""" + if onnx_filename: + path = self.model_dir / onnx_filename + if not path.exists(): + raise FileNotFoundError(f"ONNX file not found: {path}") + return path + + for candidate in _DEFAULT_ONNX_FILENAMES: + path = self.model_dir / candidate + if path.exists(): + return path + + raise FileNotFoundError( + f"No ONNX file found in {self.model_dir}. " + f"Tried: {_DEFAULT_ONNX_FILENAMES}. " + "Pass `onnx_filename` explicitly." + ) + + def _build_inputs(self, system_prompt: str, user_prompt: str) -> np.ndarray: + """チャットテンプレートを適用して input_ids を構築する。""" + messages = [] + if system_prompt: + messages.append({"role": "system", "content": system_prompt}) + messages.append({"role": "user", "content": user_prompt}) + + encoded = self.tokenizer.apply_chat_template( + messages, + add_generation_prompt=True, + return_tensors="np", + ) + return np.array(encoded["input_ids"], dtype=np.int64) + + def _init_cache(self) -> dict[str, np.ndarray]: + """KV キャッシュを初期化する。""" + cache: dict[str, np.ndarray] = {} + for inp in self.session.get_inputs(): + if inp.name in {"input_ids", "attention_mask", "position_ids"}: + continue + shape = [d if isinstance(d, int) else 1 for d in inp.shape] + for i, d in enumerate(inp.shape): + if isinstance(d, str) and "sequence" in d.lower(): + shape[i] = 0 + cache[inp.name] = np.zeros( + shape, dtype=_ONNX_DTYPE.get(inp.type, np.float32) + ) + return cache + + def _token_stream( + self, + user_prompt: str, + system_prompt: str, + max_new_tokens: Optional[int], + ) -> Iterator[int]: + """ + トークンを 1 つずつ生成して yield する内部ジェネレータ。 + """ + max_tokens = max_new_tokens if max_new_tokens is not None else self.max_new_tokens + + input_ids = self._build_inputs(system_prompt, user_prompt) + seq_len = input_ids.shape[1] + cache = self._init_cache() + generated_tokens: list[int] = [] + + for step in range(max_tokens): + # ── 入力の準備 ─────────────────────────────── + if step == 0: + ids = input_ids + pos = np.arange(seq_len, dtype=np.int64).reshape(1, -1) + else: + ids = np.array([[generated_tokens[-1]]], dtype=np.int64) + pos = np.array( + [[seq_len + len(generated_tokens) - 1]], dtype=np.int64 + ) + + attn_mask = np.ones( + (1, seq_len + len(generated_tokens)), dtype=np.int64 + ) + feed: dict[str, np.ndarray] = { + "input_ids": ids, + "attention_mask": attn_mask, + **cache, + } + if self._use_position_ids: + feed["position_ids"] = pos + + # ── 推論 ───────────────────────────────────── + outputs = self.session.run(None, feed) + next_token = int(np.argmax(outputs[0][0, -1])) + generated_tokens.append(next_token) + + # ── KV キャッシュ更新 ───────────────────────── + for i, out in enumerate(self.session.get_outputs()[1:], start=1): + name = ( + out.name + .replace("present_conv", "past_conv") + .replace("present.", "past_key_values.") + ) + if name in cache: + cache[name] = outputs[i] + + yield next_token + + if next_token == self.tokenizer.eos_token_id: + break \ No newline at end of file diff --git a/MM_tools/manual/manual.html b/MM_tools/manual/manual.html new file mode 100644 index 0000000000000000000000000000000000000000..74aa50e1fc43ea86baf933726c3b287fe243c509 --- /dev/null +++ b/MM_tools/manual/manual.html @@ -0,0 +1,1020 @@ + + + + + +AI Tools 操作説明書 + + + + +
+ + +
+ 日本税関 内部ツール  |  操作説明書 +

AI Tools

+

+ ローカル AI モデルを活用した
+ 翻訳・OCR・帳簿 Excel 化・VLM・音声文字起こし +

+
+ ① 多言語翻訳 + ② OCR と翻訳 + ③ 表 OCR → Excel + ④ VLM + ⑤ 音声文字起こし +
+

アクセス: http://127.0.0.1:5559  |  ← → キーでスライドを移動

+
+ + +
+
+ トップ +

AI Tools ダッシュボード

+ http://127.0.0.1:5559 +
+
+ トップページ +
+
+
+

使い方

+
    +
  • 1ブラウザで http://127.0.0.1:5559 を開く
    • +
  • 2上部ナビバーまたはカードから各ツールへアクセス
    • +
  • 3下段の「使用モデル」で AI モデルを確認
    • +
+
+
+

ポイント

+
5 つのツールが 1 画面から利用可能。すべてローカル動作でインターネット不要。
+
初回の処理時はモデルのロードで数分かかる場合があります。
+
+
+
+ + +
+
+ ① 翻訳 +

多言語翻訳 — 操作手順

+ 🤖 LFM 2.5 (ONNX) +
+
+ 多言語翻訳 +
+
+
+

操作手順

+
    +
  • 1左ボックスに翻訳したいテキストを入力
    • +
  • 2原文言語を選択（Auto で自動検出）
    • +
  • 3翻訳先言語を右上ドロップダウンで選択
    • +
  • 4「翻訳を実行」ボタン、または Ctrl+Enter
    • +
  • 5右ボックスに翻訳結果が表示される
    • +
+
+
+

対応言語・機能

+
+ 対応言語: 日本語・英語・中国語・韓国語・フランス語・ドイツ語・スペイン語ほか自由入力可 +
+
+ 貼り付けボタン: クリップボードの内容を一括入力
+ クリア: 入力欄を一括消去 +
+
+
+
+ + +
+
+ ① 翻訳 +

多言語翻訳 — 実行後のイメージ

+
+
+
英語 → 日本語 翻訳の実行例
+
+
+ 🌐 多言語翻訳  |  原文: English（Auto検出）  →  翻訳先: 日本語 +
+
+
+
原文（英語）
+
The customs declaration form must be completed in full before goods are cleared. Any false or incomplete declaration may result in penalties, including seizure of goods or fines under the Customs Act. + +All import duties and taxes must be paid at the time of clearance. Please ensure that the declared value accurately reflects the transaction price.
+
+
+
翻訳結果（日本語）
+
税関申告書は、貨物が通関される前に完全に記入されなければなりません。虚偽または不完全な申告は、関税法に基づく貨物の没収または罰金など、罰則の対象となる場合があります。 + +すべての輸入関税および税金は、通関時に支払われなければなりません。申告価格が取引価格を正確に反映していることを確認してください。
+
+
+
+
+
+ + +
+
+ ② OCR +

OCR と翻訳 — 操作手順

+ 🤖 GLM-OCR + LFM 2.5 +
+
+ OCR と翻訳 +
+
+
+

操作手順

+
    +
  • 1左エリアに画像をドラッグ＆ドロップ（またはクリックして選択）
    • +
  • 2プロンプトを選択（テキスト / テーブル / LaTeX / フリー入力）
    • +
  • 3「OCR 実行」をクリック → 右パネルに結果がリアルタイムで流れる
    • +
  • 4「翻訳結果」タブに切り替えて日本語訳を確認
    • +
+
+
+

プロンプトの選択肢

+
+ テキスト出力: 文章をそのまま抽出
+ テーブル出力: 表形式で抽出
+ LaTeX 出力: 数式・図面向け
+ フリー入力: 任意の指示を入力 +
+
対応形式: PNG / JPG / WEBP など主要画像形式
+
+
+
+ + +
+
+ ② OCR +

OCR と翻訳 — 実行後のイメージ

+
+
+
インボイス画像を OCR → 日本語翻訳した例
+
+
+ 📷 OCR と翻訳  |  + invoice_sample.jpg + OCR 完了 ✓ +
+
+
+
OCR 結果（原文）
+
COMMERCIAL INVOICE + +Shipper: ABC Trading Co., Ltd. +123 Export St., Shanghai, China + +Consignee: XYZ Import Corp. +4-5-6 Minato-ku, Tokyo, Japan + +Invoice No.: INV-2025-04821 +Date: 2025-03-01 + +Description Qty Unit Price Amount +Electronic Parts 50 USD 120.00 USD 6,000.00 +Circuit Boards 100 USD 45.00 USD 4,500.00 +Cable Assembly 200 USD 8.50 USD 1,700.00 + +Subtotal: USD 12,200.00 +Freight: USD 380.00 +Total: USD 12,580.00
+
+
+
翻訳結果（日本語）
+
商業インボイス + +荷送人: ABC Trading Co., Ltd. +中国・上海市輸出通123番地 + +荷受人: XYZ Import Corp. +日本・東京都港区4-5-6 + +インボイス番号: INV-2025-04821 +日付: 2025年3月1日 + +品名 数量 単価 金額 +電子部品 50 USD 120.00 USD 6,000.00 +回路基板 100 USD 45.00 USD 4,500.00 +ケーブル組立品 200 USD 8.50 USD 1,700.00 + +小計: USD 12,200.00 +運賃: USD 380.00 +合計: USD 12,580.00
+
+
+
+
+
+ + +
+
+ ③ Excel +

表 OCR → Excel 出力 — 操作手順

+ 🤖 Qwen3-VL-2B-Instruct +
+
+ 表 OCR → Excel +
+
+
+

操作手順

+
    +
  • 1帳簿・表が写った画像をアップロード（またはファイルパスを入力）
    • +
  • 2「Excel を生成」ボタンをクリック
    • +
  • 3右パネルで処理ステップ（1→4）の進捗を確認
    • +
  • 4完了後、ダウンロードリンクから Excel を保存
    • +
+
+
+

対応形式・撮影のコツ

+
+ 対応形式: JPG / PNG / WEBP / BMP / TIFF +
+
+ 精度を上げるコツ:
+ 表全体が収まるよう撮影する
+ 水平に・明るい環境で撮影する
+ 高解像度ほど認識精度が向上する +
+
+
+
+ + +
+
+ ③ Excel +

表 OCR → Excel — 実行後のイメージ

+
+
+
帳簿画像から Excel を生成した例
+
+
+ 📊 表 OCR → Excel  |  + ledger_photo.jpg +
+
+
+
処理ステップ
+
✓ 1. 画像の読み込み
+
✓ 2. モデルのロード
+
✓ 3. 表データの解析（OCR・JSON 抽出）
+
✓ 4. Excel ファイルの生成（openpyxl）
+
+ 📄 +
+
ledger_output.xlsx
+
生成完了 — 5 行 × 4 列
+
+ +
+
+
+
Excel プレビュー（抽出データ）
+ + + + + + + + + + + + +
日付品目数量金額（円）
2025/01/05事務用品34,500
2025/01/08交通費11,320
2025/01/12消耗品52,750
2025/01/15郵便料金2840
2025/01/20印刷費13,200
合計12,610
+
+
+
+
+
+ + +
+
+ ④ VLM +

ビジュアル言語モデル — 操作手順

+ 🤖 Qwen3-VL-2B-Instruct +
+
+ VLM +
+
+
+

操作手順

+
    +
  • 1画像をアップロード（ドラッグ＆ドロップまたはクリック）
    • +
  • 2プリセットボタンまたはフリー入力でプロンプトを指定
    • +
  • 3「実行」をクリック → 右パネルにストリーミング表示
    • +
+
+
+

プリセット例

+
+ 画像の概要: 画像の内容を要約して説明
+ 文字の読み取り・要約: 文字情報を抽出して整理
+ テーブル (HTML): 表を HTML タグで出力
+ フリー入力: 任意の質問・指示を入力 +
+
+
+
+ + +
+
+ ④ VLM +

ビジュアル言語モデル — 実行後のイメージ

+
+
+
帳票画像に「画像の概要」プロンプトを実行した例
+
+
+ 🖼 VLM  |  + document.jpg  — プロンプト: 画像の概要 + 生成完了 ✓ +
+
+
+
📄
+
document.jpg
+
+
+
出力結果
+
この画像は、日本語で記載された税関申告書（輸入申告書）です。 + +## 主な記載内容 + +- **申告者情報**: 会社名、住所、代表者名が上部に記載されています +- **品目欄**: 輸入品の品名・品番・数量・申告価格が表形式で整理されています +- **原産地**: 各品目の原産国（中国・ドイツ）が明記されています +- **関税区分**: 税率・税額の計算根拠が右側に記載されています + +## 特記事項 + +書類右下に担当官の検印欄があり、2025年2月15日付けで処理済みのスタンプが押されています。申告総額は ¥2,847,500 と記載されています。
+
+
+
+
+
+ + +
+
+ ⑤ 文字起こし +

音声文字起こし — 操作手順

+ 🤖 Whisper Small / Large-v3-turbo +
+
+ 音声文字起こし +
+
+
+

操作手順

+
    +
  • 1音声・動画ファイルをドロップ（mp3 / wav / mp4 / m4a / ogg）
    • +
  • 2モデルを選択: Small（高速）/ Large（高精度）
    • +
  • 3出力形式を選択: タイムスタンプあり / なし
    • +
  • 4翻訳オプション（任意）: 言語名を入力して有効化
    • +
  • 5「書き出し開始」→ 完了後テキストファイルで保存
    • +
+
+
+

出力ファイル

+
+ タイムスタンプあり: whisper_text_time.txt
+ タイムスタンプなし: whisper_only_text.txt +
+
+ 翻訳オプション: LFM 2.5 (ONNX) を使用。
+ 翻訳先は「英語」「中国語」などの言語名で入力。
+ Large モデルは初回ロードに数分かかります。 +
+
+
+
+ + +
+
+ ⑤ 文字起こし +

音声文字起こし — 実行後のイメージ

+
+
+
会議音声（mp3）をタイムスタンプあり・日本語で書き起こした例
+
+
+ 🎙 音声文字起こし  |  + meeting_20250301.mp3  — Small モデル  — タイムスタンプあり + 書き起こし完了 ✓ +
+
+
文字起こし結果（タイムスタンプ付き）
+
[00:00:01]おはようございます。本日の税関業務に関する定例会議を始めます。
+
[00:00:08]本日の議題は3点あります。まず先月の輸入申告件数の報告からお願いします。
+
[00:00:18]先月の輸入申告件数は合計で1,842件、うち審査対象は327件でした。
+
[00:00:29]前月比で約12%の増加となっており、主に電子部品の輸入増加が要因です。
+
[00:00:41]ありがとうございます。次にAIツールの導入効果について報告をお願いします。
+
[00:00:52]OCRツールの導入により、書類入力時間が平均で37%削減されました。
+
[00:01:03]翻訳機能についても職員からの評価が高く、英語・中国語文書の処理が大幅に効率化されています。
+
📄 whisper_text_time.txt として保存完了
+
+
+
+
+ + +
+

使用モデル一覧

+

すべてローカル動作 — インターネット接続不要

+
+
+
① 多言語翻訳
+
LFM 2.5 Instruct
+
ONNX 形式  |  高速ローカル翻訳
+
+
+
② OCR と翻訳
+
GLM-OCR + LFM 2.5
+
文字認識 + 翻訳の 2 段構成
+
+
+
③ 表 OCR → Excel
+
Qwen3-VL-2B-Instruct
+
ビジュアル言語モデル  |  openpyxl で書き出し
+
+
+
④ VLM
+
Qwen3-VL-2B-Instruct
+
③と共用  |  フリープロンプト対応
+
+
+
⑤ 音声文字起こし
+
Whisper Small / Large-v3-turbo
+
faster-whisper  |  翻訳オプション: LFM 2.5
+
+
+
起動方法
+
python run.py
+
http://127.0.0.1:5559 でアクセス
+
+
+ すべてローカルで動作 — データは外部に送信されません +
+ +
+ + +
+ + 1 / 13 + +
+
+ + + + diff --git a/MM_tools/manual/ss_ledger.png b/MM_tools/manual/ss_ledger.png new file mode 100644 index 0000000000000000000000000000000000000000..39e578fbfd9267edaca3d278d784b2dca3189487 --- /dev/null +++ b/MM_tools/manual/ss_ledger.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:184968ef978554fb4fb444e53800d76ceae6159254f8eadb74cd3495c004cf35 +size 203888 diff --git a/MM_tools/manual/ss_ocr.png b/MM_tools/manual/ss_ocr.png new file mode 100644 index 0000000000000000000000000000000000000000..46b2087b7ed8b0a29ca2c37121485fadd424e31d --- /dev/null +++ b/MM_tools/manual/ss_ocr.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8ef3697aae7c8820150e3aa5c5437ad6ea0dddb6ff983d15406b5289909ade68 +size 154566 diff --git a/MM_tools/manual/ss_top.png b/MM_tools/manual/ss_top.png new file mode 100644 index 0000000000000000000000000000000000000000..3eb0f8b3a70ad8595d1b469242a93fb9af0cece1 --- /dev/null +++ b/MM_tools/manual/ss_top.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:55006c723811b6826c1b24730404d46cf822ff837557a77365da51bbe8f37c9d +size 291018 diff --git a/MM_tools/manual/ss_translation.png b/MM_tools/manual/ss_translation.png new file mode 100644 index 0000000000000000000000000000000000000000..3d1c733f8ec18455c797a21efd5c00562b47c78a --- /dev/null +++ b/MM_tools/manual/ss_translation.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:511444cd4451e94ce8d147c4f0e6f18509a44263197a68b1c8ec528426b8820c +size 153523 diff --git a/MM_tools/manual/ss_vlm.png b/MM_tools/manual/ss_vlm.png new file mode 100644 index 0000000000000000000000000000000000000000..838f245d5c8f9e1300bdae33f35be885d37cf854 --- /dev/null +++ b/MM_tools/manual/ss_vlm.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:4065015a8f0c66392edcb19722a5c8af42bcf19e0489674eb522d7c5b188c2ae +size 166159 diff --git a/MM_tools/manual/ss_whisper.png b/MM_tools/manual/ss_whisper.png new file mode 100644 index 0000000000000000000000000000000000000000..f518b11fb4e037fb5371f59ec11ceb051ef3daa7 --- /dev/null +++ b/MM_tools/manual/ss_whisper.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:17074751014520dc5dd7ee11d3969f03a39261106a726512312838917fc79d32 +size 176360 diff --git a/MM_tools/manual/yuru_customkun.png b/MM_tools/manual/yuru_customkun.png new file mode 100644 index 0000000000000000000000000000000000000000..5ed499891e6447e0b07e5a08d0d9b84362ae5ee1 --- /dev/null +++ b/MM_tools/manual/yuru_customkun.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:24029c8c43ae4615711795a5d1ca19b5649c811543058899424ead2ab2b3b2c5 +size 446422 diff --git a/MM_tools/models/GLM_OCR.txt b/MM_tools/models/GLM_OCR.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/MM_tools/models/Qwen2.5-VL-3B.txt b/MM_tools/models/Qwen2.5-VL-3B.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/MM_tools/models/Qwen3-VL-2B-Instruct.txt b/MM_tools/models/Qwen3-VL-2B-Instruct.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/MM_tools/models/lfm2.5_instruct.txt b/MM_tools/models/lfm2.5_instruct.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/MM_tools/output/ledger_20260303_145044.xlsx b/MM_tools/output/ledger_20260303_145044.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..e0006a21f7cf51d319e23e108b5d6e2c191034f5 Binary files /dev/null and b/MM_tools/output/ledger_20260303_145044.xlsx differ diff --git a/MM_tools/output/ledger_20260303_145258.xlsx b/MM_tools/output/ledger_20260303_145258.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..b598ffbb5e5bbeb8784f30343f4a6d811dd02368 Binary files /dev/null and b/MM_tools/output/ledger_20260303_145258.xlsx differ diff --git a/MM_tools/output/ledger_20260303_150041.xlsx b/MM_tools/output/ledger_20260303_150041.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..e43ce818617001c00884ac625f16ba9e7f6682fb Binary files /dev/null and b/MM_tools/output/ledger_20260303_150041.xlsx differ diff --git a/MM_tools/output/ledger_20260303_203051.xlsx b/MM_tools/output/ledger_20260303_203051.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..69989f2d0614901ccf9d4a0287db51866695c9f9 Binary files /dev/null and b/MM_tools/output/ledger_20260303_203051.xlsx differ diff --git a/MM_tools/output/ledger_20260303_214905.xlsx b/MM_tools/output/ledger_20260303_214905.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..2df7236ef261ee1ef1d944d2488d36932621d872 Binary files /dev/null and b/MM_tools/output/ledger_20260303_214905.xlsx differ diff --git a/MM_tools/output/ledger_20260303_232642.xlsx b/MM_tools/output/ledger_20260303_232642.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..21d7c647c381c8650482ef8dfb2f1aea2956f857 Binary files /dev/null and b/MM_tools/output/ledger_20260303_232642.xlsx differ diff --git a/MM_tools/output/ledger_20260304_185723.xlsx b/MM_tools/output/ledger_20260304_185723.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..b835c456f9a22e023c4b3d6a03572c5f0b1c7cd9 Binary files /dev/null and b/MM_tools/output/ledger_20260304_185723.xlsx differ diff --git a/MM_tools/output/ledger_20260306_220025.xlsx b/MM_tools/output/ledger_20260306_220025.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..ec3130b7ac421a1ab7883b6068a0ca99a738a3f6 Binary files /dev/null and b/MM_tools/output/ledger_20260306_220025.xlsx differ diff --git a/MM_tools/output/ledger_20260306_221121.xlsx b/MM_tools/output/ledger_20260306_221121.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..c680a9af9653eb3eae44631012319fba3f7ac226 Binary files /dev/null and b/MM_tools/output/ledger_20260306_221121.xlsx differ diff --git a/MM_tools/output/ledger_20260311_225656.xlsx b/MM_tools/output/ledger_20260311_225656.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..4e783ee546a0a465d873f82a3760418e23b7a8f5 Binary files /dev/null and b/MM_tools/output/ledger_20260311_225656.xlsx differ diff --git a/MM_tools/output/ledger_20260311_225943.xlsx b/MM_tools/output/ledger_20260311_225943.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..98ec74100a562213d8ef64822137070890e849ae Binary files /dev/null and b/MM_tools/output/ledger_20260311_225943.xlsx differ diff --git a/MM_tools/output/ledger_20260312_230920.xlsx b/MM_tools/output/ledger_20260312_230920.xlsx new file mode 100644 index 0000000000000000000000000000000000000000..2c275a474ab2d0a7e3e1f558f3fb53fc2860571b Binary files /dev/null and b/MM_tools/output/ledger_20260312_230920.xlsx differ diff --git a/MM_tools/run.py b/MM_tools/run.py new file mode 100644 index 0000000000000000000000000000000000000000..235acd0f5953d6ce6e2b98125f843d509d046d7b --- /dev/null +++ b/MM_tools/run.py @@ -0,0 +1,33 @@ +""" +AI Tools Flask アプリケーション エントリポイント + +使い方: + python run.py + ブラウザで http://localhost:5000 を開く + +ツール一覧: + / : トップページ + /translation : ① 多言語翻訳 + /ocr : ② OCR と翻訳 + /ledger : ③ 表形式 OCR → Excel 出力 + /whisper : ④ 音声文字起こし + +設定変更: + config.py でモデルパス・ポート番号等を変更できます。 +""" + +import sys +from pathlib import Path + +# プロジェクトルートを Python パスに追加（config.py / ローカルモジュール用） +ROOT = Path(__file__).parent +if str(ROOT) not in sys.path: + sys.path.insert(0, str(ROOT)) + +from config import FLASK_HOST, FLASK_PORT, FLASK_DEBUG +from app import create_app + +app = create_app() + +if __name__ == "__main__": + app.run(host=FLASK_HOST, port=FLASK_PORT, debug=FLASK_DEBUG, threaded=True) diff --git a/MM_tools/src/Flag_of_Japan_Customs.svg.png b/MM_tools/src/Flag_of_Japan_Customs.svg.png new file mode 100644 index 0000000000000000000000000000000000000000..997c4fea53ab628677036211b3a421d995176d2e --- /dev/null +++ b/MM_tools/src/Flag_of_Japan_Customs.svg.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ae28d2b3554545290b2216bf58cecadd3c94dc28ea2e5da7dfb4e163e6dd1b3a +size 3663 diff --git a/MM_tools/src/HP1.png b/MM_tools/src/HP1.png new file mode 100644 index 0000000000000000000000000000000000000000..976c51f93a6bd86c643a3dd2cc0f3f8611bb5a46 --- /dev/null +++ b/MM_tools/src/HP1.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d1bd05cbbd38ad8cc24589f3b2f0a96cb69d290b97687a39bf0d37e3b43c13e5 +size 217625 diff --git a/MM_tools/src/snow.css b/MM_tools/src/snow.css new file mode 100644 index 0000000000000000000000000000000000000000..b8ea4c0562d7ea74b651ebf10cc44f5757df8ab4 --- /dev/null +++ b/MM_tools/src/snow.css @@ -0,0 +1,36 @@ +.snow { + /*雪の色*/ + color: snow; + /*雪の大きさ*/ + font-size: 15px; + /*初期位置*/ + position: fixed; + top: -5%; + /*雪を適当な幅で降らせる*/ + text-shadow: + 5vw -100px 2px, + 10vw -400px 3px, + 20vw -500px 4px, + 30vw -580px 1px, + 39vw -250px 2px, + 42vw -340px 5px, + 56vw -150px 2px, + 63vw -180px 0, + 78vw -220px 4px, + 86vw -320px 9px, + 94vw -170px 7px; + /*雪アニメーション1*/ + animation: roll 5s linear infinite; + } + /*2つめの雪アニメーション*/ + .snow2nd{animation: anim 8s linear infinite;} + + @keyframes roll { + 0% {transform:rotate(0deg);} + 90% {opacity:1;} + 100% {transform:rotate(20deg);top:100%;opacity:0;} + } + @keyframes anim { + 100% {color:transparent;top:150%;} + } + \ No newline at end of file diff --git a/MM_tools/templates/index.html b/MM_tools/templates/index.html new file mode 100644 index 0000000000000000000000000000000000000000..37b616f21ad00d2cefed50afd5b05b44e586e3bf --- /dev/null +++ b/MM_tools/templates/index.html @@ -0,0 +1,568 @@ + + + + + + GLM-OCR + + + + + + +
+
+
+ + + + +
+

GLM-OCR

+ 画像文字認識 + 翻訳アプリ +
+
+ + +
+
+ + +
+ + +
+ +
+ + + + +
+
+ + + +
+

クリックまたはドラッグ＆ドロップ

+

PNG, JPG, WEBP など

+
+ + +
+
+ + +
+ + + +
+ + + + +
+ + +
+ + + +
+ + +
+ + +
+ + + + +
+ + +
+ +
+
+ + + +

OCR 結果がここに表示されます

+
+
+ + +
+ + + +
+ + +
+
+
+ + + + +
+
+
+ + + + + + diff --git a/similar_img_face_recon_app/app.py b/similar_img_face_recon_app/app.py new file mode 100644 index 0000000000000000000000000000000000000000..0c5d6ddbc240f76c866fa244dc031345a3365dda --- /dev/null +++ b/similar_img_face_recon_app/app.py @@ -0,0 +1,56 @@ +""" +統合アプリケーションのエントリーポイント。 + +Flask Blueprint を使い、以下の 2 機能を 1 つのサーバーに統合します。 + - /img/ : DINOv2 + FAISS による類似画像検索 + - /face/ : AuraFace + FAISS による顔認証・類似顔検索 + - / : アプリ選択用ランディングページ + +起動方法: + unified_app/ ディレクトリから実行してください。 + $ python app.py +""" + +from flask import Flask, render_template + +from blueprints.face_recon import face_recon_bp +from blueprints.similar_image import similar_image_bp +from config import IMAGES_DIR, UPLOADS_DIR +from utils import maintain_image_limit + +# --- 必要なディレクトリを事前に作成 --- +UPLOADS_DIR.mkdir(parents=True, exist_ok=True) +IMAGES_DIR.mkdir(parents=True, exist_ok=True) + +# 起動時にアップロードフォルダの古い画像を整理 +maintain_image_limit(str(UPLOADS_DIR), limit=100) + + +def create_app() -> Flask: + """ + Flask アプリケーションを生成・設定して返します。 + + Blueprint を登録し、ランディングページのルートを定義します。 + + Returns: + Flask: 設定済みの Flask アプリケーションインスタンス。 + """ + app = Flask(__name__) + + # Blueprint を登録（URL プレフィックスで機能を分離） + app.register_blueprint(similar_image_bp, url_prefix="/img") + app.register_blueprint(face_recon_bp, url_prefix="/face") + + @app.route("/") + def landing(): + """アプリ選択用ランディングページを返します。""" + return render_template("landing.html") + + return app + + +app = create_app() + +if __name__ == "__main__": + # debug=True にするとコード変更時にサーバーが自動再起動します + app.run(debug=True) diff --git a/similar_img_face_recon_app/blueprints/__init__.py b/similar_img_face_recon_app/blueprints/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..6ca3768f460f4a21027d3a8be8bebab87f67ec7c --- /dev/null +++ b/similar_img_face_recon_app/blueprints/__init__.py @@ -0,0 +1 @@ +"""Blueprints パッケージ。類似画像検索と顔認証の Blueprint を格納します。""" diff --git a/similar_img_face_recon_app/blueprints/__pycache__/__init__.cpython-310.pyc b/similar_img_face_recon_app/blueprints/__pycache__/__init__.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..f2a715a7207f25c4a61e14989c151204f268c0e0 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/__pycache__/__init__.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/__pycache__/__init__.cpython-314.pyc b/similar_img_face_recon_app/blueprints/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..78900c080a660656defe9929c02b104a02663537 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/__pycache__/__init__.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__init__.py b/similar_img_face_recon_app/blueprints/face_recon/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..ad0517dd97b008f55905d7e6112f736c93a64e60 --- /dev/null +++ b/similar_img_face_recon_app/blueprints/face_recon/__init__.py @@ -0,0 +1,14 @@ +""" +顔認証・類似顔検索 Blueprint パッケージ。 + +SCRFD による顔検出、ArcFace/AuraFace による顔 embedding 生成、 +FAISS による最近傍検索を組み合わせた顔類似検索機能を提供します。 + +URL プレフィックス: /face +""" + +from flask import Blueprint + +face_recon_bp = Blueprint("face_recon", __name__) + +from . import routes # noqa: E402, F401 — Blueprint にルートを登録するため末尾でインポート diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/__init__.cpython-310.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/__init__.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..8f9fde300e9914c5d193356ca02b4d001513cb56 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/__init__.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/__init__.cpython-314.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..cff183907d0f6e3d4818a5f1b2c6643d6b0c44db Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/__init__.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/auraface.cpython-310.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/auraface.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..206f6b1822d313de328ca5fcbcd679ce92810f55 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/auraface.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/auraface.cpython-314.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/auraface.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..db25556307160730d96ee09cc7c904a1f43cb16c Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/auraface.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/face_recon_faiss.cpython-310.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/face_recon_faiss.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..ca51ebc5053f8dd1981b32a922b2244523fcc849 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/face_recon_faiss.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/face_recon_faiss.cpython-314.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/face_recon_faiss.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..919f658d4a1a8cc2ccb9feeeef20ea1cfaf7d7ec Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/face_recon_faiss.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/routes.cpython-310.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/routes.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..d7e14640df88a678d3104096633046ef1c35694a Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/routes.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/__pycache__/routes.cpython-314.pyc b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..473ba3b93c337f1277b8bd910746f576e791c467 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/face_recon/__pycache__/routes.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/face_recon/auraface.py b/similar_img_face_recon_app/blueprints/face_recon/auraface.py new file mode 100644 index 0000000000000000000000000000000000000000..a18a0eba1f77a5cbdbcf17c092d34b56831f9b5c --- /dev/null +++ b/similar_img_face_recon_app/blueprints/face_recon/auraface.py @@ -0,0 +1,451 @@ +""" +AuraFace 顔検出・顔認証パイプラインモジュール。 + +SCRFD (ONNX) による顔検出と ArcFace/AuraFace (ONNX) による +顔 embedding 生成をまとめたパイプラインを提供します。 + +クラス構成: + - FaceDetector : SCRFD_10G ONNX モデルによる顔検出 + - FaceRecognizer : ArcFace/AuraFace ONNX モデルによる embedding 生成 + - AuraFace : 上記 2 クラスを束ねたメインパイプライン +""" + +from pathlib import Path +from typing import Dict, List, Optional, Tuple + +import cv2 +import numpy as np +import onnxruntime as ort +from PIL import Image + + +class FaceDetector: + """ + SCRFD (Sample and Computation Redistribution for Efficient Face Detection) による顔検出器。 + + ONNX 形式の SCRFD_10G モデルを使い、入力画像から顔の + バウンディングボックスと 5 点ランドマーク（目・鼻・口角）を検出します。 + + Args: + model_path (str): SCRFD ONNX モデルファイルのパス。 + conf_thresh (float): 顔と判定する信頼度の閾値。デフォルト 0.5。 + nms_thresh (float): Non-Maximum Suppression の IoU 閾値。デフォルト 0.4。 + """ + + def __init__( + self, + model_path: str, + conf_thresh: float = 0.5, + nms_thresh: float = 0.4, + ): + self.conf_thresh = conf_thresh + self.nms_thresh = nms_thresh + self.session = ort.InferenceSession( + model_path, + providers=["CUDAExecutionProvider", "CPUExecutionProvider"], + ) + self.input_name = self.session.get_inputs()[0].name + self.input_size = (640, 640) # SCRFD_10G のデフォルト入力サイズ + self.output_names = [o.name for o in self.session.get_outputs()] + self._feat_stride_fpn = [8, 16, 32] + self._num_anchors = 2 + self.center_cache: Dict = {} + + def _get_center_points( + self, height: int, width: int, stride: int + ) -> np.ndarray: + """ + FPN の各スケールにおけるアンカーグリッド中心座標を生成します。 + + Args: + height (int): 特徴マップの高さ。 + width (int): 特徴マップの幅。 + stride (int): ダウンサンプリングストライド。 + + Returns: + np.ndarray: shape (height*width*num_anchors, 2) のアンカー中心座標配列。 + """ + cache_key = (height, width, stride) + if cache_key in self.center_cache: + return self.center_cache[cache_key] + + y, x = np.meshgrid(np.arange(height), np.arange(width), indexing="ij") + anchor_centers = np.stack([x, y], axis=-1).astype(np.float32) + anchor_centers = (anchor_centers * stride).reshape((-1, 2)) + # 各グリッド位置に 2 つのアンカー + anchor_centers = np.stack( + [anchor_centers] * self._num_anchors, axis=1 + ).reshape((-1, 2)) + + self.center_cache[cache_key] = anchor_centers + return anchor_centers + + def _distance2bbox( + self, points: np.ndarray, distance: np.ndarray + ) -> np.ndarray: + """ + アンカー中心からの距離オフセットをバウンディングボックス座標に変換します。 + + Args: + points (np.ndarray): アンカー中心座標 (N, 2)。 + distance (np.ndarray): 距離予測値 (N, 4) [left, top, right, bottom]。 + + Returns: + np.ndarray: バウンディングボックス座標 (N, 4) [x1, y1, x2, y2]。 + """ + x1 = points[:, 0] - distance[:, 0] + y1 = points[:, 1] - distance[:, 1] + x2 = points[:, 0] + distance[:, 2] + y2 = points[:, 1] + distance[:, 3] + return np.stack([x1, y1, x2, y2], axis=-1) + + def _distance2kps( + self, points: np.ndarray, distance: np.ndarray + ) -> np.ndarray: + """ + アンカー中心からの距離オフセットをランドマーク座標に変換します。 + + Args: + points (np.ndarray): アンカー中心座標 (N, 2)。 + distance (np.ndarray): ランドマーク距離予測値 (N, 10)。 + + Returns: + np.ndarray: ランドマーク座標 (N, 10) [x0, y0, x1, y1, ...]。 + """ + preds = [] + for i in range(0, distance.shape[1], 2): + preds.append(points[:, 0] + distance[:, i]) + preds.append(points[:, 1] + distance[:, i + 1]) + return np.stack(preds, axis=-1) + + def preprocess( + self, img: np.ndarray + ) -> Tuple[np.ndarray, float]: + """ + 入力画像を SCRFD 推論用に前処理します。 + + アスペクト比を保ったままモデル入力サイズにリサイズし、 + 残りをゼロパディングします。 + + Args: + img (np.ndarray): BGR 形式の入力画像 (H, W, 3)。 + + Returns: + tuple: + np.ndarray: 前処理済みバッチ配列 (1, 3, 640, 640)。 + float: 元画像に対するスケール比率。 + """ + im_ratio = float(img.shape[0]) / img.shape[1] + model_ratio = self.input_size[1] / self.input_size[0] + + if im_ratio > model_ratio: + new_height = self.input_size[1] + new_width = int(new_height / im_ratio) + else: + new_width = self.input_size[0] + new_height = int(new_width * im_ratio) + + det_scale = float(new_height) / img.shape[0] + resized_img = cv2.resize(img, (new_width, new_height)) + + det_img = np.zeros( + (self.input_size[1], self.input_size[0], 3), dtype=np.uint8 + ) + det_img[:new_height, :new_width, :] = resized_img + det_img = det_img.astype(np.float32) + det_img = (det_img - 127.5) / 128.0 + det_img = np.transpose(det_img, (2, 0, 1)) + det_img = np.expand_dims(det_img, axis=0) + + return det_img, det_scale + + def detect(self, img: np.ndarray) -> List[dict]: + """ + 画像から顔を検出し、バウンディングボックスとランドマークを返します。 + + Args: + img (np.ndarray): BGR 形式の入力画像。 + + Returns: + list[dict]: 検出された各顔の情報。 + bbox (list): バウンディングボックス [x1, y1, x2, y2]。 + score (float): 信頼度スコア。 + landmarks (list): 5 点ランドマーク [[x, y], ...]。 + """ + input_img, det_scale = self.preprocess(img) + outputs = self.session.run( + self.output_names, {self.input_name: input_img} + ) + + scores_list, bboxes_list, kpss_list = [], [], [] + num_levels = len(self._feat_stride_fpn) + + for idx, stride in enumerate(self._feat_stride_fpn): + scores = outputs[idx].reshape((-1, 1)) + bbox_preds = outputs[idx + num_levels].reshape((-1, 4)) * stride + kps_preds = outputs[idx + num_levels * 2].reshape((-1, 10)) * stride + + height = self.input_size[1] // stride + width = self.input_size[0] // stride + anchor_centers = self._get_center_points(height, width, stride) + + pos_indices = np.where(scores.flatten() >= self.conf_thresh)[0] + if len(pos_indices) == 0: + continue + + scores_list.append(scores[pos_indices]) + bboxes_list.append( + self._distance2bbox( + anchor_centers[pos_indices], bbox_preds[pos_indices] + ) + ) + kpss_list.append( + self._distance2kps( + anchor_centers[pos_indices], kps_preds[pos_indices] + ) + ) + + if not scores_list: + return [] + + scores = np.vstack(scores_list).flatten() + bboxes = np.vstack(bboxes_list) / det_scale + kpss = np.vstack(kpss_list) / det_scale + + keep = self._nms(bboxes, scores) + + faces = [] + for idx in keep: + faces.append( + { + "bbox": bboxes[idx].astype(np.float32).tolist(), + "score": float(scores[idx]), + "landmarks": kpss[idx].reshape((5, 2)).astype(np.float32).tolist(), + } + ) + return faces + + def _nms(self, bboxes: np.ndarray, scores: np.ndarray) -> List[int]: + """ + Non-Maximum Suppression (NMS) を適用して重複検出を除去します。 + + Args: + bboxes (np.ndarray): バウンディングボックス配列 (N, 4)。 + scores (np.ndarray): 各ボックスの信頼度スコア (N,)。 + + Returns: + list[int]: 残すボックスのインデックスリスト。 + """ + x1, y1, x2, y2 = bboxes[:, 0], bboxes[:, 1], bboxes[:, 2], bboxes[:, 3] + areas = (x2 - x1 + 1) * (y2 - y1 + 1) + order = scores.argsort()[::-1] + keep = [] + while order.size > 0: + i = order[0] + keep.append(i) + xx1 = np.maximum(x1[i], x1[order[1:]]) + yy1 = np.maximum(y1[i], y1[order[1:]]) + xx2 = np.minimum(x2[i], x2[order[1:]]) + yy2 = np.minimum(y2[i], y2[order[1:]]) + w = np.maximum(0.0, xx2 - xx1 + 1) + h = np.maximum(0.0, yy2 - yy1 + 1) + inter = w * h + ovr = inter / (areas[i] + areas[order[1:]] - inter) + inds = np.where(ovr <= self.nms_thresh)[0] + order = order[inds + 1] + return keep + + +class FaceRecognizer: + """ + ArcFace / AuraFace による顔認証モデルのラッパークラス。 + + 112×112 にアライメントされた顔画像から 512 次元の + L2 正規化済み embedding を生成します。 + + Args: + model_path (str): ArcFace/AuraFace ONNX モデルファイルのパス。 + """ + + def __init__(self, model_path: str): + self.session = ort.InferenceSession( + model_path, + providers=["CUDAExecutionProvider", "CPUExecutionProvider"], + ) + self.input_name = self.session.get_inputs()[0].name + self.output_name = self.session.get_outputs()[0].name + + def align_face( + self, + img: np.ndarray, + landmarks: List[List[float]], + ) -> Optional[np.ndarray]: + """ + 5 点ランドマークを使って顔を 112×112 にアフィン変換（アライメント）します。 + + ArcFace の標準的なアライメント座標を参照点として + Partial Affine 変換を計算します。 + + Args: + img (np.ndarray): BGR 形式の入力画像。 + landmarks (list): 5 点ランドマーク [[x, y], ...] のリスト。 + + Returns: + np.ndarray or None: アライメント済みの 112×112 BGR 画像。 + 変換行列の推定に失敗した場合は None。 + """ + src = np.array(landmarks, dtype=np.float32) + # ArcFace 標準アライメント座標 (112×112) + dst = np.array( + [ + [38.2946, 51.6963], + [73.5318, 51.5014], + [56.0252, 71.7366], + [41.5493, 92.3655], + [70.7299, 92.2041], + ], + dtype=np.float32, + ) + tform, _ = cv2.estimateAffinePartial2D(src, dst) + if tform is None: + return None + return cv2.warpAffine(img, tform, (112, 112)) + + def get_embedding(self, face_img: np.ndarray) -> np.ndarray: + """ + アライメント済み顔画像から L2 正規化済み embedding を生成します。 + + Args: + face_img (np.ndarray): 112×112 の RGB 顔画像。 + + Returns: + np.ndarray: 512 次元の L2 正規化済み embedding ベクトル。 + """ + img = (face_img - 127.5) / 128.0 + img = np.transpose(img, (2, 0, 1))[np.newaxis, ...].astype(np.float32) + embedding = self.session.run( + [self.output_name], {self.input_name: img} + )[0].flatten() + norm = np.linalg.norm(embedding) + return embedding / norm if norm > 0 else embedding + + +class AuraFace: + """ + 顔検出から embedding 生成までをまとめたメインパイプラインクラス。 + + FaceDetector で顔を検出し、FaceRecognizer でアライメント・embedding を生成します。 + + Args: + model_dir (str): SCRFD と AuraFace の ONNX モデルが置かれたディレクトリパス。 + ディレクトリ内に以下のファイルが必要です: + - scrfd_10g_bnkps.onnx + - glintr100.onnx + """ + + def __init__(self, model_dir: str): + path = Path(model_dir) + self.detector = FaceDetector(str(path / "scrfd_10g_bnkps.onnx")) + self.recognizer = FaceRecognizer(str(path / "glintr100.onnx")) + + def load_image(self, img_path: str) -> np.ndarray: + """ + 画像ファイルを読み込み BGR 形式の numpy 配列として返します。 + + Args: + img_path (str): 読み込む画像ファイルのパス。 + + Returns: + np.ndarray: BGR 形式の画像配列。 + """ + return cv2.cvtColor(np.array(Image.open(img_path)), cv2.COLOR_RGB2BGR) + + def all_process(self, img_path: str) -> Optional[dict]: + """ + 画像ファイルから顔検出・アライメント・embedding 生成を一括実行します。 + + Args: + img_path (str): 処理対象画像のパス。 + + Returns: + dict or None: 顔が検出されなかった場合は None。 + 検出された場合は detect() の返り値に "embeddings" キーを追加した dict。 + embeddings (list): 各顔の embedding ベクトルのリスト。 + """ + faces = self.detect(img_path) + if faces is None: + return None + embeddings = [ + self.recognizer.get_embedding(face) for face in faces["aligned_face"] + ] + faces["embeddings"] = embeddings + return faces + + def detect( + self, + img_path: str = None, + pil_img: Image.Image = None, + ) -> Optional[dict]: + """ + 画像から顔を検出してアライメント済み顔画像と検出情報を返します。 + + img_path と pil_img のどちらかを指定してください。 + + Args: + img_path (str, optional): 画像ファイルのパス。 + pil_img (PIL.Image.Image, optional): PIL Image オブジェクト。 + + Returns: + dict or None: 顔が 1 枚も検出されなかった場合は None。 + 検出された場合は各顔の情報を列方向に結合した dict。 + aligned_face (list): アライメント済み RGB 顔画像 (112×112) のリスト。 + bbox (list): バウンディングボックスのリスト。 + score (list): 信頼度スコアのリスト。 + landmarks (list): ランドマークのリスト。 + """ + if img_path is not None: + img = self.load_image(img_path) + elif pil_img is not None: + img = cv2.cvtColor(np.array(pil_img), cv2.COLOR_RGB2BGR) + else: + return None + + faces = self.detector.detect(img) + face_results = [] + for face in faces: + aligned = self.recognizer.align_face(img, face["landmarks"]) + if aligned is not None: + face["aligned_face"] = cv2.cvtColor(aligned, cv2.COLOR_BGR2RGB) + face_results.append(face) + + return self._convert_result(face_results) + + def embed(self, aligned: np.ndarray) -> np.ndarray: + """ + アライメント済み顔画像から embedding を生成します。 + + Args: + aligned (np.ndarray): 112×112 の RGB 顔画像。 + + Returns: + np.ndarray: L2 正規化済み embedding ベクトル。 + """ + return self.recognizer.get_embedding(aligned) + + def _convert_result(self, results: list) -> Optional[dict]: + """ + 顔ごとの結果リストをキーごとにまとめた dict に変換します。 + + Args: + results (list): 各顔の情報を格納した dict のリスト。 + + Returns: + dict or None: 結果が空の場合は None。 + 各キーの値が全顔分のリストになった dict。 + """ + if not results: + return None + new_results = {} + for key in results[0].keys(): + new_results[key] = [x[key] for x in results] + return new_results diff --git a/similar_img_face_recon_app/blueprints/face_recon/face_recon_faiss.py b/similar_img_face_recon_app/blueprints/face_recon/face_recon_faiss.py new file mode 100644 index 0000000000000000000000000000000000000000..24d2e4b80ac577255e8df0564f62cf51772ed15b --- /dev/null +++ b/similar_img_face_recon_app/blueprints/face_recon/face_recon_faiss.py @@ -0,0 +1,477 @@ +""" +顔認証・類似顔検索のコアロジックモジュール。 + +FaceReconFaiss クラスが顔 embedding と FAISS インデックスを管理し、 +クエリ顔画像に対して最近傍の類似顔を検索します。 + +対応ファイル形式: + - 通常画像: jpg / jpeg / png / gif / bmp / webp + - PDF : 埋め込み画像を抽出、なければ各ページをレンダリング + - TIFF : 各ページを PNG に変換 +""" + +import os +import random +from collections import defaultdict +from glob import glob + +import faiss +import numpy as np +from tqdm.auto import tqdm + +from config import EXTRACTED_DIR, FACE_DB_PATH, FACE_MODEL_DIR +from pdf_tiff_extractor import get_filelist_with_extraction +from utils import dump_pickle, load_pickle +from .auraface import AuraFace + +# AuraFace パイプラインをモジュールロード時に初期化（シングルトン） +auraface = AuraFace(FACE_MODEL_DIR) + + +def get_filelist( + path: str, + N_sample: int = None, + recursive: bool = False, +) -> list: + """ + 指定フォルダ以下の画像ファイル（JPG, PNG, GIF 等）のパスリストを返します。 + + PDF / TIFF は含みません。PDF / TIFF を含めて処理する場合は + pdf_tiff_extractor.get_filelist_with_extraction() を使用してください。 + + Args: + path (str): 検索対象フォルダのパス。 + N_sample (int, optional): 取得する最大ファイル数。None の場合は全件取得。 + recursive (bool): True の場合サブフォルダも再帰的に検索します。 + + Returns: + list: 正規化済み画像ファイルパスのリスト。 + """ + extensions = ["jpg", "jpeg", "png", "gif", "WebP", "bmp"] + path_list = [] + + if recursive: + for ext in extensions: + path_list.extend(glob(f"{path}/**/*.{ext}", recursive=True)) + else: + for ext in extensions: + path_list.extend(glob(f"{path}/*.{ext}")) + + path_list = list(set(path_list)) + path_list = [os.path.normpath(p) for p in path_list] + + if N_sample and len(path_list) > N_sample: + path_list = random.sample(path_list, N_sample) + + return path_list + + +def l2_to_confidence(l2_distance: float) -> float: + """ + L2 距離をコサイン類似度ベースの信頼度スコア（0〜100）に変換します。 + + embedding が L2 正規化済みであることを前提に + cosine_sim = 1 - (l2_distance^2 / 2) で算出します。 + + Args: + l2_distance (float): FAISS が返した L2 距離。 + + Returns: + float: 0〜100 の範囲にスケールされた信頼度スコア。 + """ + cosine_sim = 1 - (l2_distance ** 2) / 2 + confidence = max(0, cosine_sim) * 100 + return round(confidence, 2) + + +class FaceReconFaiss: + """ + 顔 embedding と FAISS インデックスを管理するクラス。 + + 画像フォルダを登録すると AuraFace で顔を検出・embedding 化し、 + FAISS IndexFlatL2 に追加します。 + クエリ顔画像に対して k 近傍の類似顔を返します。 + 状態は pickle で永続化されます。 + + PDF / TIFF ファイルは pdf_tiff_extractor を通じて画像に変換してからインデックスに追加します。 + + Attributes: + path_list (list): インデックス対象として処理した画像パスのリスト（重複なし）。 + 通常画像: 元のパス。PDF/TIFF: 抽出済み PNG/JPG のパス。 + face_img_arr (np.ndarray or None): アライメント済み顔画像の配列 (M, 112, 112, 3)。 + embedding_arr (np.ndarray or None): 顔 embedding の配列 (M, 512)。 + face_path_arr (np.ndarray or None): 各顔エントリに対応する画像パスの配列 (M,)。 + index (faiss.Index or None): FAISS インデックス。 + folder_dict (dict or None): フォルダ別インデックス画像数の辞書。 + source_map (dict): {抽出画像パス → 元ソースファイルパス} の辞書。 + PDF/TIFF から抽出した画像のみ記録。 + isRaise (bool): エラー時に例外を送出するか否か。 + save_path (str): pickle 保存先パス。 + """ + + def __init__(self, isRaise: bool = True): + self.path_list: list = [] + self.face_img_arr: np.ndarray = None + self.embedding_arr: np.ndarray = None + self.face_path_arr: np.ndarray = None + self.index = None + self.folder_dict: dict = None + self.source_map: dict = {} # {抽出画像パス → 元ソースファイルパス} + self.isRaise: bool = isRaise + self.save_path: str = FACE_DB_PATH + + def add_folder_process( + self, + folder_path: str, + N_sample: int = None, + recursive: bool = False, + ) -> None: + """ + 指定フォルダの画像（PDF / TIFF 含む）を顔検出・embedding 化してインデックスに追加します。 + + Args: + folder_path (str): 追加対象フォルダの絶対パス。 + N_sample (int, optional): 取得する最大ファイル数。 + recursive (bool): True の場合サブフォルダも対象にします。 + + Raises: + Exception: フォルダが存在しない場合、または既に登録済みの場合。 + """ + if not os.path.exists(folder_path): + raise Exception("フォルダがありません") + + self.folder_dict = self.each_folder_path_count() + if self.folder_dict is not None and folder_path in self.folder_dict: + raise Exception("既に登録済み") + + # PDF/TIFF を含むファイルリストと抽出マッピングを取得 + file_list, source_to_extracted = get_filelist_with_extraction( + folder_path, EXTRACTED_DIR, recursive=recursive + ) + + if N_sample and len(file_list) > N_sample: + file_list = random.sample(file_list, N_sample) + + # source_map を更新 + source_map = getattr(self, "source_map", {}) + for src_path, extracted_list in source_to_extracted.items(): + for extracted_img in extracted_list: + if extracted_img in file_list: + source_map[extracted_img] = src_path + self.source_map = source_map + + self.path_list = self.path_list + file_list + self.index = self.add_index(file_list) + self.folder_dict = self.each_folder_path_count() + self.save() + + def remove_folder_process(self, folder_path: str) -> None: + """ + 指定フォルダに関連するデータ（パス・embedding・インデックス）を削除します。 + + PDF/TIFF から抽出した画像も削除対象に含め、 + ディスク上の抽出済み PNG/JPG ファイルも合わせて削除します。 + + face_path_arr を使って顔エントリのマスクを正しく構築します + （path_list は元画像数、embedding_arr / face_img_arr / face_path_arr は顔数で長さが異なるため）。 + + Args: + folder_path (str): 削除対象フォルダの絶対パス。 + + Raises: + Exception: フォルダが登録されていない場合、または対象ファイルがない場合。 + """ + folder_path = os.path.normpath(folder_path) + self.folder_dict = self.each_folder_path_count() + + if self.folder_dict is None or folder_path not in self.folder_dict: + raise Exception("指定されたフォルダは登録されていません！") + + source_map = getattr(self, "source_map", {}) + remaining_paths = [] + removed_source_paths: set = set() + removed_extracted_paths = [] + + for path in self.path_list: + if path in source_map: + effective_folder = os.path.dirname(source_map[path]) + else: + effective_folder = os.path.dirname(path) + + if effective_folder == folder_path: + removed_source_paths.add(path) + if path in source_map: + removed_extracted_paths.append(path) + else: + remaining_paths.append(path) + + if not removed_source_paths: + raise Exception("削除対象のファイルが見つかりません！") + + print(f"削除対象: {len(removed_source_paths)} 件のファイル") + self.path_list = remaining_paths + + # source_map から削除 & 抽出画像をディスクからも削除 + for p in removed_extracted_paths: + source_map.pop(p, None) + try: + os.remove(p) + print(f"抽出画像を削除: {os.path.basename(p)}") + except OSError: + pass + self.source_map = source_map + + # face_path_arr を使って顔エントリのマスクを構築 + # （path_list の長さ N ≠ face_path_arr の長さ M なので、face_path_arr で判定する） + if self.face_path_arr is not None: + flat_face_paths = self.face_path_arr.flatten() + keep_face_mask = np.array( + [p not in removed_source_paths for p in flat_face_paths], + dtype=bool, + ) + + self.embedding_arr = ( + self.embedding_arr[keep_face_mask] + if self.embedding_arr is not None + else None + ) + self.face_img_arr = ( + self.face_img_arr[keep_face_mask] + if self.face_img_arr is not None + else None + ) + self.face_path_arr = ( + self.face_path_arr[keep_face_mask] + if self.face_path_arr is not None + else None + ) + + # FAISS インデックスを再構築 + if ( + self.path_list + and self.embedding_arr is not None + and len(self.embedding_arr) > 0 + ): + embedding_dim = self.embedding_arr.shape[1] + self.index = faiss.IndexFlatL2(embedding_dim) + self.index.add(self.embedding_arr) + else: + self.embedding_arr = None + self.face_img_arr = None + self.face_path_arr = None + self.index = None + + self.folder_dict = self.each_folder_path_count() + self.save() + print(f'フォルダ "{folder_path}" のデータを削除しました。') + + def update_folder(self, folder_path: str, recursive: bool = False) -> None: + """ + 登録済みフォルダを再スキャンし、未登録の画像ファイルのみ追加します。 + + PDF/TIFF については、source_map から処理済みのソースファイルを特定し、 + 新規に追加されたファイルのみ抽出・追加します。 + + Args: + folder_path (str): 更新対象フォルダの絶対パス。 + recursive (bool): True の場合サブフォルダも対象にします。 + + Raises: + Exception: フォルダがまだ登録されていない場合。 + """ + folder_path = os.path.normpath(folder_path) + + if self.folder_dict is None or folder_path not in self.folder_dict: + raise Exception("このフォルダはまだ登録されていません") + + source_map = getattr(self, "source_map", {}) + + # 既に処理済みの PDF/TIFF ソースファイルセット（このフォルダに属するもの） + processed_sources = { + src_path + for src_path in source_map.values() + if os.path.dirname(src_path) == folder_path + } + + existing_set = set(self.path_list) + + new_file_list, new_source_to_extracted = get_filelist_with_extraction( + folder_path, EXTRACTED_DIR, recursive=recursive + ) + + add_list = [] + + # PDF/TIFF: 新規ソースファイルからの抽出画像を追加 + for src_path, extracted_list in new_source_to_extracted.items(): + if src_path not in processed_sources: + for ep in extracted_list: + if ep not in existing_set: + add_list.append(ep) + source_map[ep] = src_path + + # 通常画像: path_list に存在しないものを追加 + for path in new_file_list: + if path not in source_map and path not in existing_set: + add_list.append(path) + + add_list = list(set(add_list)) + + if not add_list: + print("追加すべきファイルはありません") + return + + print(f"新規ファイル: {len(add_list)} 件を登録します") + self.source_map = source_map + self.path_list.extend(add_list) + self.add_index(add_list) + self.folder_dict = self.each_folder_path_count() + self.save() + print("フォルダ更新が完了しました") + + def add_index(self, path_list: list) -> faiss.Index: + """ + 画像リストから顔検出・embedding 生成を行い FAISS インデックスに追加します。 + + 1 枚の画像から複数の顔が検出された場合、それぞれ個別に登録されます。 + 顔が検出できなかった画像はスキップされます。 + + Args: + path_list (list): 追加する画像ファイルパスのリスト。 + + Returns: + faiss.Index: 更新済みの FAISS インデックス。 + """ + all_embeds = [] + all_aligned_face_list = [] + all_path_list = [] + + for path in tqdm(path_list): + results = auraface.all_process(path) + if results is None: + print(f"{path} の顔検出に失敗しました") + continue + + embeds = results["embeddings"] + all_embeds.append(embeds) + for i in range(len(embeds)): + all_aligned_face_list.append(results["aligned_face"][i]) + all_path_list.append(path) + + if not all_embeds: + return self.index + + all_embeds = np.vstack(all_embeds) + + # embedding 配列の更新 + if self.embedding_arr is None: + self.embedding_arr = all_embeds + else: + self.embedding_arr = np.vstack([self.embedding_arr, all_embeds]) + + # 顔画像配列の更新 + batch_face_img_arr = np.vstack( + [np.expand_dims(x, axis=0) for x in all_aligned_face_list] + ) + if self.face_img_arr is None: + self.face_img_arr = batch_face_img_arr + else: + self.face_img_arr = np.vstack([self.face_img_arr, batch_face_img_arr]) + + # 顔パス配列の更新（各顔に対応する元画像パス） + all_path_arr = np.array(all_path_list) + if self.face_path_arr is None: + self.face_path_arr = all_path_arr + else: + self.face_path_arr = np.concatenate([self.face_path_arr, all_path_arr]) + + # FAISS インデックスの作成または更新 + if self.index is None: + self.index = faiss.IndexFlatL2(self.embedding_arr.shape[1]) + self.index.add(all_embeds) + + return self.index + + def each_folder_path_count(self) -> dict: + """ + path_list を集計してフォルダ別の画像数辞書を返します。 + + PDF/TIFF から抽出した画像は source_map を参照して + 元ソースファイルのフォルダのカウントに加算されます。 + + Returns: + dict or None: {フォルダパス: 画像数} の辞書。 + path_list が空の場合は None を返します。 + """ + if not self.path_list: + return None + + source_map = getattr(self, "source_map", {}) + folder_path_dict = defaultdict(list) + + for path in self.path_list: + if path in source_map: + effective_folder = os.path.dirname(source_map[path]) + else: + effective_folder = os.path.dirname(path) + folder_path_dict[effective_folder].append(os.path.basename(path)) + + return {folder: len(files) for folder, files in folder_path_dict.items()} + + def save(self) -> None: + """ + 現在の状態を self.save_path に pickle で保存します。 + """ + dump_pickle(self, self.save_path) + + def search_face_k( + self, + infer_img_path: str, + isDetected: bool = True, + k: int = 5, + ) -> dict: + """ + クエリ顔画像に対して k 近傍の類似顔を FAISS で検索します。 + + Args: + infer_img_path (str): 検索クエリとなる顔画像のパス。 + isDetected (bool): True の場合は画像全体から顔検出を行います。 + False の場合はアライメント済み顔画像として直接 embedding します。 + k (int): 返す近傍数。デフォルト 5。 + + Returns: + dict: + distance_list (list): L2 距離のリスト（クエリ顔ごと）。 + similarity_list (list): 類似度スコア (0〜100) のリスト。 + face_arr_list (list): 類似顔の画像配列リスト（クエリ顔ごと）。 + filename_list (list): 類似顔の元画像パスリスト（クエリ顔ごと）。 + """ + if not isDetected: + img = auraface.load_image(infer_img_path) + embeds = auraface.embed(img) + embeds = np.expand_dims(embeds, 0) + else: + results = auraface.all_process(infer_img_path) + embeds = results["embeddings"] + + D, I = self.index.search(np.array(embeds), k) + + distance_list, similarity_list, face_arr_list, filename_list = [], [], [], [] + for distances, inds in zip(D, I): + distance_tmp, similarity_tmp, face_tmp, filename_tmp = [], [], [], [] + for distance, ind in zip(distances, inds): + distance_tmp.append(float(distance)) + similarity_tmp.append(l2_to_confidence(float(distance))) + face_tmp.append(self.face_img_arr[ind]) + filename_tmp.append(self.face_path_arr[ind]) + + distance_list.append(distance_tmp) + similarity_list.append(similarity_tmp) + face_arr_list.append(face_tmp) + filename_list.append(filename_tmp) + + return { + "distance_list": distance_list, + "similarity_list": similarity_list[-1] if similarity_list else [], + "face_arr_list": face_arr_list, + "filename_list": filename_list, + } diff --git a/similar_img_face_recon_app/blueprints/face_recon/routes.py b/similar_img_face_recon_app/blueprints/face_recon/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..a2e207a884fa57ce5bf8e75d442541cd41a6b829 --- /dev/null +++ b/similar_img_face_recon_app/blueprints/face_recon/routes.py @@ -0,0 +1,225 @@ +""" +顔認証・類似顔検索 Blueprint のルート定義。 + +/face プレフィックス下で以下のエンドポイントを提供します。 + GET /face/ — メインページ + GET /face/folder_path — フォルダ管理ページ + POST /face/face_detection — アップロード画像から顔を検出 + POST /face/face_nearest_search — 検出済み顔の類似顔を検索 + GET /face/get_path_count — インデックス済み画像総数 + GET /face/get_folder_path_count — フォルダ別画像数 + POST /face/add_folder_process — フォルダ追加 + POST /face/remove_folder — フォルダ削除 + POST /face/open_img_by_windows — Windows でファイルを開く +""" + +import datetime +import os +import subprocess +import traceback + +from flask import current_app, jsonify, render_template, request +from PIL import Image + +from config import FACE_DB_PATH +from utils import load_pickle + +from . import face_recon_bp +from .face_recon_faiss import FaceReconFaiss, auraface + +# --- ツールの初期化 --- +# pickle が存在すれば読み込み、なければ新規作成 +face_tool: FaceReconFaiss = FaceReconFaiss() +if os.path.exists(FACE_DB_PATH): + face_tool = load_pickle(FACE_DB_PATH) + face_tool.save_path = FACE_DB_PATH # 旧パスが埋め込まれている場合に更新 + +# 後方互換: 古い pickle に source_map が存在しない場合の対処 +if not hasattr(face_tool, "source_map"): + face_tool.source_map = {} + +face_tool.isRaise = False + + +@face_recon_bp.route("/") +def index(): + """顔類似検索のメインページを返します。""" + return render_template("face_recon/index.html") + + +@face_recon_bp.route("/folder_path") +def folder_path(): + """フォルダ管理ページを返します。""" + return render_template("face_recon/folder_path.html") + + +@face_recon_bp.route("/face_detection", methods=["POST"]) +def face_detection(): + """ + アップロード画像から顔を検出し、アライメント済み顔画像を返します。 + + アップロードされた画像を AuraFace で処理し、検出された各顔を + static/uploads/ に保存して URL リストを返します。 + + FormData: + image (file): 顔検出対象の画像ファイル。 + + Returns: + JSON: + success (bool): 処理成否。 + results (dict): 成功時。 + image_url (list): 各顔画像の /static/uploads/... パスのリスト。 + error (str): 失敗時のエラーメッセージ。 + """ + if "image" not in request.files: + return jsonify({"success": False, "error": "画像がアップロードされていません"}) + + file = request.files["image"] + image = Image.open(file.stream).convert("RGB") + + # AuraFace で顔を検出・アライメント + results = auraface.detect(pil_img=image) + if results is None: + return jsonify({"success": True, "results": {"image_url": []}}) + + uploads_dir = os.path.join(current_app.static_folder, "uploads") + save_face_path_list = [] + base_file_name = datetime.datetime.today().strftime("%Y%m%d_%H%M%S") + + for i, face in enumerate(results["aligned_face"], start=1): + filename = f"{base_file_name}_{i}.jpg" + save_path = os.path.join(uploads_dir, filename) + Image.fromarray(face).save(save_path) + save_face_path_list.append(f"/static/uploads/{filename}") + print(f"save --> {save_path}") + + return jsonify( + {"success": True, "results": {"image_url": save_face_path_list}} + ) + + +@face_recon_bp.route("/face_nearest_search", methods=["POST"]) +def face_nearest_search(): + """ + 検出済み顔画像のパスを受け取り、類似顔を FAISS で検索して返します。 + + クライアントから渡される detect_img_path は顔画像の URL です。 + サーバー側でファイル名を抽出し、static/uploads/ から実ファイルを参照します。 + + FormData: + detect_img_path (str): 顔画像の URL（face_detection の返り値）。 + + Returns: + JSON: + success (bool): 処理成否。 + results (dict): 成功時。 + similarity_list (list): 類似度スコア文字列のリスト。 + result_img_path_list (list): 類似顔画像の /static/uploads/... パスのリスト。 + folder_path_list (list): 類似顔の元画像があるフォルダパスのリスト。 + filename_list (list): 類似顔の元画像ファイル名のリスト。 + """ + img_path = request.form["detect_img_path"] + + # URL からファイル名を取り出して static/uploads/ のパスを構築 + uploads_dir = os.path.join(current_app.static_folder, "uploads") + local_img_path = os.path.join(uploads_dir, os.path.basename(img_path)) + + # 類似顔を k=8 で検索 + results = face_tool.search_face_k(local_img_path, isDetected=False, k=8) + + result_img_path_list = [] + now_str = datetime.datetime.now().strftime("%Y%m%d_%H%M%S") + + for i, face in enumerate(results["face_arr_list"][0]): + filename = f"result_{now_str}_{i}.jpg" + save_path = os.path.join(uploads_dir, filename) + Image.fromarray(face).save(save_path) + result_img_path_list.append(f"/static/uploads/{filename}") + + filepath_list = [x[0] for x in results["filename_list"][0]] + + final_result = { + "similarity_list": [f"{x:.1f}%" for x in results["similarity_list"]], + "result_img_path_list": result_img_path_list, + "folder_path_list": [os.path.dirname(x) for x in filepath_list], + "filename_list": [os.path.basename(x) for x in filepath_list], + } + + return jsonify({"success": True, "results": final_result}) + + +@face_recon_bp.route("/get_path_count") +def get_path_count(): + """インデックス済み画像の総数を JSON で返します。""" + return jsonify({"path_count": len(face_tool.path_list)}) + + +@face_recon_bp.route("/get_folder_path_count") +def get_folder_path_count(): + """フォルダごとのインデックス済み画像数を JSON で返します。""" + return jsonify(face_tool.folder_dict) + + +@face_recon_bp.route("/add_folder_process", methods=["POST"]) +def add_folder_process(): + """ + 指定フォルダの画像をインデックスに追加します。 + + JSON Body: + path (str): 追加対象フォルダの絶対パス。 + expand (bool): True の場合、サブフォルダも再帰的に検索します。 + + Returns: + JSON: + message (str): 成功時は "OK!"。 + error (str): 失敗時のエラーメッセージ（HTTP 400）。 + """ + data = request.get_json() + folder_path = data.get("path") + expand = data.get("expand") + + if not folder_path or not os.path.exists(folder_path): + return jsonify({"error": "指定されたフォルダが存在しません。"}), 400 + + if not os.path.isdir(folder_path): + return jsonify({"error": "指定されたパスはフォルダではありません。"}), 400 + + try: + face_tool.add_folder_process(folder_path, recursive=expand) + except Exception as e: + traceback.print_exc() + return jsonify({"error": str(e)}), 400 + + return jsonify({"message": "OK!"}) + + +@face_recon_bp.route("/remove_folder", methods=["POST"]) +def remove_folder(): + """ + 指定フォルダのデータをインデックスから削除します。 + + JSON Body: + path (str): 削除対象フォルダの絶対パス。 + + Returns: + JSON: message (str) "OK!" + """ + data = request.get_json() + face_tool.remove_folder_process(data.get("path")) + return jsonify({"message": "OK!"}) + + +@face_recon_bp.route("/open_img_by_windows", methods=["POST"]) +def open_img_by_windows(): + """ + 指定パスの画像を Windows エクスプローラーで開きます。 + + JSON Body: + path (str): 開く対象のファイルパス。 + + Returns: + JSON: message (str) "OK!" + """ + data = request.get_json() + subprocess.Popen(["start", "", data.get("path")], shell=True) + return jsonify({"message": "OK!"}) diff --git a/similar_img_face_recon_app/blueprints/similar_image/__init__.py b/similar_img_face_recon_app/blueprints/similar_image/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..21dd20f8dba499cef16bccbcbceb5b96e94df22a --- /dev/null +++ b/similar_img_face_recon_app/blueprints/similar_image/__init__.py @@ -0,0 +1,14 @@ +""" +類似画像検索 Blueprint パッケージ。 + +DINOv2 (ONNX) で画像の embedding を生成し、 +FAISS による近似最近傍探索で類似画像を返す機能を提供します。 + +URL プレフィックス: /img +""" + +from flask import Blueprint + +similar_image_bp = Blueprint("similar_image", __name__) + +from . import routes # noqa: E402, F401 — Blueprint にルートを登録するため末尾でインポート diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/__init__.cpython-310.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/__init__.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..c5dda9dd0fa83237e167035b38b84938d105efdc Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/__init__.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/__init__.cpython-314.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/__init__.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..e087cfe2379c409576c73debd076b1e1ff336e48 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/__init__.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/dino_v2_embedding.cpython-310.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/dino_v2_embedding.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..4ca3fe18c04e3eff0c0f65f55c0658fb9f7be32e Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/dino_v2_embedding.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/dino_v2_embedding.cpython-314.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/dino_v2_embedding.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..504e62f0d6be2f6a5357e1b21d64aab8a71aabbe Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/dino_v2_embedding.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/routes.cpython-310.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/routes.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..79246c0db302243a86c66c7c9659a9b4fd65b6dd Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/routes.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/routes.cpython-314.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/routes.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..c911c11b500a3a3ee9099e425fd5aa282c32831c Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/routes.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/similar_image.cpython-310.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/similar_image.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..fd72b97aa66ae83bc34e313e95fc7b73376f0af5 Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/similar_image.cpython-310.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/__pycache__/similar_image.cpython-314.pyc b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/similar_image.cpython-314.pyc new file mode 100644 index 0000000000000000000000000000000000000000..70629df7c3051428e61bacd9972f88c24dc8eb8c Binary files /dev/null and b/similar_img_face_recon_app/blueprints/similar_image/__pycache__/similar_image.cpython-314.pyc differ diff --git a/similar_img_face_recon_app/blueprints/similar_image/dino_v2_embedding.py b/similar_img_face_recon_app/blueprints/similar_image/dino_v2_embedding.py new file mode 100644 index 0000000000000000000000000000000000000000..748b679e2296f94cd0ca365a20cd83990f78ce4c --- /dev/null +++ b/similar_img_face_recon_app/blueprints/similar_image/dino_v2_embedding.py @@ -0,0 +1,136 @@ +""" +DINOv2 (Vision Transformer) による画像 embedding 生成モジュール。 + +ONNX Runtime を使って量子化済み DINOv2 モデルを推論し、 +ImageNet 正規化 → patch 平均プーリング → L2 正規化 の手順で +固定次元の embedding ベクトルを返します。 +""" + +import numpy as np +import onnxruntime as ort +from PIL import Image +from tqdm.auto import tqdm + + +class DinoV2Inference: + """ + 量子化済み DINOv2 ONNX モデルのラッパークラス。 + + 画像パスのリスト、または PIL Image を受け取り、 + L2 正規化済み embedding 配列を返します。 + + Args: + onnx_path (str): ONNX モデルファイルのパス。 + """ + + def __init__(self, onnx_path: str = "./models/dinov2_model_quantized.onnx"): + self.session = ort.InferenceSession( + onnx_path, + providers=["CUDAExecutionProvider", "CPUExecutionProvider"], + ) + print("dino onnx ready!!") + + def embed( + self, + img_path_list: list, + batch_size: int = 32, + isProgress: bool = True, + ) -> np.ndarray: + """ + 画像パスのリストをバッチ処理して embedding 配列を返します。 + + Args: + img_path_list (list): 画像ファイルパスのリスト。 + 単体パス（文字列）が渡された場合も自動的にリスト化します。 + batch_size (int): 一度に処理するバッチサイズ。デフォルト 32。 + isProgress (bool): True の場合 tqdm でプログレスバーを表示します。 + + Returns: + np.ndarray: shape (N, D) の L2 正規化済み embedding 配列。 + N は画像数、D は embedding 次元。 + 入力が空の場合は空の ndarray を返します。 + """ + if not isinstance(img_path_list, list): + img_path_list = [img_path_list] + + all_embeddings = [] + + for i in tqdm( + range(0, len(img_path_list), batch_size), + desc="Processing Batches", + disable=not isProgress, + ): + batch_paths = img_path_list[i : i + batch_size] + + # 前処理してバッチ配列を作成 + preprocessed_images = [_preprocess_image(path) for path in batch_paths] + batch = np.concatenate(preprocessed_images, axis=0) + + # 推論 + inputs = {self.session.get_inputs()[0].name: batch} + outputs = self.session.run(None, inputs) + embeddings = outputs[0] + + # patch embedding の平均プーリング → L2 正規化 + patch_embeddings = embeddings[:, 1:, :] # CLS トークンを除外 + pooled = np.mean(patch_embeddings, axis=1) + norm = np.linalg.norm(pooled, axis=1, keepdims=True) + epsilon = 1e-12 + normalized_pooled = pooled / (norm + epsilon) + + all_embeddings.append(normalized_pooled) + + if not all_embeddings: + return np.array([]) + + return np.concatenate(all_embeddings, axis=0) + + def embed_by_img(self, img: Image.Image, size: tuple = (518, 518)) -> np.ndarray: + """ + 単一の PIL Image から embedding を生成して返します。 + + Args: + img (PIL.Image.Image): 対象画像。 + size (tuple): リサイズ後の解像度 (width, height)。デフォルト (518, 518)。 + + Returns: + np.ndarray: shape (1, D) の L2 正規化済み embedding 配列。 + """ + img = img.resize(size, Image.BILINEAR) + arr = np.array(img).astype(np.float32) / 255.0 + mean = np.array([0.485, 0.456, 0.406], dtype=np.float32) + std = np.array([0.229, 0.224, 0.225], dtype=np.float32) + arr = (arr - mean) / std + arr = np.transpose(arr, (2, 0, 1)) # (C, H, W) + arr = np.expand_dims(arr, axis=0) # (1, C, H, W) + + inputs = {self.session.get_inputs()[0].name: arr} + outputs = self.session.run(None, inputs) + embeddings = outputs[0] + + patch_embeddings = embeddings[:, 1:, :] + pooled = np.mean(patch_embeddings, axis=1) + norm = np.linalg.norm(pooled, axis=1, keepdims=True) + epsilon = 1e-12 + return pooled / (norm + epsilon) + + +def _preprocess_image(img_path: str, size: tuple = (518, 518)) -> np.ndarray: + """ + 画像ファイルを読み込み、DINOv2 推論用に前処理して返します。 + + Args: + img_path (str): 読み込む画像ファイルのパス。 + size (tuple): リサイズ後の解像度 (width, height)。デフォルト (518, 518)。 + + Returns: + np.ndarray: shape (1, C, H, W) の float32 配列。 + """ + img = Image.open(img_path).convert("RGB").resize(size, Image.BILINEAR) + arr = np.array(img).astype(np.float32) / 255.0 + mean = np.array([0.485, 0.456, 0.406], dtype=np.float32) + std = np.array([0.229, 0.224, 0.225], dtype=np.float32) + arr = (arr - mean) / std + arr = np.transpose(arr, (2, 0, 1)) # (C, H, W) + arr = np.expand_dims(arr, axis=0) # (1, C, H, W) + return arr diff --git a/similar_img_face_recon_app/blueprints/similar_image/routes.py b/similar_img_face_recon_app/blueprints/similar_image/routes.py new file mode 100644 index 0000000000000000000000000000000000000000..3d6b568bef5a256fb75e5522f64c1f053b6970e5 --- /dev/null +++ b/similar_img_face_recon_app/blueprints/similar_image/routes.py @@ -0,0 +1,196 @@ +""" +類似画像検索 Blueprint のルート定義。 + +/img プレフィックス下で以下のエンドポイントを提供します。 + GET /img/ — メインページ + GET /img/folder_path — フォルダ管理ページ + POST /img/search — 類似画像検索 + GET /img/get_path_count — インデックス済み画像総数 + GET /img/get_folder_path_count — フォルダ別画像数 + POST /img/add_folder_process — フォルダ追加 + POST /img/remove_folder — フォルダ削除 + POST /img/open_img_by_windows — Windows でファイルを開く +""" + +import os +import shutil +import subprocess +import traceback + +from flask import current_app, jsonify, render_template, request +from PIL import Image + +from config import IMG_DB_PATH +from utils import load_pickle + +from . import similar_image_bp +from .similar_image import PathFaiss, dino + +# --- ツールの初期化 --- +# pickle が存在すれば読み込み、なければ新規作成 +tool: PathFaiss = PathFaiss() +if os.path.exists(IMG_DB_PATH): + tool = load_pickle(IMG_DB_PATH) + tool.save_path = IMG_DB_PATH # 旧パスが埋め込まれている場合に更新 + +# 後方互換: 古い pickle に source_map が存在しない場合の対処 +if not hasattr(tool, "source_map"): + tool.source_map = {} + +tool.isRaise = False + + +@similar_image_bp.route("/") +def index(): + """類似画像検索のメインページを返します。""" + return render_template("similar_image/index.html") + + +@similar_image_bp.route("/folder_path") +def folder_path(): + """フォルダ管理ページを返します。""" + return render_template("similar_image/folder_path.html") + + +@similar_image_bp.route("/search", methods=["POST"]) +def search(): + """ + アップロード画像に対して FAISS で類似画像を検索し、結果を返します。 + + FormData: + image (file): クエリ画像ファイル。 + num_results (int): 返す類似画像の件数（デフォルト 5、範囲 3〜10）。 + + Returns: + JSON: + success (bool): 処理成否。 + results (list): 成功時。各要素は以下のキーを持つ dict。 + image_url (str): ブラウザ表示用の /static/... パス。 + image_ori_url (str): 元の画像ファイルパス。 + file_name (str): ファイル名。 + similarity (float): 類似度スコア (0〜1)。 + index (int): 結果の順序インデックス。 + error (str): 失敗時のエラーメッセージ。 + """ + try: + if "image" not in request.files: + return jsonify({"success": False, "error": "画像がアップロードされていません"}) + + file = request.files["image"] + num_results = int(request.form.get("num_results", 5)) + + # クエリ画像の embedding を生成 + image = Image.open(file.stream).convert("RGB") + query_embedding = dino.embed_by_img(image) + + # FAISS で類似検索 + distances, indices = tool.index.search(query_embedding, num_results) + + # 外部パスの画像を static にコピーしてブラウザから参照できるようにする + images_dir = os.path.join(current_app.static_folder, "images") + similar_img_path_list = [tool.path_list[idx] for idx in indices[0]] + + static_img_path_list = [] + for path in similar_img_path_list: + dest = os.path.join(images_dir, os.path.basename(path)) + shutil.copy2(path, dest) + static_img_path_list.append(f"/static/images/{os.path.basename(path)}") + + results = [] + for i, (dist, static_path, ori_path) in enumerate( + zip(distances[0], static_img_path_list, similar_img_path_list) + ): + similarity = 1 / (1 + dist) + results.append( + { + "image_url": static_path, + "image_ori_url": ori_path, + "file_name": os.path.basename(ori_path), + "folder_path": os.path.dirname(ori_path), + "similarity": float(similarity), + "index": int(i), + } + ) + + return jsonify({"success": True, "results": results}) + + except Exception as e: + traceback.print_exc() + return jsonify({"success": False, "error": str(e)}) + + +@similar_image_bp.route("/get_path_count") +def get_path_count(): + """インデックス済み画像の総数を JSON で返します。""" + return jsonify({"path_count": len(tool.path_list)}) + + +@similar_image_bp.route("/get_folder_path_count") +def get_folder_path_count(): + """フォルダごとのインデックス済み画像数を JSON で返します。""" + return jsonify(tool.folder_dict) + + +@similar_image_bp.route("/add_folder_process", methods=["POST"]) +def add_folder_process(): + """ + 指定フォルダの画像をインデックスに追加します。 + + JSON Body: + path (str): 追加対象フォルダの絶対パス。 + expand (bool): True の場合、サブフォルダも再帰的に検索します。 + + Returns: + JSON: + message (str): 成功時は "OK!"。 + error (str): 失敗時のエラーメッセージ（HTTP 400）。 + """ + data = request.get_json() + folder_path = data.get("path") + expand = data.get("expand") + + if not folder_path or not os.path.exists(folder_path): + return jsonify({"error": "指定されたフォルダが存在しません。"}), 400 + + if not os.path.isdir(folder_path): + return jsonify({"error": "指定されたパスはフォルダではありません。"}), 400 + + try: + tool.add_folder_process(folder_path, recursive=expand) + except Exception as e: + traceback.print_exc() + return jsonify({"error": str(e)}), 400 + + return jsonify({"message": "OK!"}) + + +@similar_image_bp.route("/remove_folder", methods=["POST"]) +def remove_folder(): + """ + 指定フォルダのデータをインデックスから削除します。 + + JSON Body: + path (str): 削除対象フォルダの絶対パス。 + + Returns: + JSON: message (str) "OK!" + """ + data = request.get_json() + tool.remove_folder_process(data.get("path")) + return jsonify({"message": "OK!"}) + + +@similar_image_bp.route("/open_img_by_windows", methods=["POST"]) +def open_img_by_windows(): + """ + 指定パスの画像を Windows エクスプローラーで開きます。 + + JSON Body: + path (str): 開く対象のファイルパス。 + + Returns: + JSON: message (str) "OK!" + """ + data = request.get_json() + subprocess.Popen(["start", "", data.get("path")], shell=True) + return jsonify({"message": "OK!"}) diff --git a/similar_img_face_recon_app/blueprints/similar_image/similar_image.py b/similar_img_face_recon_app/blueprints/similar_image/similar_image.py new file mode 100644 index 0000000000000000000000000000000000000000..4b73ade8723bb87e5605a2fb3f5c2b7a1e1fc62b --- /dev/null +++ b/similar_img_face_recon_app/blueprints/similar_image/similar_image.py @@ -0,0 +1,361 @@ +""" +類似画像検索のコアロジックモジュール。 + +PathFaiss クラスが画像パスと DINOv2 embedding を管理し、 +FAISS IndexFlatL2 を用いて高速な類似画像検索を提供します。 + +対応ファイル形式: + - 通常画像: jpg / jpeg / png / gif / bmp / webp + - PDF : 埋め込み画像を抽出、なければ各ページをレンダリング + - TIFF : 各ページを PNG に変換 +""" + +import os +import random +from collections import defaultdict +from glob import glob + +import faiss +import numpy as np +from tqdm.auto import tqdm + +from config import EXTRACTED_DIR, IMG_DB_PATH, IMG_MODEL_PATH +from pdf_tiff_extractor import get_filelist_with_extraction +from utils import dump_pickle, load_pickle +from .dino_v2_embedding import DinoV2Inference + +# DINOv2 モデルをモジュールロード時に初期化（シングルトン） +dino = DinoV2Inference(onnx_path=IMG_MODEL_PATH) + + +def get_image_embedding( + path_list: list, + batch_size: int = 8, + isProgress: bool = True, +) -> np.ndarray: + """ + 画像パスのリストから DINOv2 embedding を取得します。 + + Args: + path_list (list): 画像ファイルパスのリスト。 + batch_size (int): バッチサイズ。デフォルト 8。 + isProgress (bool): プログレスバーを表示するか否か。 + + Returns: + np.ndarray: shape (N, D) の L2 正規化済み embedding 配列。 + """ + return dino.embed(path_list, batch_size=batch_size, isProgress=isProgress) + + +def get_filelist( + path: str, + N_sample: int = None, + recursive: bool = False, +) -> list: + """ + 指定フォルダ以下の画像ファイル（JPG, PNG, GIF 等）のパスリストを返します。 + + PDF / TIFF は含みません。PDF / TIFF を含めて処理する場合は + pdf_tiff_extractor.get_filelist_with_extraction() を使用してください。 + + Args: + path (str): 検索対象フォルダのパス。 + N_sample (int, optional): 取得する最大ファイル数。None の場合は全件取得。 + recursive (bool): True の場合サブフォルダを再帰的に検索します。 + + Returns: + list: 正規化済み画像ファイルパスのリスト。 + """ + extensions = ["jpg", "jpeg", "png", "gif", "WebP", "bmp"] + path_list = [] + + if recursive: + for ext in extensions: + path_list.extend(glob(f"{path}/**/*.{ext}", recursive=True)) + else: + for ext in extensions: + path_list.extend(glob(f"{path}/*.{ext}")) + + # 重複除去・パス正規化 + path_list = list(set(path_list)) + path_list = [os.path.normpath(p) for p in path_list] + + if N_sample and len(path_list) > N_sample: + path_list = random.sample(path_list, N_sample) + + return path_list + + +class PathFaiss: + """ + 画像パスと FAISS インデックスを管理するクラス。 + + DINOv2 で生成した embedding を FAISS IndexFlatL2 に登録し、 + クエリ画像に対して最近傍の類似画像を高速検索します。 + 状態は pickle で永続化します。 + + PDF / TIFF ファイルは pdf_tiff_extractor を通じて画像に変換してからインデックスに追加します。 + 変換後の画像パスと元ファイルパスの対応は source_map で管理します。 + + Attributes: + path_list (list): インデックス済み画像パスのリスト。 + 通常画像: 元のパス。PDF/TIFF: 抽出済み PNG/JPG のパス。 + embedding_arr (np.ndarray or None): 全画像の embedding 配列。 + index (faiss.Index or None): FAISS インデックス。 + folder_dict (dict or None): フォルダ別インデックス画像数の辞書。 + PDF/TIFF の抽出画像は元ソースフォルダのカウントに加算されます。 + source_map (dict): {抽出画像パス → 元ソースファイルパス} の辞書。 + PDF/TIFF から抽出した画像のみ記録。通常画像はエントリなし。 + isRaise (bool): エラー時に例外を送出するか否か。 + save_path (str): pickle 保存先パス。 + """ + + def __init__(self, isRaise: bool = True): + self.path_list: list = [] + self.embedding_arr: np.ndarray = None + self.index = None + self.folder_dict: dict = None + self.source_map: dict = {} # {抽出画像パス → 元ソースファイルパス} + self.isRaise: bool = isRaise + self.save_path: str = IMG_DB_PATH + + def add_folder_process( + self, + folder_path: str, + N_sample: int = None, + recursive: bool = False, + ) -> None: + """ + 指定フォルダの画像（PDF / TIFF 含む）を embedding してインデックスに追加します。 + + PDF は埋め込み画像または各ページレンダリングとして抽出します。 + TIFF は各ページを PNG として抽出します。 + 抽出画像は EXTRACTED_DIR のサブディレクトリに保存されます。 + + Args: + folder_path (str): 追加対象フォルダの絶対パス。 + N_sample (int, optional): 取得するファイルの最大数（抽出後の画像数に適用）。 + recursive (bool): True の場合サブフォルダも対象にします。 + + Raises: + Exception: フォルダが存在しない場合、または既に登録済みの場合。 + """ + if not os.path.exists(folder_path): + raise Exception("フォルダがありません") + + self.folder_dict = self.each_folder_path_count() + if self.folder_dict is not None and folder_path in self.folder_dict: + raise Exception("既に登録済み") + + # PDF/TIFF を含むファイルリストと抽出マッピングを取得 + file_list, source_to_extracted = get_filelist_with_extraction( + folder_path, EXTRACTED_DIR, recursive=recursive + ) + + if N_sample and len(file_list) > N_sample: + file_list = random.sample(file_list, N_sample) + + # source_map を更新 + source_map = getattr(self, "source_map", {}) + for src_path, extracted_list in source_to_extracted.items(): + for extracted_img in extracted_list: + if extracted_img in file_list: # N_sample でサンプリング後も存在するもののみ + source_map[extracted_img] = src_path + self.source_map = source_map + + self.path_list = self.path_list + file_list + self.index = self.add_index(file_list) + self.folder_dict = self.each_folder_path_count() + self.save() + + def remove_folder_process(self, folder_path: str) -> None: + """ + 指定フォルダに関連するデータ（パス・embedding・インデックス）を削除します。 + + PDF/TIFF から抽出した画像も削除対象に含め、 + ディスク上の抽出済み PNG/JPG ファイルも合わせて削除します。 + + Args: + folder_path (str): 削除対象フォルダの絶対パス。 + + Raises: + Exception: フォルダが登録されていない場合、または対象ファイルがない場合。 + """ + folder_path = os.path.normpath(folder_path) + self.folder_dict = self.each_folder_path_count() + + if self.folder_dict is None or folder_path not in self.folder_dict: + raise Exception("指定されたフォルダは登録されていません！") + + source_map = getattr(self, "source_map", {}) + remove_indices = [] + remaining_paths = [] + removed_extracted_paths = [] + + for idx, path in enumerate(self.path_list): + # source_map 経由で元フォルダを特定（PDF/TIFF 抽出画像の場合） + if path in source_map: + effective_folder = os.path.dirname(source_map[path]) + else: + effective_folder = os.path.dirname(path) + + if effective_folder == folder_path: + remove_indices.append(idx) + if path in source_map: + removed_extracted_paths.append(path) + else: + remaining_paths.append(path) + + if not remove_indices: + raise Exception("削除対象のファイルが見つかりません！") + + print(f"削除対象: {len(remove_indices)} 件のファイル") + self.path_list = remaining_paths + + # source_map から削除 & 抽出画像をディスクからも削除 + for p in removed_extracted_paths: + source_map.pop(p, None) + try: + os.remove(p) + print(f"抽出画像を削除: {os.path.basename(p)}") + except OSError: + pass + self.source_map = source_map + + # embedding から削除対象を除外 + if self.embedding_arr is not None: + keep_mask = np.ones(len(self.embedding_arr), dtype=bool) + keep_mask[remove_indices] = False + self.embedding_arr = self.embedding_arr[keep_mask] + + # FAISS インデックスを再構築 + if self.path_list: + embedding_dim = self.embedding_arr.shape[1] + self.index = faiss.IndexFlatL2(embedding_dim) + self.index.add(self.embedding_arr) + else: + self.embedding_arr = None + self.index = None + + self.folder_dict = self.each_folder_path_count() + self.save() + print(f'フォルダ "{folder_path}" のデータを削除しました。') + + def update_folder(self, folder_path: str, recursive: bool = False) -> None: + """ + 登録済みフォルダを再スキャンし、未登録の画像ファイルのみ追加します。 + + PDF/TIFF については、処理済みの元ファイルを source_map から特定し、 + 新規に追加されたファイルのみ抽出・追加します。 + + Args: + folder_path (str): 更新対象フォルダの絶対パス。 + recursive (bool): True の場合サブフォルダも対象にします。 + + Raises: + Exception: フォルダがまだ登録されていない場合。 + """ + folder_path = os.path.normpath(folder_path) + + if self.folder_dict is None or folder_path not in self.folder_dict: + raise Exception("このフォルダはまだ登録されていません") + + source_map = getattr(self, "source_map", {}) + + # 既に処理済みの PDF/TIFF ソースファイルセット（このフォルダに属するもの） + processed_sources = { + src_path + for src_path in source_map.values() + if os.path.dirname(src_path) == folder_path + } + + existing_set = set(self.path_list) + + new_file_list, new_source_to_extracted = get_filelist_with_extraction( + folder_path, EXTRACTED_DIR, recursive=recursive + ) + + add_list = [] + + # PDF/TIFF: 新規ソースファイルからの抽出画像を追加 + for src_path, extracted_list in new_source_to_extracted.items(): + if src_path not in processed_sources: + for ep in extracted_list: + if ep not in existing_set: + add_list.append(ep) + source_map[ep] = src_path + + # 通常画像: path_list に存在しないものを追加 + for path in new_file_list: + if path not in source_map and path not in existing_set: + add_list.append(path) + + add_list = list(set(add_list)) + + if not add_list: + print("追加すべきファイルはありません") + return + + print(f"新規ファイル: {len(add_list)} 件を登録します") + self.source_map = source_map + self.path_list.extend(add_list) + self.add_index(add_list) + self.folder_dict = self.each_folder_path_count() + self.save() + print("フォルダ更新が完了しました") + + def add_index(self, path_list: list) -> faiss.Index: + """ + 画像リストの embedding を生成して FAISS インデックスに追加します。 + + Args: + path_list (list): 追加する画像ファイルパスのリスト。 + + Returns: + faiss.Index: 更新済みの FAISS インデックス。 + """ + embedding = get_image_embedding(path_list) + + if self.embedding_arr is None: + self.embedding_arr = embedding + else: + self.embedding_arr = np.vstack([self.embedding_arr, embedding]) + + if self.index is None: + self.index = faiss.IndexFlatL2(embedding.shape[1]) + + self.index.add(embedding) + return self.index + + def each_folder_path_count(self) -> dict: + """ + path_list を集計してフォルダ別の画像数辞書を返します。 + + PDF/TIFF から抽出した画像は source_map を参照して + 元ソースファイルのフォルダのカウントに加算されます。 + + Returns: + dict or None: {フォルダパス: 画像数} の辞書。 + path_list が空の場合は None を返します。 + """ + if not self.path_list: + return None + + source_map = getattr(self, "source_map", {}) + folder_path_dict = defaultdict(list) + + for path in self.path_list: + if path in source_map: + # PDF/TIFF 抽出画像 → 元ソースファイルのフォルダでカウント + effective_folder = os.path.dirname(source_map[path]) + else: + effective_folder = os.path.dirname(path) + folder_path_dict[effective_folder].append(os.path.basename(path)) + + return {folder: len(files) for folder, files in folder_path_dict.items()} + + def save(self) -> None: + """ + 現在の状態を self.save_path に pickle で保存します。 + """ + dump_pickle(self, self.save_path) diff --git a/similar_img_face_recon_app/config.py b/similar_img_face_recon_app/config.py new file mode 100644 index 0000000000000000000000000000000000000000..37f31a9b1cfc88eb027a55a7577d07b9b0a9e3bf --- /dev/null +++ b/similar_img_face_recon_app/config.py @@ -0,0 +1,49 @@ +""" +アプリケーション設定モジュール。 + +統合アプリのパス設定をここで一元管理します。 +モデルは元の各アプリのディレクトリにあるファイルをそのまま参照します。 +DBファイルは unified_app/db/ に新規生成されます。 +""" + +from pathlib import Path + +# --- ディレクトリ定義 --- + +# unified_app/ のルートディレクトリ +BASE_DIR = Path(__file__).parent + +# 元の各アプリのディレクトリ +FACE_APP_DIR = BASE_DIR / "models" / "auraface" +IMG_APP_DIR = BASE_DIR / "models" / "dinov3" + +# 顔認証モデルが格納されたディレクトリ (scrfd_10g_bnkps.onnx, glintr100.onnx) +FACE_MODEL_DIR = str(FACE_APP_DIR) + +# 類似画像用 DINOv2 モデルの ONNX ファイルパス +IMG_MODEL_PATH = str(IMG_APP_DIR / "model_quantized.onnx") + +# --- DB パス（統合アプリ専用） --- + +DB_DIR = BASE_DIR / "db" +DB_DIR.mkdir(exist_ok=True) + +# 類似画像検索ツールの pickle 保存先 +IMG_DB_PATH = str(DB_DIR / "tool.pickle") + +# 顔認証ツールの pickle 保存先 +FACE_DB_PATH = str(DB_DIR / "face_tool.pickle") + +# PDF / TIFF から抽出した画像の保存先 +EXTRACTED_DIR = str(DB_DIR / "extracted") +(DB_DIR / "extracted").mkdir(exist_ok=True) + +# --- Static ディレクトリ --- + +STATIC_DIR = BASE_DIR / "static" + +# 類似画像検索結果のコピー先（ブラウザ表示用） +IMAGES_DIR = STATIC_DIR / "images" + +# 顔検出のアップロード・結果の保存先 +UPLOADS_DIR = STATIC_DIR / "uploads" diff --git a/similar_img_face_recon_app/models/auraface/glintr100.onnx.txt b/similar_img_face_recon_app/models/auraface/glintr100.onnx.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/similar_img_face_recon_app/models/auraface/scrfd_10g_bnkps.onnx.txt b/similar_img_face_recon_app/models/auraface/scrfd_10g_bnkps.onnx.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/similar_img_face_recon_app/models/dinov3/model_quantized.onnx.txt b/similar_img_face_recon_app/models/dinov3/model_quantized.onnx.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/similar_img_face_recon_app/models/dinov3/model_quantized.onnx_data.txt b/similar_img_face_recon_app/models/dinov3/model_quantized.onnx_data.txt new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/similar_img_face_recon_app/pdf_tiff_extractor.py b/similar_img_face_recon_app/pdf_tiff_extractor.py new file mode 100644 index 0000000000000000000000000000000000000000..d80bf4f1745bc2e8aa5a83c528a4b17d3ca528eb --- /dev/null +++ b/similar_img_face_recon_app/pdf_tiff_extractor.py @@ -0,0 +1,265 @@ +""" +PDF / TIFF ファイルから画像を抽出するモジュール。 + +fitz (PyMuPDF) を使い、以下の変換を行います。 + - PDF（埋め込み画像あり）: 各ページの埋め込み画像を個別ファイルとして保存 + - PDF（埋め込み画像なし）: 各ページをラスタライズして PNG として保存 + - TIFF（マルチページ対応）: 各ページを PNG として保存 + +抽出画像は output_dir/{ファイル名}_{ハッシュ8桁}/ サブディレクトリに格納されます。 +""" + +import hashlib +import os +from glob import glob +from pathlib import Path +from typing import Dict, List, Tuple + +import fitz # PyMuPDF + +# 埋め込み画像として抽出する際の最小サイズ（これ未満はノイズとして除外） +_MIN_IMG_WIDTH = 100 +_MIN_IMG_HEIGHT = 100 + +# ページレンダリング時の解像度倍率 (72dpi × 2.0 = 144dpi) +_RENDER_DPI_SCALE = 2.0 + +# 対応する通常画像拡張子 +_IMAGE_EXTENSIONS = ["jpg", "jpeg", "png", "gif", "bmp", "webp", "WebP"] + +# 対応する PDF / TIFF 拡張子 +_SOURCE_EXTENSIONS = ["pdf", "tif", "tiff"] + + +# --------------------------------------------------------------------------- +# 内部ヘルパー +# --------------------------------------------------------------------------- + + +def _source_hash(source_path: str) -> str: + """ + ソースファイルパスから安定した 8 文字の MD5 ハッシュを返します。 + サブディレクトリ名の衝突防止に使用します。 + + Args: + source_path (str): 元ファイルの絶対パス。 + + Returns: + str: MD5 ハッシュの先頭 8 文字。 + """ + return hashlib.md5(source_path.encode()).hexdigest()[:8] + + +def _make_subdir(source_path: str, output_base_dir: str) -> str: + """ + ソースファイル専用のサブディレクトリを作成して返します。 + + 命名規則: {output_base_dir}/{stem}_{hash8}/ + + Args: + source_path (str): 元ファイルの絶対パス。 + output_base_dir (str): 抽出画像の保存先ベースディレクトリ。 + + Returns: + str: 作成済みサブディレクトリの絶対パス。 + """ + stem = Path(source_path).stem + hash8 = _source_hash(source_path) + subdir = os.path.join(output_base_dir, f"{stem}_{hash8}") + os.makedirs(subdir, exist_ok=True) + return subdir + + +# --------------------------------------------------------------------------- +# 公開関数 +# --------------------------------------------------------------------------- + + +def extract_pdf_images(pdf_path: str, output_dir: str) -> List[str]: + """ + PDF から画像を抽出して output_dir のサブディレクトリに保存します。 + + 戦略: + 1. 全ページの埋め込み画像を収集します。 + - xref の重複、および _MIN_IMG_WIDTH / _MIN_IMG_HEIGHT 未満の小画像を除外します。 + 2. 埋め込み画像が 1 枚以上あれば → 埋め込み画像モード: + 各 xref の画像データをそのまま保存します（JPEG は .jpg、その他は .png）。 + 3. 埋め込み画像がゼロなら → ページレンダリングモード: + 各ページを _RENDER_DPI_SCALE 倍解像度でラスタライズして .png として保存します。 + + Args: + pdf_path (str): 入力 PDF ファイルの絶対パス。 + output_dir (str): 抽出画像を格納するベースディレクトリ。 + 内部に {stem}_{hash8}/ サブディレクトリが自動生成されます。 + + Returns: + List[str]: 保存した抽出画像の絶対パスリスト（正規化済み）。 + 抽出に失敗した場合は空リストを返します。 + """ + subdir = _make_subdir(pdf_path, output_dir) + extracted: List[str] = [] + + try: + doc = fitz.open(pdf_path) + except Exception as e: + print(f"PDF を開けませんでした ({pdf_path}): {e}") + return [] + + try: + seen_xrefs: set = set() + embedded: List[tuple] = [] # (xref, base_image_dict) + + # ---- Phase 1: 埋め込み画像の収集 ---- + for page_num in range(len(doc)): + page = doc[page_num] + for img_info in page.get_images(full=True): + xref = img_info[0] + if xref in seen_xrefs: + continue + seen_xrefs.add(xref) + try: + base_image = doc.extract_image(xref) + w = base_image.get("width", 0) + h = base_image.get("height", 0) + if w < _MIN_IMG_WIDTH or h < _MIN_IMG_HEIGHT: + continue + embedded.append((xref, base_image)) + except Exception as e: + print(f" xref {xref} の抽出に失敗 ({pdf_path}): {e}") + + # ---- Phase 2: 抽出戦略の選択 ---- + if embedded: + # 埋め込み画像モード + for xref, base_image in embedded: + ext = base_image.get("ext", "png") + # 対応外拡張子は png に統一 + if ext.lower() not in ("jpg", "jpeg", "png", "bmp", "webp"): + ext = "png" + filename = f"xref{xref}.{ext}" + save_path = os.path.join(subdir, filename) + with open(save_path, "wb") as f: + f.write(base_image["image"]) + extracted.append(os.path.normpath(save_path)) + else: + # ページレンダリングモード + mat = fitz.Matrix(_RENDER_DPI_SCALE, _RENDER_DPI_SCALE) + for page_num in range(len(doc)): + page = doc[page_num] + pix = page.get_pixmap(matrix=mat) + filename = f"page{page_num + 1:04d}.png" + save_path = os.path.join(subdir, filename) + pix.save(save_path) + extracted.append(os.path.normpath(save_path)) + + finally: + doc.close() + + return extracted + + +def extract_tiff_pages(tiff_path: str, output_dir: str) -> List[str]: + """ + TIFF ファイルの各ページを PNG に変換して output_dir のサブディレクトリに保存します。 + + fitz は TIFF のマルチページに対応しています。 + 各ページを _RENDER_DPI_SCALE 倍解像度でラスタライズして保存します。 + + Args: + tiff_path (str): 入力 TIFF ファイルの絶対パス。 + output_dir (str): 抽出画像を格納するベースディレクトリ。 + + Returns: + List[str]: 保存した PNG ファイルの絶対パスリスト（正規化済み）。 + 失敗した場合は空リストを返します。 + """ + subdir = _make_subdir(tiff_path, output_dir) + extracted: List[str] = [] + + try: + doc = fitz.open(tiff_path) + except Exception as e: + print(f"TIFF を開けませんでした ({tiff_path}): {e}") + return [] + + try: + mat = fitz.Matrix(_RENDER_DPI_SCALE, _RENDER_DPI_SCALE) + for page_num in range(len(doc)): + page = doc[page_num] + pix = page.get_pixmap(matrix=mat) + filename = f"page{page_num + 1:04d}.png" + save_path = os.path.join(subdir, filename) + pix.save(save_path) + extracted.append(os.path.normpath(save_path)) + finally: + doc.close() + + return extracted + + +def get_filelist_with_extraction( + folder_path: str, + output_dir: str, + recursive: bool = False, +) -> Tuple[List[str], Dict[str, List[str]]]: + """ + フォルダ内の通常画像・PDF・TIFF を収集し、PDF/TIFF は画像に展開します。 + + 通常画像はそのままリストに追加します。 + PDF / TIFF は extract_pdf_images / extract_tiff_pages を呼び出して + 抽出した画像パスに置き換えます。 + + Args: + folder_path (str): スキャン対象フォルダの絶対パス。 + output_dir (str): PDF/TIFF 抽出画像の保存先ベースディレクトリ。 + recursive (bool): True の場合サブフォルダも再帰的に検索します。 + + Returns: + Tuple[List[str], Dict[str, List[str]]]: + - extracted_path_list: インデックスに登録すべき画像パスのリスト。 + （PDF/TIFF は抽出後の PNG/JPG パスに展開済み） + - source_to_extracted: {元ファイルパス: [抽出画像パス, ...]} の辞書。 + 通常画像はこの辞書に含まれません。 + """ + all_source_paths: List[str] = [] + + # 通常画像 + for ext in _IMAGE_EXTENSIONS: + if recursive: + all_source_paths.extend(glob(f"{folder_path}/**/*.{ext}", recursive=True)) + all_source_paths.extend(glob(f"{folder_path}/**/*.{ext.upper()}", recursive=True)) + else: + all_source_paths.extend(glob(f"{folder_path}/*.{ext}")) + all_source_paths.extend(glob(f"{folder_path}/*.{ext.upper()}")) + + # PDF / TIFF + for ext in _SOURCE_EXTENSIONS: + if recursive: + all_source_paths.extend(glob(f"{folder_path}/**/*.{ext}", recursive=True)) + all_source_paths.extend(glob(f"{folder_path}/**/*.{ext.upper()}", recursive=True)) + else: + all_source_paths.extend(glob(f"{folder_path}/*.{ext}")) + all_source_paths.extend(glob(f"{folder_path}/*.{ext.upper()}")) + + # 重複除去・正規化 + all_source_paths = list(set(os.path.normpath(p) for p in all_source_paths)) + + extracted_path_list: List[str] = [] + source_to_extracted: Dict[str, List[str]] = {} + + for src in all_source_paths: + ext_lower = Path(src).suffix.lower() + + if ext_lower == ".pdf": + imgs = extract_pdf_images(src, output_dir) + source_to_extracted[src] = imgs + extracted_path_list.extend(imgs) + + elif ext_lower in (".tif", ".tiff"): + imgs = extract_tiff_pages(src, output_dir) + source_to_extracted[src] = imgs + extracted_path_list.extend(imgs) + + else: + extracted_path_list.append(src) + + return extracted_path_list, source_to_extracted diff --git a/similar_img_face_recon_app/templates/face_recon/folder_path.html b/similar_img_face_recon_app/templates/face_recon/folder_path.html new file mode 100644 index 0000000000000000000000000000000000000000..f36ff922f23e246f5e872e6e59eab712f80b8b46 --- /dev/null +++ b/similar_img_face_recon_app/templates/face_recon/folder_path.html @@ -0,0 +1,243 @@ + + + + + + 顔認証 — フォルダ設定 + + + + +
+ + +
+
+ + 顔類似検索ページはこちら + + + ← トップに戻る + +
+
+ + +
+

フォルダ設定（顔認証）

+

顔類似検索の対象フォルダをセットします

+
+ + +
+ 総ファイル数: 0 +
+ + +
+ + +
+ © 2025 Folder Analyzer — Powered by Flask + TailwindCSS +
+ + +
+
+ + + + diff --git a/similar_img_face_recon_app/templates/face_recon/index.html b/similar_img_face_recon_app/templates/face_recon/index.html new file mode 100644 index 0000000000000000000000000000000000000000..a29da4bb4ac6d5f6b652b8157ea52d027313c4e4 --- /dev/null +++ b/similar_img_face_recon_app/templates/face_recon/index.html @@ -0,0 +1,405 @@ + + + + + + 顔類似検索 + + + + +
+ + +
+
+

+ + 対象フォルダ設定はこちら + + + ← トップに戻る + +
+
+ + +
+

顔類似検索

+

画像をアップロードすると顔を検出し、クリックで類似顔を探します

+
+ + +
+
+ + +
+ + + + +

画像をドラッグ&ドロップ

+

または

+ +
+ + + +
+
+ + + +
+ + + + diff --git a/similar_img_face_recon_app/templates/landing.html b/similar_img_face_recon_app/templates/landing.html new file mode 100644 index 0000000000000000000000000000000000000000..177b11c8ac6713d03f5c60ee59184cd56a8a40a2 --- /dev/null +++ b/similar_img_face_recon_app/templates/landing.html @@ -0,0 +1,101 @@ + + + + + + 画像検索アプリ + + + + +
+ + +
+

画像検索アプリ

+

使いたい機能を選んでください

+
+ + +
+ + + +
+
+
+
+ + + + + +
+

類似画像検索

+
+

+ DINOv2 (Vision Transformer) で画像の embedding を生成し、 + FAISS による高速な近似最近傍検索で類似画像を探します。 +

+
+ 使ってみる + + + +
+
+ + + + +
+
+
+
+ + + + + +
+

顔類似検索

+
+

+ SCRFD で顔を検出し、AuraFace (ArcFace) で embedding を生成、 + FAISS で類似顔を高速検索します。 +

+
+ 使ってみる + + + +
+
+ +
+ + +

+ Powered by Flask · DINOv2 · AuraFace · FAISS +

+
+ + diff --git a/similar_img_face_recon_app/templates/similar_image/folder_path.html b/similar_img_face_recon_app/templates/similar_image/folder_path.html new file mode 100644 index 0000000000000000000000000000000000000000..f246ce6a7f8240352da22160575eabb011f0697d --- /dev/null +++ b/similar_img_face_recon_app/templates/similar_image/folder_path.html @@ -0,0 +1,243 @@ + + + + + + 類似画像 — フォルダ設定 + + + + +
+ + +
+
+ + 類似画像検索ページはこちら + + + ← トップに戻る + +
+
+ + +
+

フォルダ設定（類似画像）

+

類似画像検索の対象フォルダをセットします

+
+ + +
+ 総ファイル数: 0 +
+ + +
+ + +
+ © 2025 Folder Analyzer — Powered by Flask + TailwindCSS +
+ + +
+
+ + + + diff --git a/similar_img_face_recon_app/templates/similar_image/index.html b/similar_img_face_recon_app/templates/similar_image/index.html new file mode 100644 index 0000000000000000000000000000000000000000..aadd9f949665251a99ce92737776145cf265089c --- /dev/null +++ b/similar_img_face_recon_app/templates/similar_image/index.html @@ -0,0 +1,385 @@ + + + + + + 類似画像検索 + + + + +
+ + +
+
+

+ + 対象フォルダ設定はこちら + + + ← トップに戻る + +
+
+ + +
+

類似画像検索

+

画像をアップロードして、類似する画像を見つけましょう

+
+ + +
+
+ + +
+ + + + +

画像をドラッグ&ドロップ

+

または

+ +
+ + + +
+
+ + + +
+ + + + diff --git a/similar_img_face_recon_app/utils.py b/similar_img_face_recon_app/utils.py new file mode 100644 index 0000000000000000000000000000000000000000..568e8c2dec76eed2d877e6967a300ea9ee02289c --- /dev/null +++ b/similar_img_face_recon_app/utils.py @@ -0,0 +1,69 @@ +""" +共通ユーティリティ関数モジュール。 + +類似画像検索・顔認証の両アプリで共有する汎用ヘルパー関数を提供します。 +""" + +import glob +import os +import pickle + + +def dump_pickle(obj: object, path: str) -> None: + """ + Python オブジェクトを pickle ファイルに保存します。 + + Args: + obj (object): 保存対象の Python オブジェクト。 + path (str): 保存先ファイルパス。 + """ + with open(path, "wb") as f: + pickle.dump(obj, f) + + +def load_pickle(path: str) -> object: + """ + pickle ファイルから Python オブジェクトを読み込みます。 + + Args: + path (str): 読み込み対象の pickle ファイルパス。 + + Returns: + object: デシリアライズされた Python オブジェクト。 + """ + with open(path, "rb") as f: + return pickle.load(f) + + +def maintain_image_limit(directory_path: str, limit: int = 100) -> None: + """ + 指定フォルダ内の JPEG 画像が上限枚数を超えた場合、古いものから削除します。 + + 起動時に呼び出すことで、アップロード用フォルダの肥大化を防ぎます。 + + Args: + directory_path (str): 管理対象フォルダのパス。 + limit (int): 保持する画像の最大枚数。デフォルトは 100。 + """ + search_path = os.path.join(directory_path, "*.jpg") + files = glob.glob(search_path) + + # 更新日時（mtime）で昇順ソート（古い順） + files.sort(key=os.path.getmtime) + + count = len(files) + if count > limit: + excess = count - limit + files_to_delete = files[:excess] + print( + f"現在 {count} 枚です。上限 {limit} 枚を超えるため、" + f"古い順に {excess} 枚削除します。" + ) + for file_path in files_to_delete: + try: + os.remove(file_path) + print(f"削除完了: {os.path.basename(file_path)}") + except Exception as e: + print(f"エラー（{file_path}）: {e}") + else: + print(f"現在の枚数は {count} 枚です。削除の必要はありません。")