customkun_any / MM_tools /README.md
showeed's picture
Upload 124 files
9a65320 verified

AI Tools

ローカル AI モデルを使った 4 つのツールを Flask + Blueprint で統合したアプリです。


機能一覧

# ツール URL 概要
多言語翻訳 /translation テキストを各国語へリアルタイム翻訳(LFM 2.5)
OCR と翻訳 /ocr 画像から文字認識(GLM-OCR)→ 翻訳(LFM 2.5)
表 OCR → Excel /ledger 帳簿・表の画像を解析して Excel に変換(Qwen3-VL)
VLM /vlm 画像+プロンプトで Qwen3-VL に自由に問い合わせ(ストリーミング)
音声文字起こし /whisper 音声・動画ファイルを文字起こし(Whisper)+ 翻訳(LFM 2.5)

起動方法

python run.py

ブラウザで http://localhost:5000 を開く。

ポート番号などは config.py で変更できます。


設定(config.py)

run.py と同じフォルダにある config.py を編集することで、各種設定を一括変更できます。

設定項目 デフォルト 説明
FLASK_HOST "0.0.0.0" "127.0.0.1" にするとローカルのみ接続可
FLASK_PORT 5000 サーバーのポート番号
FLASK_DEBUG False デバッグモード
DEVICE "cpu" モデルのデバイス。"cuda" / "auto" も指定可
WHISPER_COMPUTE_TYPE "int8" GPU 時は "float16" を推奨
LFM_MODEL_PATH models/lfm2.5_instruct LFM 2.5 モデルの場所
GLM_OCR_PATH models/GLM_OCR GLM-OCR モデルの場所
QWEN_MODEL_PATH models/Qwen3-VL-2B-Instruct Qwen3-VL モデルの場所
WHISPER_SMALL_ID "small" Whisper Small のモデルID
WHISPER_LARGE_ID "deepdml/..." Whisper Large のモデルID
UPLOAD_DIR app/static/uploads 音声ファイルの一時保存先
EXPORT_DIR app/static/exports 書き出しテキストの保存先

必要なモデル

models/ フォルダ以下に配置してください(パスは config.py で変更可)。

models/
├── lfm2.5_instruct/        # LFM 2.5 ONNX(翻訳・① ② ④ 共通)
├── GLM_OCR/                # GLM-OCR(② OCR)
└── Qwen3-VL-2B-Instruct/   # Qwen3-VL(③ 表OCR)

Whisper モデルは faster-whisper が初回起動時に自動ダウンロードします。


必要なパッケージ

pip install flask transformers pillow openpyxl faster-whisper

venv はプロジェクトの 1 つ上の階層 ../venv/ に配置。


フォルダ構成

AI-OCR/
│
├── run.py                  # 起動エントリポイント
├── config.py               # 設定ファイル(モデルパス・ポート等)← ここを編集
├── README.md
│
├── models/                 # AI モデル保存先(config.py で変更可)
│   ├── lfm2.5_instruct/
│   ├── GLM_OCR/
│   └── Qwen3-VL-2B-Instruct/
│
├── app/
│   ├── __init__.py         # Flask アプリファクトリ
│   ├── templates/
│   │   └── base.html       # 共通レイアウト(ナビ・背景・雪アニメーション)
│   ├── static/
│   │   ├── HP1.png                       # 背景画像
│   │   ├── Flag_of_Japan_Customs.svg.png # ナビロゴ
│   │   ├── uploads/                      # 音声ファイル一時保存
│   │   └── exports/                      # テキスト書き出し保存
│   ├── shared/
│   │   ├── models.py       # 遅延ロード モデル管理(全 Blueprint 共用)
│   │   └── utils.py        # SSE ヘルパー等
│   └── blueprints/
│       ├── main/           # /  トップページ
│       ├── translation/    # /translation 多言語翻訳
│       ├── ocr/            # /ocr OCR と翻訳
│       ├── ledger/         # /ledger 表 OCR → Excel
│       ├── vlm/            # /vlm VLM(画像+プロンプト)
│       └── whisper/        # /whisper 音声文字起こし
│           └── engine/
│               └── core.py # 文字起こし + 翻訳コア
│
└── WhisperApp/             # 旧スタンドアロン版(参照用)

各ツールの詳細

① 多言語翻訳 /translation

  • 左ボックスに原文を入力 → 右ボックスに翻訳結果をリアルタイム表示
  • 原文言語は自動検出(Auto)または手動指定
  • 翻訳先は日本語・英語ほか自由入力可

② OCR と翻訳 /ocr

  • 画像をアップロード → GLM-OCR でテキスト抽出 → LFM 2.5 で翻訳
  • 結果はリアルタイムにストリーミング表示

③ 表 OCR → Excel /ledger

  • 帳簿・表形式の画像を Qwen3-VL-2B で解析
  • JSON 構造を自動抽出 → openpyxl で Excel (.xlsx) に変換 → ダウンロード

④ VLM /vlm

  • 画像をアップロードしてプロンプトで Qwen3-VL-2B に自由に問い合わせ
  • プリセットボタン: 画像の概要・文字読み取り要約・HTML テーブル変換・フリー入力
  • 結果はトークン単位でリアルタイムストリーミング表示
  • HTML タグが含まれる場合はそのまま HTML レンダリング(テーブルなど)

⑤ 音声文字起こし /whisper

  • .mp3 / .wav / .mp4 / .m4a / .ogg をドラッグ&ドロップでアップロード
  • Small(高速・シアン枠)/ Large-v3-turbo(高精度・レッド枠)を選択
  • 出力形式: タイムスタンプあり(whisper_text_time.txt)/ なし(whisper_only_text.txt
  • 翻訳オプション: LFM 2.5 で各セグメントを翻訳(「英語」「中国語」など言語名で指定)
  • 処理中は右上にスピナー表示、結果はリアルタイムにストリーミング表示

注意事項

  • モデルはすべて初回リクエスト時に遅延ロードされます(起動は即座に完了します)
  • モデルのロード中は画面にステータスが表示されます
  • CPU 動作が前提です。GPU を使う場合は config.pyDEVICE = "cuda"WHISPER_COMPUTE_TYPE = "float16" に変更してください