| # AI Tools |
|
|
| ローカル AI モデルを使った 4 つのツールを Flask + Blueprint で統合したアプリです。 |
|
|
| --- |
|
|
| ## 機能一覧 |
|
|
| | # | ツール | URL | 概要 | |
| |---|--------|-----|------| |
| | ① | 多言語翻訳 | `/translation` | テキストを各国語へリアルタイム翻訳（LFM 2.5） | |
| | ② | OCR と翻訳 | `/ocr` | 画像から文字認識（GLM-OCR）→ 翻訳（LFM 2.5） | |
| | ③ | 表 OCR → Excel | `/ledger` | 帳簿・表の画像を解析して Excel に変換（Qwen3-VL） | |
| | ④ | VLM | `/vlm` | 画像＋プロンプトで Qwen3-VL に自由に問い合わせ（ストリーミング） | |
| | ⑤ | 音声文字起こし | `/whisper` | 音声・動画ファイルを文字起こし（Whisper）+ 翻訳（LFM 2.5） | |
|
|
| --- |
|
|
| ## 起動方法 |
|
|
| ```bash |
| python run.py |
| ``` |
|
|
| ブラウザで `http://localhost:5000` を開く。 |
|
|
| > ポート番号などは `config.py` で変更できます。 |
|
|
| --- |
|
|
| ## 設定（config.py） |
|
|
| `run.py` と同じフォルダにある `config.py` を編集することで、各種設定を一括変更できます。 |
|
|
| | 設定項目 | デフォルト | 説明 | |
| |----------|-----------|------| |
| | `FLASK_HOST` | `"0.0.0.0"` | `"127.0.0.1"` にするとローカルのみ接続可 | |
| | `FLASK_PORT` | `5000` | サーバーのポート番号 | |
| | `FLASK_DEBUG` | `False` | デバッグモード | |
| | `DEVICE` | `"cpu"` | モデルのデバイス。`"cuda"` / `"auto"` も指定可 | |
| | `WHISPER_COMPUTE_TYPE` | `"int8"` | GPU 時は `"float16"` を推奨 | |
| | `LFM_MODEL_PATH` | `models/lfm2.5_instruct` | LFM 2.5 モデルの場所 | |
| | `GLM_OCR_PATH` | `models/GLM_OCR` | GLM-OCR モデルの場所 | |
| | `QWEN_MODEL_PATH` | `models/Qwen3-VL-2B-Instruct` | Qwen3-VL モデルの場所 | |
| | `WHISPER_SMALL_ID` | `"small"` | Whisper Small のモデルID | |
| | `WHISPER_LARGE_ID` | `"deepdml/..."` | Whisper Large のモデルID | |
| | `UPLOAD_DIR` | `app/static/uploads` | 音声ファイルの一時保存先 | |
| | `EXPORT_DIR` | `app/static/exports` | 書き出しテキストの保存先 | |
|
|
| --- |
|
|
| ## 必要なモデル |
|
|
| `models/` フォルダ以下に配置してください（パスは `config.py` で変更可）。 |
|
|
| ``` |
| models/ |
| ├── lfm2.5_instruct/ # LFM 2.5 ONNX（翻訳・① ② ④ 共通） |
| ├── GLM_OCR/ # GLM-OCR（② OCR） |
| └── Qwen3-VL-2B-Instruct/ # Qwen3-VL（③ 表OCR） |
| ``` |
|
|
| > Whisper モデルは `faster-whisper` が初回起動時に自動ダウンロードします。 |
|
|
| --- |
|
|
| ## 必要なパッケージ |
|
|
| ```bash |
| pip install flask transformers pillow openpyxl faster-whisper |
| ``` |
|
|
| > venv はプロジェクトの 1 つ上の階層 `../venv/` に配置。 |
|
|
| --- |
|
|
| ## フォルダ構成 |
|
|
| ``` |
| AI-OCR/ |
| │ |
| ├── run.py # 起動エントリポイント |
| ├── config.py # 設定ファイル（モデルパス・ポート等）← ここを編集 |
| ├── README.md |
| │ |
| ├── models/ # AI モデル保存先（config.py で変更可） |
| │ ├── lfm2.5_instruct/ |
| │ ├── GLM_OCR/ |
| │ └── Qwen3-VL-2B-Instruct/ |
| │ |
| ├── app/ |
| │ ├── __init__.py # Flask アプリファクトリ |
| │ ├── templates/ |
| │ │ └── base.html # 共通レイアウト（ナビ・背景・雪アニメーション） |
| │ ├── static/ |
| │ │ ├── HP1.png # 背景画像 |
| │ │ ├── Flag_of_Japan_Customs.svg.png # ナビロゴ |
| │ │ ├── uploads/ # 音声ファイル一時保存 |
| │ │ └── exports/ # テキスト書き出し保存 |
| │ ├── shared/ |
| │ │ ├── models.py # 遅延ロード モデル管理（全 Blueprint 共用） |
| │ │ └── utils.py # SSE ヘルパー等 |
| │ └── blueprints/ |
| │ ├── main/ # / トップページ |
| │ ├── translation/ # /translation 多言語翻訳 |
| │ ├── ocr/ # /ocr OCR と翻訳 |
| │ ├── ledger/ # /ledger 表 OCR → Excel |
| │ ├── vlm/ # /vlm VLM（画像＋プロンプト） |
| │ └── whisper/ # /whisper 音声文字起こし |
| │ └── engine/ |
| │ └── core.py # 文字起こし + 翻訳コア |
| │ |
| └── WhisperApp/ # 旧スタンドアロン版（参照用） |
| ``` |
|
|
| --- |
|
|
| ## 各ツールの詳細 |
|
|
| ### ① 多言語翻訳 `/translation` |
| - 左ボックスに原文を入力 → 右ボックスに翻訳結果をリアルタイム表示 |
| - 原文言語は自動検出（Auto）または手動指定 |
| - 翻訳先は日本語・英語ほか自由入力可 |
|
|
| ### ② OCR と翻訳 `/ocr` |
| - 画像をアップロード → GLM-OCR でテキスト抽出 → LFM 2.5 で翻訳 |
| - 結果はリアルタイムにストリーミング表示 |
|
|
| ### ③ 表 OCR → Excel `/ledger` |
| - 帳簿・表形式の画像を Qwen3-VL-2B で解析 |
| - JSON 構造を自動抽出 → openpyxl で Excel (.xlsx) に変換 → ダウンロード |
|
|
| ### ④ VLM `/vlm` |
| - 画像をアップロードしてプロンプトで Qwen3-VL-2B に自由に問い合わせ |
| - プリセットボタン: 画像の概要・文字読み取り要約・HTML テーブル変換・フリー入力 |
| - 結果はトークン単位でリアルタイムストリーミング表示 |
| - HTML タグが含まれる場合はそのまま HTML レンダリング（テーブルなど） |
|
|
| ### ⑤ 音声文字起こし `/whisper` |
| - .mp3 / .wav / .mp4 / .m4a / .ogg をドラッグ&ドロップでアップロード |
| - **Small**（高速・シアン枠）/ **Large-v3-turbo**（高精度・レッド枠）を選択 |
| - 出力形式: タイムスタンプあり（`whisper_text_time.txt`）/ なし（`whisper_only_text.txt`） |
| - 翻訳オプション: LFM 2.5 で各セグメントを翻訳（「英語」「中国語」など言語名で指定） |
| - 処理中は右上にスピナー表示、結果はリアルタイムにストリーミング表示 |
|
|
| --- |
|
|
| ## 注意事項 |
|
|
| - モデルはすべて初回リクエスト時に遅延ロードされます（起動は即座に完了します） |
| - モデルのロード中は画面にステータスが表示されます |
| - CPU 動作が前提です。GPU を使う場合は `config.py` で `DEVICE = "cuda"`、`WHISPER_COMPUTE_TYPE = "float16"` に変更してください |
|
|
