# AI Tools

ローカル AI モデルを使った 4 つのツールを Flask + Blueprint で統合したアプリです。

---

## 機能一覧

| # | ツール | URL | 概要 |
|---|--------|-----|------|
| ① | 多言語翻訳 | `/translation` | テキストを各国語へリアルタイム翻訳（LFM 2.5） |
| ② | OCR と翻訳 | `/ocr` | 画像から文字認識（GLM-OCR）→ 翻訳（LFM 2.5） |
| ③ | 表 OCR → Excel | `/ledger` | 帳簿・表の画像を解析して Excel に変換（Qwen3-VL） |
| ④ | VLM | `/vlm` | 画像＋プロンプトで Qwen3-VL に自由に問い合わせ（ストリーミング） |
| ⑤ | 音声文字起こし | `/whisper` | 音声・動画ファイルを文字起こし（Whisper）+ 翻訳（LFM 2.5） |

---

## 起動方法

```bash
python run.py
```

ブラウザで `http://localhost:5000` を開く。

> ポート番号などは `config.py` で変更できます。

---

## 設定（config.py）

`run.py` と同じフォルダにある `config.py` を編集することで、各種設定を一括変更できます。

| 設定項目 | デフォルト | 説明 |
|----------|-----------|------|
| `FLASK_HOST` | `"0.0.0.0"` | `"127.0.0.1"` にするとローカルのみ接続可 |
| `FLASK_PORT` | `5000` | サーバーのポート番号 |
| `FLASK_DEBUG` | `False` | デバッグモード |
| `DEVICE` | `"cpu"` | モデルのデバイス。`"cuda"` / `"auto"` も指定可 |
| `WHISPER_COMPUTE_TYPE` | `"int8"` | GPU 時は `"float16"` を推奨 |
| `LFM_MODEL_PATH` | `models/lfm2.5_instruct` | LFM 2.5 モデルの場所 |
| `GLM_OCR_PATH` | `models/GLM_OCR` | GLM-OCR モデルの場所 |
| `QWEN_MODEL_PATH` | `models/Qwen3-VL-2B-Instruct` | Qwen3-VL モデルの場所 |
| `WHISPER_SMALL_ID` | `"small"` | Whisper Small のモデルID |
| `WHISPER_LARGE_ID` | `"deepdml/..."` | Whisper Large のモデルID |
| `UPLOAD_DIR` | `app/static/uploads` | 音声ファイルの一時保存先 |
| `EXPORT_DIR` | `app/static/exports` | 書き出しテキストの保存先 |

---

## 必要なモデル

`models/` フォルダ以下に配置してください（パスは `config.py` で変更可）。

```
models/
├── lfm2.5_instruct/        # LFM 2.5 ONNX（翻訳・① ② ④ 共通）
├── GLM_OCR/                # GLM-OCR（② OCR）
└── Qwen3-VL-2B-Instruct/   # Qwen3-VL（③ 表OCR）
```

> Whisper モデルは `faster-whisper` が初回起動時に自動ダウンロードします。

---

## 必要なパッケージ

```bash
pip install flask transformers pillow openpyxl faster-whisper
```

> venv はプロジェクトの 1 つ上の階層 `../venv/` に配置。

---

## フォルダ構成

```
AI-OCR/
│
├── run.py                  # 起動エントリポイント
├── config.py               # 設定ファイル（モデルパス・ポート等）← ここを編集
├── README.md
│
├── models/                 # AI モデル保存先（config.py で変更可）
│   ├── lfm2.5_instruct/
│   ├── GLM_OCR/
│   └── Qwen3-VL-2B-Instruct/
│
├── app/
│   ├── __init__.py         # Flask アプリファクトリ
│   ├── templates/
│   │   └── base.html       # 共通レイアウト（ナビ・背景・雪アニメーション）
│   ├── static/
│   │   ├── HP1.png                       # 背景画像
│   │   ├── Flag_of_Japan_Customs.svg.png # ナビロゴ
│   │   ├── uploads/                      # 音声ファイル一時保存
│   │   └── exports/                      # テキスト書き出し保存
│   ├── shared/
│   │   ├── models.py       # 遅延ロード モデル管理（全 Blueprint 共用）
│   │   └── utils.py        # SSE ヘルパー等
│   └── blueprints/
│       ├── main/           # /  トップページ
│       ├── translation/    # /translation 多言語翻訳
│       ├── ocr/            # /ocr OCR と翻訳
│       ├── ledger/         # /ledger 表 OCR → Excel
│       ├── vlm/            # /vlm VLM（画像＋プロンプト）
│       └── whisper/        # /whisper 音声文字起こし
│           └── engine/
│               └── core.py # 文字起こし + 翻訳コア
│
└── WhisperApp/             # 旧スタンドアロン版（参照用）
```

---

## 各ツールの詳細

### ① 多言語翻訳 `/translation`
- 左ボックスに原文を入力 → 右ボックスに翻訳結果をリアルタイム表示
- 原文言語は自動検出（Auto）または手動指定
- 翻訳先は日本語・英語ほか自由入力可

### ② OCR と翻訳 `/ocr`
- 画像をアップロード → GLM-OCR でテキスト抽出 → LFM 2.5 で翻訳
- 結果はリアルタイムにストリーミング表示

### ③ 表 OCR → Excel `/ledger`
- 帳簿・表形式の画像を Qwen3-VL-2B で解析
- JSON 構造を自動抽出 → openpyxl で Excel (.xlsx) に変換 → ダウンロード

### ④ VLM `/vlm`
- 画像をアップロードしてプロンプトで Qwen3-VL-2B に自由に問い合わせ
- プリセットボタン: 画像の概要・文字読み取り要約・HTML テーブル変換・フリー入力
- 結果はトークン単位でリアルタイムストリーミング表示
- HTML タグが含まれる場合はそのまま HTML レンダリング（テーブルなど）

### ⑤ 音声文字起こし `/whisper`
- .mp3 / .wav / .mp4 / .m4a / .ogg をドラッグ&ドロップでアップロード
- **Small**（高速・シアン枠）/ **Large-v3-turbo**（高精度・レッド枠）を選択
- 出力形式: タイムスタンプあり（`whisper_text_time.txt`）/ なし（`whisper_only_text.txt`）
- 翻訳オプション: LFM 2.5 で各セグメントを翻訳（「英語」「中国語」など言語名で指定）
- 処理中は右上にスピナー表示、結果はリアルタイムにストリーミング表示

---

## 注意事項

- モデルはすべて初回リクエスト時に遅延ロードされます（起動は即座に完了します）
- モデルのロード中は画面にステータスが表示されます
- CPU 動作が前提です。GPU を使う場合は `config.py` で `DEVICE = "cuda"`、`WHISPER_COMPUTE_TYPE = "float16"` に変更してください