lfm25_run.py

"""
lfm_inference.py
────────────────
ONNX ベースの LLM 推論モジュール。

使用例:
    from lfm_inference import LFMInference

    # インスタンス生成（フォルダを渡すだけで OK）
    llm = LFMInference("./models/lfm2.5_instruct")

    # 一括返却
    result = llm.generate(system_prompt="あなたは優秀な翻訳家です。",
                          user_prompt="Hello, world!")
    print(result)

    # ストリーミング (yield)
    for chunk in llm.stream(system_prompt="...", user_prompt="..."):
        print(chunk, end="", flush=True)
"""

from __future__ import annotations

import os
from pathlib import Path
from typing import Generator, Iterator, Optional

import numpy as np
import onnxruntime as ort
from transformers import AutoTokenizer


# ────────────────────────────────────────────────────────────
# 定数
# ────────────────────────────────────────────────────────────
_ONNX_DTYPE: dict[str, type] = {
    "tensor(float)":   np.float32,
    "tensor(float16)": np.float16,
    "tensor(int64)":   np.int64,
}

_DEFAULT_ONNX_FILENAMES = [
    "onnx/model_q4.onnx",
    "onnx/model.onnx",
    "model_q4.onnx",
    "model.onnx",
]


# ────────────────────────────────────────────────────────────
# メインクラス
# ────────────────────────────────────────────────────────────
class LFMInference:
    """
    ONNX モデルをラップした LLM 推論クラス。

    Parameters
    ----------
    model_dir : str | Path
        モデルフォルダのパス。
        tokenizer と ONNX ファイルが格納されている想定。
    onnx_filename : str | None
        ONNX ファイルへの相対パス。None の場合は自動検索。
    max_new_tokens : int
        最大生成トークン数（デフォルト 3000）。
    providers : list[str] | None
        ONNX Runtime プロバイダ。None の場合は自動選択。
    """

    def __init__(
        self,
        model_dir: str | Path,
        onnx_filename: Optional[str] = None,
        max_new_tokens: int = 3000,
        providers: Optional[list[str]] = None,
    ) -> None:
        self.model_dir = Path(model_dir)
        self.max_new_tokens = max_new_tokens

        # ── Tokenizer ──────────────────────────────────────
        self.tokenizer = AutoTokenizer.from_pretrained(str(self.model_dir))

        # ── ONNX セッション ────────────────────────────────
        onnx_path = self._resolve_onnx_path(onnx_filename)
        _providers = providers or ort.get_available_providers()
        self.session = ort.InferenceSession(str(onnx_path), providers=_providers)

        # position_ids の有無を確認
        _input_names = {inp.name for inp in self.session.get_inputs()}
        self._use_position_ids: bool = "position_ids" in _input_names

        print(f"[LFMInference] model  : {onnx_path}")
        print(f"[LFMInference] providers: {self.session.get_providers()}")

    # ────────────────────────────────────────────────────────
    # Public API
    # ────────────────────────────────────────────────────────

    def generate(
        self,
        user_prompt: str,
        system_prompt: str = "",
        max_new_tokens: Optional[int] = None,
    ) -> str:
        """
        推論を実行し、生成テキストを **一括** で返す。

        Parameters
        ----------
        user_prompt : str
            ユーザーの入力テキスト。
        system_prompt : str
            システムプロンプト（省略可）。
        max_new_tokens : int | None
            最大生成トークン数。None の場合はインスタンス設定値を使用。

        Returns
        -------
        str
            生成されたテキスト全体。
        """
        tokens = list(
            self._token_stream(user_prompt, system_prompt, max_new_tokens)
        )
        return self.tokenizer.decode(tokens, skip_special_tokens=True)

    def stream(
        self,
        user_prompt: str,
        system_prompt: str = "",
        max_new_tokens: Optional[int] = None,
    ) -> Generator[str, None, None]:
        """
        推論を実行し、生成テキストを **逐次 yield** する。

        Parameters
        ----------
        user_prompt : str
            ユーザーの入力テキスト。
        system_prompt : str
            システムプロンプト（省略可）。
        max_new_tokens : int | None
            最大生成トークン数。None の場合はインスタンス設定値を使用。

        Yields
        ------
        str
            その時点までに生成されたテキスト全体（差分ではなく累積）。
            差分のみが必要な場合は呼び出し側で前回値との差を取ってください。
        """
        generated: list[int] = []
        for token_id in self._token_stream(user_prompt, system_prompt, max_new_tokens):
            generated.append(token_id)
            yield self.tokenizer.decode(generated, skip_special_tokens=True)

    # ────────────────────────────────────────────────────────
    # 内部実装
    # ────────────────────────────────────────────────────────

    def _resolve_onnx_path(self, onnx_filename: Optional[str]) -> Path:
        """ONNX ファイルのパスを解決する。"""
        if onnx_filename:
            path = self.model_dir / onnx_filename
            if not path.exists():
                raise FileNotFoundError(f"ONNX file not found: {path}")
            return path

        for candidate in _DEFAULT_ONNX_FILENAMES:
            path = self.model_dir / candidate
            if path.exists():
                return path

        raise FileNotFoundError(
            f"No ONNX file found in {self.model_dir}. "
            f"Tried: {_DEFAULT_ONNX_FILENAMES}. "
            "Pass `onnx_filename` explicitly."
        )

    def _build_inputs(self, system_prompt: str, user_prompt: str) -> np.ndarray:
        """チャットテンプレートを適用して input_ids を構築する。"""
        messages = []
        if system_prompt:
            messages.append({"role": "system", "content": system_prompt})
        messages.append({"role": "user", "content": user_prompt})

        encoded = self.tokenizer.apply_chat_template(
            messages,
            add_generation_prompt=True,
            return_tensors="np",
        )
        return np.array(encoded["input_ids"], dtype=np.int64)

    def _init_cache(self) -> dict[str, np.ndarray]:
        """KV キャッシュを初期化する。"""
        cache: dict[str, np.ndarray] = {}
        for inp in self.session.get_inputs():
            if inp.name in {"input_ids", "attention_mask", "position_ids"}:
                continue
            shape = [d if isinstance(d, int) else 1 for d in inp.shape]
            for i, d in enumerate(inp.shape):
                if isinstance(d, str) and "sequence" in d.lower():
                    shape[i] = 0
            cache[inp.name] = np.zeros(
                shape, dtype=_ONNX_DTYPE.get(inp.type, np.float32)
            )
        return cache

    def _token_stream(
        self,
        user_prompt: str,
        system_prompt: str,
        max_new_tokens: Optional[int],
    ) -> Iterator[int]:
        """
        トークンを 1 つずつ生成して yield する内部ジェネレータ。
        """
        max_tokens = max_new_tokens if max_new_tokens is not None else self.max_new_tokens

        input_ids = self._build_inputs(system_prompt, user_prompt)
        seq_len = input_ids.shape[1]
        cache = self._init_cache()
        generated_tokens: list[int] = []

        for step in range(max_tokens):
            # ── 入力の準備 ───────────────────────────────
            if step == 0:
                ids = input_ids
                pos = np.arange(seq_len, dtype=np.int64).reshape(1, -1)
            else:
                ids = np.array([[generated_tokens[-1]]], dtype=np.int64)
                pos = np.array(
                    [[seq_len + len(generated_tokens) - 1]], dtype=np.int64
                )

            attn_mask = np.ones(
                (1, seq_len + len(generated_tokens)), dtype=np.int64
            )
            feed: dict[str, np.ndarray] = {
                "input_ids": ids,
                "attention_mask": attn_mask,
                **cache,
            }
            if self._use_position_ids:
                feed["position_ids"] = pos

            # ── 推論 ─────────────────────────────────────
            outputs = self.session.run(None, feed)
            next_token = int(np.argmax(outputs[0][0, -1]))
            generated_tokens.append(next_token)

            # ── KV キャッシュ更新 ─────────────────────────
            for i, out in enumerate(self.session.get_outputs()[1:], start=1):
                name = (
                    out.name
                    .replace("present_conv", "past_conv")
                    .replace("present.", "past_key_values.")
                )
                if name in cache:
                    cache[name] = outputs[i]

            yield next_token

            if next_token == self.tokenizer.eos_token_id:
                break