Angio

ローカル LLM の「遅い場所」を、1枚の図で見せる Windows アプリ

v1.4.0 ・ 無料

血管造影(Angiography)のように、LLM を動かしている時の「流れ」と「詰まり」を見るアプリです。 GPU・VRAM・PCIe・メモリ・SSD・LAN を同時に測り、Prefill(質問を読む段階)と Decode(答えを書く段階)のそれぞれで、どの部品が一番詰まっているかを示します。


できること

① リアルタイムで観測

いま詰まっている部品が、赤い帯と図で一目で分かります。 LAN でつないだ2台目の PC も、1枚の図にまとめて見られます。

② 測定モード

3・5・10分を選ぶと、Angio が自分で質問を送り続けて、Prefill と Decode の速さを測ります。

③ 仮想モード(β)

「GPU を替えたら?」「もう1枚足したら?」を、今の実測から予想します。 まだ試験中です。皆さんの測定結果で、予想の誤差を縮めていきます。

④ 結果報告表

測った結果を1枚の画像にまとめます。 画像の保存・X に貼る文・HF に貼る用の表を、ボタン1つでコピーできます。


⑤ チャット(Claude Code・Codex・ローカル LLM に聞く)

図の左上の「チャット」を押すと、画面の左に会話の欄が出ます。 「ここなんで遅いの?」のように聞くと、いま測っている数字を見たうえで答えます。

  • 欄の上で相手を選べます:CLAUDE(Claude Code)・CODEX(Codex)・LOCAL(ご自分のローカル LLM)
  • 部品の札(クリックで出る窓)を会話の欄へドラッグすると、その部品について聞けます
  • 答えに出てきた部品から、図の上のその部品へ線が引かれます
  • 考えている間は、入力欄の下で印が回り、経過秒数が出ます
  • 「チャット」のボタンの右のつまみで、モデルと考える深さを選べます(Claude:Fable/Opus/Sonnet/Haiku・low〜max。Codex:その PC の Codex が使えるモデルと段階)

作業モード

「チャット」のボタンの並びの一番右にある「作業」を押すと、押している間だけ、Claude Code・Codex が作業フォルダの中のファイルを作ったり書き換えたりできます。 削除・外部への送信・コマンドの実行はさせません。Angio を起動し直すと、必ず「読むだけ」に戻ります。

使うのに必要なもの(どれか1つ)

入れ方(Node.js が要ります) 最初に1回
Claude Code npm install -g @anthropic-ai/claude-code 黒い画面で claude を起動してログイン
Codex npm install -g @openai/codex 黒い画面で codex を起動してログイン
LOCAL 不要(llama-server・Ollama・LM Studio など、OpenAI と同じ形の窓口) 「LOCAL」を押して、アドレスを入れる

Claude Code・Codex は、入れたら Angio を起動し直すと使えます。どれも無い時は、「チャット」を押すと入れ方が出ます。 料金は、ご自身の Claude/ChatGPT の契約の使用量から使われます(Angio が API キーを持つことはありません)。


使い方

  1. 「Files and versions」から Angio_v1.4.0.zip をダウンロードします (直リンク:https://huggingface.co/isichan-ai/Angio/resolve/main/Angio_v1.4.0.zip )
  2. 展開する前に、zip を右クリック →「プロパティ」→「許可する」にチェックを入れます
  3. 展開して angio.exe を起動します(インストール不要)
  4. 右上の「設定」で、LLM サーバーのアドレスを選びます

詳しい使い方は、zip の中の README.md にあります。

動く環境

項目 対応
OS Windows 10 / 11(64 ビット)
GPU NVIDIA(全部の項目)/AMD Radeon・Intel Arc(使用率と VRAM だけ)
測る相手 llama-server(--metrics を付けて起動)・Strata(v0.2.1 で確認)・Maya(v1.1.20 で確認)
チャット Claude Code か Codex が入っている PC、またはローカル LLM(無くても図はそのまま使えます)

測定結果を貼ってください

貼ってもらった結果は、仮想モードの予想を正確にするのに使います。

貼る場所:このページ上部の「Community」タブ →「測定結果はここに貼ってください」のスレッド 👉 https://huggingface.co/isichan-ai/Angio/discussions/1

貼り方

  1. Angio で LLM を動かして測ります(右上の「測定モード」)
  2. 右上の「結果報告表」を開きます
  3. 「HF に貼る用をコピー」を押します
  4. 上のスレッドの一番下のコメント欄に貼り付けて「Comment」を押します(Hugging Face へのログインが要ります)

中身は部品の名前と測った数字だけです(ファイルの場所・PC の名前・IP は入りません)。 GPU を足す前と後など、同じ PC で部品を替えた時の結果があると特に助かります。


変わったこと

v1.4.0(2026-10-21)
  • チャットを付けました(Claude Code・Codex・ローカル LLM に、いまの数字を見たうえで聞けます)
  • 作業モード:押している間だけ、Claude Code・Codex がファイルを作ったり書き換えたりできます
  • 「チャット」のボタンの右で、モデルと考える深さを選べるようにしました
  • 部品の札を会話の欄へドラッグすると、その部品について聞けるようにしました
  • Strata 最新版(v0.2.1)で動作を確かめました
  • Maya(v1.1.20)につないだ時も、速さと「工夫」の札が出て、工夫がファンネルで図に出るようにしました
  • サーバーの起動ログから、モデルの置き場所を読めるようにしました(llama-server は -lv 4 を付けて起動)
  • Angio 自身の CPU・メモリの使用量を、左上の版の番号の横に1行で出すようにしました
  • 「Last」を右上のボタンの下に移しました
  • 結果報告表:長い SSD の名前が枠からはみ出していたのを直しました
  • X に貼る文を、見出しごとに改行して読みやすくしました
v1.3.0(2026-10-19)
  • 結果報告表に「HF に貼る用をコピー」を付けました
  • AMD(Radeon)・Intel(Arc)の GPU の使用率と VRAM を読めるようにしました
  • Strata v0.1.45 で動くことを確かめました
  • 仮想モードを β(試験中)の扱いにしました
  • 図の画面の左上と、結果報告表の左下に、版の番号を出すようにしました
  • 設定の一番下に「このアプリについて」を付けました
  • 設定の「描き方」の欄をなくしました(描き方は今まで通り、起動の時に自動で決めます)
v1.2.0(2026-10-19)
  • 起動の時に、部品の一覧を確かめてから図が開く画面を付けました(初回だけ「初回セットアップ中」と出ます。設定で出さないようにもできます)
  • 右上の「最小化」で、Prefill と Decode の速さだけを出す横長の小さい窓にできるようにしました
  • 起動してしばらくすると、窓が一瞬開き直して見えることがあったのを直しました
  • 上の赤い帯の高さが状態によって変わり、図が上下に動いていたのを直しました
  • 一部を CPU で計算している時、Decode 中の PCIe の通り道にも流れを出すようにしました
  • 起動した直後の白い画面を、黒にしました
  • 上の赤い帯と SUMMARY の、段階を示す青い点をなくしました
v1.1.0(2026-10-18)
  • LAN でつないだもう1台の部品が詰まっている時も、詰まりとして表示するようにしました
  • 裏で動いている他のアプリの分を差し引いて測るようにしました
  • LAN の柱は、2台をつないだ時だけ出すようにしました
  • モデルが全部 VRAM に載っている時は、CPU・RAM・SSD/HDD を通り道から外して表示します
  • 詰まりの上位3つだけを表示する切り替えを付けました
  • 「最大の速さ」が今の速さより低く出ることがあったのを直しました
  • 待機中の案内の言葉と、設定の CPU の書き方を分かりやすくしました

お願い

人に紹介する時は、zip ではなく、このページのリンクを教えてください(いつも最新の版を取ってもらえます)。

作者

石ちゃん(X:@Isichan_Hitori)

スペシャルサンクス

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support