--- title: RSI emoji: 🌍 colorFrom: pink colorTo: green sdk: gradio sdk_version: 6.29.1 python_version: '3.12' app_file: app.py pinned: true license: agpl-3.0 short_description: AI 在夢裡練功的遞迴自我改進(RSI)× Jev 判別引擎 --- # Jev-style 判別式決策 POC 讀者可親手體驗的互動展示:輸入一段狀態文字+問題,開源的 Jev-like 模型(jevos,`feder-cr/jev`)直接輸出**機率分佈**——不生成任何文字(`output_tokens=0`)。這正是文章第六節「Jev:System 1 判別引擎」在講的東西。(延遲依硬體而定:repo 公開基準在筆電 CPU 上短請求 26ms;App 會顯示實測延遲) ## 方案一:本地運行(最快,約 3 分鐘) 需求:64 位元 Linux/macOS/Windows,CPU 即可,不需 GPU。 ```bash # 1. 下載(以 Linux 為例;macOS 用 jev-macos-arm64.tar.gz,Windows 用 jev-windows-x64.zip) curl -sL -o jev-linux-x64.tar.gz https://github.com/feder-cr/jev/releases/download/jevos-v3/jev-linux-x64.tar.gz curl -sL -o jevos-v3-openvino-int8.zip https://github.com/feder-cr/jev/releases/download/jevos-v3/jevos-v3-openvino-int8.zip # 2. 解壓並啟動(模型約 630MB,解開放 jev/model/) tar -xzf jev-linux-x64.tar.gz && cd jev unzip ../jevos-v3-openvino-int8.zip # 產生 model/ ./jev serve # Windows: jev.exe serve # 3. 另開終端機,丟一個是非題 curl http://127.0.0.1:8017/v1/systemone -H 'Content-Type: application/json' -d '{ "model": "jev-latest", "state": "I was charged twice for the same order.", "questions": {"billing": {"type": "noul", "instructions": "Is this a billing problem?"}}}' # 回傳 {"answers": {"billing": {"type": "noul", "noul": 0.94}}, "usage": {"input_tokens": 27, "output_tokens": 0}} ``` ## 方案二:免費部署到 Hugging Face Spaces(讀者免安裝,開網頁就能玩) 需求:一個免費的 huggingface.co 帳號。不需信用卡。 1. 到 新增 Space:名稱自取(例 `jev-poc`)、SDK 選 **Gradio**、可見度選 Public、硬體選 **CPU Basic(免費)**。 2. 把本目錄的 `app.py` 和 `requirements.txt` 上傳到該 Space(網頁拖曳或 `git push` 皆可)。 3. 等待建置完成。**首次啟動** `app.py` 會自動下載 jevos(約 660MB)並快取在 Space 的 `/data` 持久目錄,約需 2–5 分鐘;之後每次啟動秒開。 4. 把 Space 網址貼到文章的「讀者體驗區」即可。 費用:全程免費(CPU Basic 免費額度內;模型快取在 /data 不重複下載)。 ## 方案三:直接玩別人架好的 * **NanoJev 遊戲實機**(作者已部署):[ViZDoom](https://nanojev-dev.tianyuchen99.chatgpt.site/?autoplay=1)|[Maze & Snake](https://nanojev-dev.tianyuchen99.chatgpt.site/side-by-side?autoplay=1#maze)——看 0.6B 判別模型即時打遊戲,每一幀都是毫秒級決策 * **RSI-Jev**:[互動 demos](https://shanghua-gao.github.io/RSI-Jev/)|[Colab 一鍵重跑](https://colab.research.google.com/github/Shanghua-Gao/RSI-Jev/blob/main/notebooks/rsi_jev_v4_vl_quickstart.ipynb)(免費 GPU) * **CLM-8B**:repo 內附 [Fine-Tuning Tutorial](https://github.com/Contrastive-LM/CLM#fine-tuning-clm-on-your-own-data),可在自己的資料上微調 ## 技術說明 * 後端 `jevos` 支援 `noul`(是非)、`choice`(多選)、`score`(評分)三種題型,走 TypeSafe Jev 的 wire format(`POST /v1/systemone`)。 * 多選題在內部會展開成「每選項一個是非題」再正規化;有共同前綴只讀一次,所以 10 個選項也只要約 170ms。 * 準確率參考(repo 公開基準):2,676 題多選 78.8% 答對;confidence ≥ 0.75 時 95% 正確。