Upload 2 files
Browse files
README.md
ADDED
|
@@ -0,0 +1,223 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: mit
|
| 3 |
+
language:
|
| 4 |
+
- pt
|
| 5 |
+
- en
|
| 6 |
+
tags:
|
| 7 |
+
- llama.cpp
|
| 8 |
+
- fastapi
|
| 9 |
+
- llm-ui
|
| 10 |
+
- agentic
|
| 11 |
+
- local-inference
|
| 12 |
+
- self-hosted
|
| 13 |
+
- privacy
|
| 14 |
+
pretty_name: ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM
|
| 15 |
+
---
|
| 16 |
+
|
| 17 |
+
<p align="center">
|
| 18 |
+
<img src="capa.png" alt="ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM" width="100%"/>
|
| 19 |
+
</p>
|
| 20 |
+
|
| 21 |
+
<h1 align="center">ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM</h1>
|
| 22 |
+
|
| 23 |
+
<p align="center">
|
| 24 |
+
<em>Text/Code Edition — proxy, login e UI unificada sobre o <code>llama-server</code>, 100% local, sem telemetria e com conversas voláteis (somente em RAM).</em>
|
| 25 |
+
</p>
|
| 26 |
+
|
| 27 |
+
<p align="center">
|
| 28 |
+
<img src="https://img.shields.io/badge/Python-3.10%2B-3776AB?logo=python&logoColor=white" alt="Python"/>
|
| 29 |
+
<img src="https://img.shields.io/badge/FastAPI-async-009688?logo=fastapi&logoColor=white" alt="FastAPI"/>
|
| 30 |
+
<img src="https://img.shields.io/badge/backend-llama.cpp-000000" alt="llama.cpp"/>
|
| 31 |
+
<img src="https://img.shields.io/badge/conversas-vol%C3%A1teis%20(RAM)-9aa7ff" alt="Conversas voláteis"/>
|
| 32 |
+
<img src="https://img.shields.io/badge/telemetria-zero-4ade80" alt="Zero telemetria"/>
|
| 33 |
+
<img src="https://img.shields.io/badge/TLS-autoassinado-6d83ff" alt="TLS"/>
|
| 34 |
+
</p>
|
| 35 |
+
|
| 36 |
+
---
|
| 37 |
+
|
| 38 |
+
## 📖 Visão geral
|
| 39 |
+
|
| 40 |
+
O **ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM** é uma camada única em Python (FastAPI) que serve uma interface web/mobile completa para conversar com modelos de linguagem servidos por um `llama-server` local. Tudo roda na sua máquina: nenhuma requisição externa, nenhum *ping* de telemetria e nenhum dado saindo do seu ambiente.
|
| 41 |
+
|
| 42 |
+
O foco é **texto e código**: chat com streaming, renderização de Markdown, LaTeX e *highlight* de código, métricas de inferência em tempo real, personas customizáveis e um subsistema **agêntico** com um agente autônomo real executando em segundo plano.
|
| 43 |
+
|
| 44 |
+
A partir desta versão, as **conversas são voláteis por design**: vivem exclusivamente na memória RAM durante a sessão do processo e desaparecem ao encerrar o Kernel. Nenhum input ou output de chat é gravado em disco — privacidade efêmera por padrão.
|
| 45 |
+
|
| 46 |
+
---
|
| 47 |
+
|
| 48 |
+
## ✨ Recursos principais
|
| 49 |
+
|
| 50 |
+
| Recurso | Descrição |
|
| 51 |
+
| --- | --- |
|
| 52 |
+
| **Chat / Código** | Streaming via `llama-server` externo (porta `:8080` por padrão). |
|
| 53 |
+
| **Conversas voláteis (RAM)** | Histórico mantido apenas em memória durante a sessão; zero escrita em disco; tudo é descartado ao encerrar o processo. |
|
| 54 |
+
| **Isolamento de contexto** | Cada conversa carrega exclusivamente seu próprio histórico e persona — contextos nunca se misturam entre conversas. |
|
| 55 |
+
| **Upload `.txt` / `.pdf`** | Extração de texto e injeção no contexto (suporte a janela de contexto alta). |
|
| 56 |
+
| **Renderização rica** | Markdown + KaTeX (LaTeX) + emojis + *syntax highlight* de código. |
|
| 57 |
+
| **Métricas em tempo real** | Contexto usado da janela, tokens/s ao vivo, total de tokens e tempo por resposta. |
|
| 58 |
+
| **Exportação manual** | Botão para exportar a conversa ativa em `.md` — a única forma de persistir um chat, sob decisão explícita do usuário. |
|
| 59 |
+
| **Personas** | Criação/edição com persistência local, injetadas como *system prompt* (sem limite de caracteres). |
|
| 60 |
+
| **Agêntica** | Um único agente real, em segundo plano, com memória própria persistente e relatórios por ação. |
|
| 61 |
+
| **Segurança** | Login com sessão assinada, rate-limit, TLS autoassinado, *headers* de segurança. |
|
| 62 |
+
| **Privacidade** | Zero telemetria, zero conexão externa, zero rastro de conversas em disco. |
|
| 63 |
+
|
| 64 |
+
---
|
| 65 |
+
|
| 66 |
+
## 🧠 Modelo de memória
|
| 67 |
+
|
| 68 |
+
| Componente | Persistência | Onde vive |
|
| 69 |
+
| --- | --- | --- |
|
| 70 |
+
| **Conversas (chats)** | ❌ Volátil | RAM do processo — descartada ao encerrar o Kernel. |
|
| 71 |
+
| **Personas** | ✅ Persistente | `offsellia_data/personas/` (JSON). |
|
| 72 |
+
| **Agente (config)** | ✅ Persistente | `offsellia_data/agent/agent.json`. |
|
| 73 |
+
| **Agente (memória)** | ✅ Persistente | `offsellia_data/agent/memory/memory.json`. |
|
| 74 |
+
| **Agente (relatórios)** | ✅ Persistente | `offsellia_data/agent/reports/`. |
|
| 75 |
+
|
| 76 |
+
> Cada requisição ao modelo envia o contexto completo e exclusivo da conversa ativa (`persona + histórico`). O `llama-server` não retém estado semântico entre chamadas — o isolamento entre conversas é absoluto.
|
| 77 |
+
|
| 78 |
+
---
|
| 79 |
+
|
| 80 |
+
## 🤖 Subsistema Agêntico
|
| 81 |
+
|
| 82 |
+
O Kernel inclui **um único agente real** (nunca mais de um) que opera de forma autônoma:
|
| 83 |
+
|
| 84 |
+
- **Execução em segundo plano** em ciclos com intervalo configurável.
|
| 85 |
+
- **Memória própria persistente** e em tempo real (`agent/memory/memory.json`).
|
| 86 |
+
- **Relatórios por ciclo** gravados em pasta dedicada (`agent/reports/`).
|
| 87 |
+
- **Ações reais configuráveis:**
|
| 88 |
+
- `shell` — execução de comandos de shell
|
| 89 |
+
- `python` — execução de código Python
|
| 90 |
+
- `http` — requisições HTTP de saída
|
| 91 |
+
- `file_write` — escrita de arquivos restrita ao *workspace*
|
| 92 |
+
- `llm` — raciocínio via `llama-server`
|
| 93 |
+
- **Permissão root opcional** via senha mantida apenas em memória (nunca gravada em disco).
|
| 94 |
+
- **Controle total:** criar, configurar, ativar/desativar, rodar agora, excluir e recriar.
|
| 95 |
+
- **Autonomia ajustável:** supervisionado ou autônomo, com limite de passos por ciclo.
|
| 96 |
+
|
| 97 |
+
O agente raciocina respondendo estritamente em JSON e executa apenas as ações habilitadas, registrando cada passo na memória e nos relatórios. **A persistência do agente é independente e não foi afetada pelo modo volátil das conversas.**
|
| 98 |
+
|
| 99 |
+
---
|
| 100 |
+
|
| 101 |
+
## 📦 Requisitos
|
| 102 |
+
|
| 103 |
+
```bash
|
| 104 |
+
pip install "fastapi[standard]" uvicorn httpx itsdangerous "passlib[argon2]" \
|
| 105 |
+
cryptography pypdf
|
| 106 |
+
```
|
| 107 |
+
|
| 108 |
+
Você também precisa de um **`llama-server`** (do [llama.cpp](https://github.com/ggml-org/llama.cpp)) rodando localmente — por padrão em `http://127.0.0.1:8080`.
|
| 109 |
+
|
| 110 |
+
### Assets offline (opcional)
|
| 111 |
+
|
| 112 |
+
Para uso 100% offline, coloque em `offsellia_data/static/`:
|
| 113 |
+
|
| 114 |
+
```
|
| 115 |
+
marked.min.js, katex.min.js, katex.min.css, auto-render.min.js,
|
| 116 |
+
highlight.min.js, github-dark.min.css (+ pasta de fonts do KaTeX)
|
| 117 |
+
```
|
| 118 |
+
|
| 119 |
+
> Há *fallback* por CDN comentado no código, caso prefira carregar os assets remotamente.
|
| 120 |
+
|
| 121 |
+
---
|
| 122 |
+
|
| 123 |
+
## 🚀 Como usar
|
| 124 |
+
|
| 125 |
+
1. Inicie seu `llama-server` (exemplo):
|
| 126 |
+
|
| 127 |
+
```bash
|
| 128 |
+
llama-server -m seu-modelo.gguf -c 32768 --port 8080
|
| 129 |
+
```
|
| 130 |
+
|
| 131 |
+
2. Inicie o Kernel:
|
| 132 |
+
|
| 133 |
+
```bash
|
| 134 |
+
python ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM.py
|
| 135 |
+
```
|
| 136 |
+
|
| 137 |
+
3. No primeiro *boot*, defina a senha de acesso (ou exporte via `OFFSELLIA_PASS`).
|
| 138 |
+
|
| 139 |
+
4. Acesse `https://<seu-ip-local>:5000` e faça login.
|
| 140 |
+
|
| 141 |
+
> Por usar TLS autoassinado, o navegador exibirá um aviso de certificado na primeira visita — aceite para prosseguir em rede local.
|
| 142 |
+
|
| 143 |
+
> ⚡ **Lembrete:** conversas existem somente enquanto o processo estiver ativo. Para guardar um chat, use **⤓ Exportar conversa (.md)** na sidebar antes de encerrar.
|
| 144 |
+
|
| 145 |
+
---
|
| 146 |
+
|
| 147 |
+
## ⚙️ Configuração
|
| 148 |
+
|
| 149 |
+
A configuração fica em `offsellia_data/kernel.json`, criada automaticamente no primeiro *boot*:
|
| 150 |
+
|
| 151 |
+
| Campo | Padrão | Descrição |
|
| 152 |
+
| --- | --- | --- |
|
| 153 |
+
| `port` | `5000` | Porta do Kernel. |
|
| 154 |
+
| `bind` | `0.0.0.0` | Interface de *bind*. |
|
| 155 |
+
| `use_tls` | `true` | Ativa TLS autoassinado. |
|
| 156 |
+
| `n_ctx` | `50000` | Janela de contexto reportada na UI (alinhe ao seu `llama-server`). |
|
| 157 |
+
| `upstreams.llm` | `http://127.0.0.1:8080` | Endereço do `llama-server`. |
|
| 158 |
+
|
| 159 |
+
Variável de ambiente opcional: `OFFSELLIA_PASS` para definir a senha sem prompt interativo.
|
| 160 |
+
|
| 161 |
+
---
|
| 162 |
+
|
| 163 |
+
## 🗂️ Estrutura de dados
|
| 164 |
+
|
| 165 |
+
```
|
| 166 |
+
offsellia_data/
|
| 167 |
+
├── kernel.json # configuração do Kernel
|
| 168 |
+
├── tls_cert.pem # certificado TLS autoassinado
|
| 169 |
+
├── tls_key.pem # chave TLS
|
| 170 |
+
├── static/ # assets offline (opcional)
|
| 171 |
+
├── personas/ # personas persistidas (JSON)
|
| 172 |
+
└── agent/
|
| 173 |
+
├── agent.json # configuração do agente
|
| 174 |
+
├── memory/memory.json # memória persistente do agente
|
| 175 |
+
├── reports/ # relatórios por ciclo
|
| 176 |
+
└── workspace/ # área de trabalho do agente
|
| 177 |
+
```
|
| 178 |
+
|
| 179 |
+
> Conversas **não** possuem diretório: residem unicamente na memória do processo enquanto o Kernel estiver ativo.
|
| 180 |
+
|
| 181 |
+
---
|
| 182 |
+
|
| 183 |
+
## 🔌 Endpoints principais
|
| 184 |
+
|
| 185 |
+
| Método | Rota | Função |
|
| 186 |
+
| --- | --- | --- |
|
| 187 |
+
| `GET` | `/` | Interface web/mobile. |
|
| 188 |
+
| `POST` | `/login` | Autenticação. |
|
| 189 |
+
| `POST` | `/api/extract` | Extração de texto de `.txt` / `.pdf`. |
|
| 190 |
+
| `GET/POST/DELETE` | `/api/chats[/{id}]` | CRUD de conversas (em RAM, válido na sessão). |
|
| 191 |
+
| `GET/POST/DELETE` | `/api/personas[/{id}]` | CRUD de personas. |
|
| 192 |
+
| `GET/POST/DELETE` | `/api/agent` | CRUD do agente único. |
|
| 193 |
+
| `POST` | `/api/agent/enable` | Ativa/desativa o agente. |
|
| 194 |
+
| `POST` | `/api/agent/run` | Dispara um ciclo imediato. |
|
| 195 |
+
| `POST` | `/api/agent/root` | Arma/desarma senha root (em memória). |
|
| 196 |
+
| `GET/DELETE` | `/api/agent/memory` | Lê/limpa a memória do agente. |
|
| 197 |
+
| `GET` | `/api/agent/reports[/{id}]` | Lista/abre relatórios. |
|
| 198 |
+
| `*` | `/v1/*`, `/tokenize`, … | Proxy transparente para o `llama-server`. |
|
| 199 |
+
|
| 200 |
+
---
|
| 201 |
+
|
| 202 |
+
## 🔒 Segurança e privacidade
|
| 203 |
+
|
| 204 |
+
- **Conversas voláteis:** nenhum input ou output de chat toca o disco — o histórico vive apenas em RAM e morre com o processo.
|
| 205 |
+
- Sessões assinadas com `itsdangerous` e cookies `HttpOnly` / `SameSite`.
|
| 206 |
+
- Senha de acesso protegida com **Argon2**.
|
| 207 |
+
- Rate-limit no login (8 tentativas / 5 min por IP).
|
| 208 |
+
- *Headers* de segurança: `X-Content-Type-Options`, `X-Frame-Options`, `Referrer-Policy`.
|
| 209 |
+
- TLS autoassinado gerado automaticamente (SAN inclui IPs LAN e gateway de hotspot).
|
| 210 |
+
- **Senha root do agente nunca é gravada em disco** — vive apenas em memória durante a sessão do processo.
|
| 211 |
+
- **Zero telemetria** e nenhuma chamada de rede além do seu `llama-server` local.
|
| 212 |
+
|
| 213 |
+
---
|
| 214 |
+
|
| 215 |
+
## ⚠️ Aviso
|
| 216 |
+
|
| 217 |
+
O subsistema agêntico pode executar **ações reais** no sistema (shell, Python, escrita de arquivos e, opcionalmente, comandos com privilégios root). Habilite cada ação de forma consciente, mantenha o agente em modo supervisionado quando possível e use o *workspace* dedicado. A responsabilidade pelo uso é inteiramente sua.
|
| 218 |
+
|
| 219 |
+
---
|
| 220 |
+
|
| 221 |
+
## 📜 Licença
|
| 222 |
+
|
| 223 |
+
MIT
|
capa.png
ADDED
|
Git LFS Details
|