Brunobkr commited on
Commit
7bf6c51
·
verified ·
1 Parent(s): 11fd21f

Upload 2 files

Browse files
Files changed (2) hide show
  1. README.md +223 -0
  2. capa.png +3 -0
README.md ADDED
@@ -0,0 +1,223 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ language:
4
+ - pt
5
+ - en
6
+ tags:
7
+ - llama.cpp
8
+ - fastapi
9
+ - llm-ui
10
+ - agentic
11
+ - local-inference
12
+ - self-hosted
13
+ - privacy
14
+ pretty_name: ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM
15
+ ---
16
+
17
+ <p align="center">
18
+ <img src="capa.png" alt="ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM" width="100%"/>
19
+ </p>
20
+
21
+ <h1 align="center">ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM</h1>
22
+
23
+ <p align="center">
24
+ <em>Text/Code Edition — proxy, login e UI unificada sobre o <code>llama-server</code>, 100% local, sem telemetria e com conversas voláteis (somente em RAM).</em>
25
+ </p>
26
+
27
+ <p align="center">
28
+ <img src="https://img.shields.io/badge/Python-3.10%2B-3776AB?logo=python&logoColor=white" alt="Python"/>
29
+ <img src="https://img.shields.io/badge/FastAPI-async-009688?logo=fastapi&logoColor=white" alt="FastAPI"/>
30
+ <img src="https://img.shields.io/badge/backend-llama.cpp-000000" alt="llama.cpp"/>
31
+ <img src="https://img.shields.io/badge/conversas-vol%C3%A1teis%20(RAM)-9aa7ff" alt="Conversas voláteis"/>
32
+ <img src="https://img.shields.io/badge/telemetria-zero-4ade80" alt="Zero telemetria"/>
33
+ <img src="https://img.shields.io/badge/TLS-autoassinado-6d83ff" alt="TLS"/>
34
+ </p>
35
+
36
+ ---
37
+
38
+ ## 📖 Visão geral
39
+
40
+ O **ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM** é uma camada única em Python (FastAPI) que serve uma interface web/mobile completa para conversar com modelos de linguagem servidos por um `llama-server` local. Tudo roda na sua máquina: nenhuma requisição externa, nenhum *ping* de telemetria e nenhum dado saindo do seu ambiente.
41
+
42
+ O foco é **texto e código**: chat com streaming, renderização de Markdown, LaTeX e *highlight* de código, métricas de inferência em tempo real, personas customizáveis e um subsistema **agêntico** com um agente autônomo real executando em segundo plano.
43
+
44
+ A partir desta versão, as **conversas são voláteis por design**: vivem exclusivamente na memória RAM durante a sessão do processo e desaparecem ao encerrar o Kernel. Nenhum input ou output de chat é gravado em disco — privacidade efêmera por padrão.
45
+
46
+ ---
47
+
48
+ ## ✨ Recursos principais
49
+
50
+ | Recurso | Descrição |
51
+ | --- | --- |
52
+ | **Chat / Código** | Streaming via `llama-server` externo (porta `:8080` por padrão). |
53
+ | **Conversas voláteis (RAM)** | Histórico mantido apenas em memória durante a sessão; zero escrita em disco; tudo é descartado ao encerrar o processo. |
54
+ | **Isolamento de contexto** | Cada conversa carrega exclusivamente seu próprio histórico e persona — contextos nunca se misturam entre conversas. |
55
+ | **Upload `.txt` / `.pdf`** | Extração de texto e injeção no contexto (suporte a janela de contexto alta). |
56
+ | **Renderização rica** | Markdown + KaTeX (LaTeX) + emojis + *syntax highlight* de código. |
57
+ | **Métricas em tempo real** | Contexto usado da janela, tokens/s ao vivo, total de tokens e tempo por resposta. |
58
+ | **Exportação manual** | Botão para exportar a conversa ativa em `.md` — a única forma de persistir um chat, sob decisão explícita do usuário. |
59
+ | **Personas** | Criação/edição com persistência local, injetadas como *system prompt* (sem limite de caracteres). |
60
+ | **Agêntica** | Um único agente real, em segundo plano, com memória própria persistente e relatórios por ação. |
61
+ | **Segurança** | Login com sessão assinada, rate-limit, TLS autoassinado, *headers* de segurança. |
62
+ | **Privacidade** | Zero telemetria, zero conexão externa, zero rastro de conversas em disco. |
63
+
64
+ ---
65
+
66
+ ## 🧠 Modelo de memória
67
+
68
+ | Componente | Persistência | Onde vive |
69
+ | --- | --- | --- |
70
+ | **Conversas (chats)** | ❌ Volátil | RAM do processo — descartada ao encerrar o Kernel. |
71
+ | **Personas** | ✅ Persistente | `offsellia_data/personas/` (JSON). |
72
+ | **Agente (config)** | ✅ Persistente | `offsellia_data/agent/agent.json`. |
73
+ | **Agente (memória)** | ✅ Persistente | `offsellia_data/agent/memory/memory.json`. |
74
+ | **Agente (relatórios)** | ✅ Persistente | `offsellia_data/agent/reports/`. |
75
+
76
+ > Cada requisição ao modelo envia o contexto completo e exclusivo da conversa ativa (`persona + histórico`). O `llama-server` não retém estado semântico entre chamadas — o isolamento entre conversas é absoluto.
77
+
78
+ ---
79
+
80
+ ## 🤖 Subsistema Agêntico
81
+
82
+ O Kernel inclui **um único agente real** (nunca mais de um) que opera de forma autônoma:
83
+
84
+ - **Execução em segundo plano** em ciclos com intervalo configurável.
85
+ - **Memória própria persistente** e em tempo real (`agent/memory/memory.json`).
86
+ - **Relatórios por ciclo** gravados em pasta dedicada (`agent/reports/`).
87
+ - **Ações reais configuráveis:**
88
+ - `shell` — execução de comandos de shell
89
+ - `python` — execução de código Python
90
+ - `http` — requisições HTTP de saída
91
+ - `file_write` — escrita de arquivos restrita ao *workspace*
92
+ - `llm` — raciocínio via `llama-server`
93
+ - **Permissão root opcional** via senha mantida apenas em memória (nunca gravada em disco).
94
+ - **Controle total:** criar, configurar, ativar/desativar, rodar agora, excluir e recriar.
95
+ - **Autonomia ajustável:** supervisionado ou autônomo, com limite de passos por ciclo.
96
+
97
+ O agente raciocina respondendo estritamente em JSON e executa apenas as ações habilitadas, registrando cada passo na memória e nos relatórios. **A persistência do agente é independente e não foi afetada pelo modo volátil das conversas.**
98
+
99
+ ---
100
+
101
+ ## 📦 Requisitos
102
+
103
+ ```bash
104
+ pip install "fastapi[standard]" uvicorn httpx itsdangerous "passlib[argon2]" \
105
+ cryptography pypdf
106
+ ```
107
+
108
+ Você também precisa de um **`llama-server`** (do [llama.cpp](https://github.com/ggml-org/llama.cpp)) rodando localmente — por padrão em `http://127.0.0.1:8080`.
109
+
110
+ ### Assets offline (opcional)
111
+
112
+ Para uso 100% offline, coloque em `offsellia_data/static/`:
113
+
114
+ ```
115
+ marked.min.js, katex.min.js, katex.min.css, auto-render.min.js,
116
+ highlight.min.js, github-dark.min.css (+ pasta de fonts do KaTeX)
117
+ ```
118
+
119
+ > Há *fallback* por CDN comentado no código, caso prefira carregar os assets remotamente.
120
+
121
+ ---
122
+
123
+ ## 🚀 Como usar
124
+
125
+ 1. Inicie seu `llama-server` (exemplo):
126
+
127
+ ```bash
128
+ llama-server -m seu-modelo.gguf -c 32768 --port 8080
129
+ ```
130
+
131
+ 2. Inicie o Kernel:
132
+
133
+ ```bash
134
+ python ΩFFΣLLIα_KΣrnΣl_₣ΔβLLΣ_Chat_RAM.py
135
+ ```
136
+
137
+ 3. No primeiro *boot*, defina a senha de acesso (ou exporte via `OFFSELLIA_PASS`).
138
+
139
+ 4. Acesse `https://<seu-ip-local>:5000` e faça login.
140
+
141
+ > Por usar TLS autoassinado, o navegador exibirá um aviso de certificado na primeira visita — aceite para prosseguir em rede local.
142
+
143
+ > ⚡ **Lembrete:** conversas existem somente enquanto o processo estiver ativo. Para guardar um chat, use **⤓ Exportar conversa (.md)** na sidebar antes de encerrar.
144
+
145
+ ---
146
+
147
+ ## ⚙️ Configuração
148
+
149
+ A configuração fica em `offsellia_data/kernel.json`, criada automaticamente no primeiro *boot*:
150
+
151
+ | Campo | Padrão | Descrição |
152
+ | --- | --- | --- |
153
+ | `port` | `5000` | Porta do Kernel. |
154
+ | `bind` | `0.0.0.0` | Interface de *bind*. |
155
+ | `use_tls` | `true` | Ativa TLS autoassinado. |
156
+ | `n_ctx` | `50000` | Janela de contexto reportada na UI (alinhe ao seu `llama-server`). |
157
+ | `upstreams.llm` | `http://127.0.0.1:8080` | Endereço do `llama-server`. |
158
+
159
+ Variável de ambiente opcional: `OFFSELLIA_PASS` para definir a senha sem prompt interativo.
160
+
161
+ ---
162
+
163
+ ## 🗂️ Estrutura de dados
164
+
165
+ ```
166
+ offsellia_data/
167
+ ├── kernel.json # configuração do Kernel
168
+ ├── tls_cert.pem # certificado TLS autoassinado
169
+ ├── tls_key.pem # chave TLS
170
+ ├── static/ # assets offline (opcional)
171
+ ├── personas/ # personas persistidas (JSON)
172
+ └── agent/
173
+ ├── agent.json # configuração do agente
174
+ ├── memory/memory.json # memória persistente do agente
175
+ ├── reports/ # relatórios por ciclo
176
+ └── workspace/ # área de trabalho do agente
177
+ ```
178
+
179
+ > Conversas **não** possuem diretório: residem unicamente na memória do processo enquanto o Kernel estiver ativo.
180
+
181
+ ---
182
+
183
+ ## 🔌 Endpoints principais
184
+
185
+ | Método | Rota | Função |
186
+ | --- | --- | --- |
187
+ | `GET` | `/` | Interface web/mobile. |
188
+ | `POST` | `/login` | Autenticação. |
189
+ | `POST` | `/api/extract` | Extração de texto de `.txt` / `.pdf`. |
190
+ | `GET/POST/DELETE` | `/api/chats[/{id}]` | CRUD de conversas (em RAM, válido na sessão). |
191
+ | `GET/POST/DELETE` | `/api/personas[/{id}]` | CRUD de personas. |
192
+ | `GET/POST/DELETE` | `/api/agent` | CRUD do agente único. |
193
+ | `POST` | `/api/agent/enable` | Ativa/desativa o agente. |
194
+ | `POST` | `/api/agent/run` | Dispara um ciclo imediato. |
195
+ | `POST` | `/api/agent/root` | Arma/desarma senha root (em memória). |
196
+ | `GET/DELETE` | `/api/agent/memory` | Lê/limpa a memória do agente. |
197
+ | `GET` | `/api/agent/reports[/{id}]` | Lista/abre relatórios. |
198
+ | `*` | `/v1/*`, `/tokenize`, … | Proxy transparente para o `llama-server`. |
199
+
200
+ ---
201
+
202
+ ## 🔒 Segurança e privacidade
203
+
204
+ - **Conversas voláteis:** nenhum input ou output de chat toca o disco — o histórico vive apenas em RAM e morre com o processo.
205
+ - Sessões assinadas com `itsdangerous` e cookies `HttpOnly` / `SameSite`.
206
+ - Senha de acesso protegida com **Argon2**.
207
+ - Rate-limit no login (8 tentativas / 5 min por IP).
208
+ - *Headers* de segurança: `X-Content-Type-Options`, `X-Frame-Options`, `Referrer-Policy`.
209
+ - TLS autoassinado gerado automaticamente (SAN inclui IPs LAN e gateway de hotspot).
210
+ - **Senha root do agente nunca é gravada em disco** — vive apenas em memória durante a sessão do processo.
211
+ - **Zero telemetria** e nenhuma chamada de rede além do seu `llama-server` local.
212
+
213
+ ---
214
+
215
+ ## ⚠️ Aviso
216
+
217
+ O subsistema agêntico pode executar **ações reais** no sistema (shell, Python, escrita de arquivos e, opcionalmente, comandos com privilégios root). Habilite cada ação de forma consciente, mantenha o agente em modo supervisionado quando possível e use o *workspace* dedicado. A responsabilidade pelo uso é inteiramente sua.
218
+
219
+ ---
220
+
221
+ ## 📜 Licença
222
+
223
+ MIT
capa.png ADDED

Git LFS Details

  • SHA256: 928247d8760a78a30ce1812610ee3bd2b22819c4093c5b444e05073d6af19c51
  • Pointer size: 132 Bytes
  • Size of remote file: 1.51 MB