---
license: apache-2.0
library_name: gguf
tags:
- gguf
- moe
- hypothesis-generation
- research
---

# SICS-1-35B (GGUF)

Локальная модель для генерации и валидации проверяемых исследовательских гипотез (проект «Фабрика гипотез», хакатон «Норникель»). База — Qwen3.6-35B-A3B (MoE, ~3B активных на токен), дообучена через PPO под идеацию и автономный ресёрч. Формат GGUF Q4_K_M (~21 ГБ) для локального инференса через llama.cpp.

## Запуск

```
llama-server -m SICS-1-35B.Q4_K_M.gguf --host 0.0.0.0 --port 8080 \
  --jinja --reasoning-format auto -c 32768 -ngl 99
```