---
language:
  - pt
license: mit
library_name: transformers
pipeline_tag: text-generation
base_model: microsoft/Phi-3.5-mini-instruct
tags:
  - text-generation
  - sft
  - phi3
  - portuguese
  - health
  - offline-llm
  - lora
---

# Phi-3.5-mini — Adapter LoRA · Saúde Coletiva Amazônia (sLLM offline)

> **Potencialidades dos Pequenos Modelos de Linguagem (sLLMs) como Assistentes Offline na Saúde Coletiva: Curadoria Informacional contra Assimetrias na Amazônia Isolada.** (ENANCIB 2026 / GT 8 — Ciência da Informação)

## 📋 Resumo
_sLLM_ (small LLM) em **português** para apoiar profissionais de saúde em comunidades isoladas da Amazônia, operando **100% offline** com **grounding (RAG)** em um corpus oficial do SUS. A tese: a **curadoria da informação** — mais que o porte do modelo — determina a confiabilidade. Treinado em **1.000 diálogos clínicos sintéticos** curados (pilares P3 Saúde Indígena e P5 Atenção Primária).

## 🧩 Este artefato — adapter LoRA
Adapter **QLoRA 4-bit (nf4, double-quant)** (r=16, alvos: qkv_proj, o_proj) fundível no base [`microsoft/Phi-3.5-mini-instruct`](https://huggingface.co/microsoft/Phi-3.5-mini-instruct). Contém apenas os deltas LoRA — para inferência, carregue o base e acople o adapter:

```python
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained("microsoft/Phi-3.5-mini-instruct", trust_remote_code=True, torch_dtype='float16', device_map='auto')
tok  = AutoTokenizer.from_pretrained("microsoft/Phi-3.5-mini-instruct", trust_remote_code=True)
model = PeftModel.from_pretrained(base, "admin-lima/phi35-saude-amazonia-lora")
# Opcional: fundir para velocidade -> model = model.merge_and_unload()
```

Treinado no dataset [`admin-lima/sllm-amazonia-saude-sft`](https://huggingface.co/datasets/admin-lima/sllm-amazonia-saude-sft) (1.000 diálogos).

**Próximas etapas:** `admin-lima/phi35-saude-amazonia-merged` (fusão fp16) → `admin-lima/phi35-saude-amazonia-gguf` (Q4_K_M).

## 📊 Resultados (conjunto hold-out, n=33)
| Modelo | Porte | TRR | FRR | F1 | Halluc. |
|---|---|---|---|---|---|
| **Phi-3.5-mini (QLoRA)** | 3.8B | 0.929 | 0.266 | 0.813 | 0.03 |
| Qwen2.5-0.5B (LoRA) | 500M | 0.857 | 0.053 | 0.889 | 0.03 |

**TRR** — relevância da resposta · **FRR** — taxa de recusa · **F1** — F1 de recusa (recusar o que está fora do escopo) · **Halluc.** — taxa de alucinação.

## 🔗 Artefatos relacionados
| Artefato | Repositório |
|---|---|
| Dataset (SFT) | [`admin-lima/sllm-amazonia-saude-sft`](https://huggingface.co/admin-lima/sllm-amazonia-saude-sft) |
| ✅ Phi-3.5-mini — adapter | [`admin-lima/phi35-saude-amazonia-lora`](https://huggingface.co/admin-lima/phi35-saude-amazonia-lora) |
| Phi-3.5-mini — fundido fp16 | [`admin-lima/phi35-saude-amazonia-merged`](https://huggingface.co/admin-lima/phi35-saude-amazonia-merged) |
| Phi-3.5-mini — GGUF Q4_K_M | [`admin-lima/phi35-saude-amazonia-gguf`](https://huggingface.co/admin-lima/phi35-saude-amazonia-gguf) |
| Qwen2.5-0.5B — adapter | [`admin-lima/qwen05b-saude-amazonia-lora`](https://huggingface.co/admin-lima/qwen05b-saude-amazonia-lora) |
| Qwen2.5-0.5B — fundido fp16 | [`admin-lima/qwen05b-saude-amazonia-merged`](https://huggingface.co/admin-lima/qwen05b-saude-amazonia-merged) |
| Qwen2.5-0.5B — GGUF Q4_K_M | [`admin-lima/qwen05b-saude-amazonia-gguf`](https://huggingface.co/admin-lima/qwen05b-saude-amazonia-gguf) |

## 🛡️ Limitações e uso responsável
- **Não é dispositivo médico** nem substitui avaliação profissional. Use como apoio à decisão.
- Deve operar **acoplado ao corpus RAG** (pilares oficiais do SUS) para *grounding*.
- Treinado em **dados sintéticos** em PT-BR com foco regional (Amazônia); pode ter lacunas.
- Alucinação ≈ **3 %** (não nula) — sempre verifique informações críticas.
- Mantenha o modelo **offline** em ambientes sem conectividade; respeite a privacidade dos dados locais.

## 📜 Licença
Derivado de [`microsoft/Phi-3.5-mini-instruct`](https://huggingface.co/microsoft/Phi-3.5-mini-instruct). Distribuído sob a licença do modelo base (`mit`). Dataset sintético próprio.

## 📚 Citação (preliminar)
```bibtex
@misc{sllm_amazonia_saude_2026,
  title  = {sLLMs Offline de Saúde Coletiva na Amazônia},
  author = {admin-lima},
  year   = {2026},
  note   = {ENANCIB 2026 / GT 8 — pré-print}
}
```