Upload README.md with huggingface_hub

README.md

@@ -0,0 +1,122 @@
+---
+license: gemma
+library_name: transformers
+tags:
+  - gguf
+  - gemma
+  - lilo
+  - cybersecurity
+  - indonesian
+  - llama-cpp
+language:
+  - id
+  - en
+---
+
+# Lilo Cyber
+
+Model bahasa Indonesia untuk **keamanan siber, pemrograman, dan analisis teknis**.
+Fine-tune dari `google/gemma-3-4b-it` (arsitektur gemma2) memakai dataset
+[`zelapi/lilo-cyber`](https://huggingface.co/datasets/zelapi/lilo-cyber), lalu di-merge ke
+bf16 dan dikuantisasi ke **GGUF Q4_K_M** — ringan untuk inferensi CPU.
+
+## Spesifikasi
+
+| Item | Nilai |
+|---|---|
+| Base | `google/gemma-3-4b-it` (gated, manual approval) |
+| Adaptor | LoRA r=32, alpha=64, dropout=0.05, target `q,k,v,o,gate,up,down` |
+| Trainable params | 65.6M (1.50%) |
+| Presisi training | 4-bit NF4 QLoRA (bf16 compute), GPU T4 |
+| Sequence length | 384, batch 1, grad-accum 8, lr 2e-4 (OneCycle, cosine) |
+| Data | 10.163 train / 207 val dari `zelapi/lilo-cyber` |
+| Merge | LoRA di-merge ke bf16 via `peft`, lalu `convert_hf_to_gguf.py --outtype f16` |
+| Kuantisasi | `llama-quantize … Q4_K_M` |
+| Ukuran file | ~2.4 GB |
+
+Adaptor LoRA mentah tersedia di repo [`zelapi/lilo-cyber-rasxlite-lora`](https://huggingface.co/zelapi/lilo-cyber-rasxlite-lora).
+
+## Struktur data latih
+
+`zelapi/lilo-cyber` berisi kolom `messages` (list of `{role, content}`) dan `source`:
+
+| source | jumlah |
+|---|---|
+| `evol-instruct-id` | 3.000 |
+| `intisari-chat` | 3.000 |
+| `alpaca-gpt4-id` | 3.000 |
+| `slang-lexicon` | 988 |
+| `formalization` | 198 |
+| `lilo-cyber-cybersecurity-id` | 72 |
+| `lilo-cyber-chat-id` | 59 |
+| `lilo-cyber-coding-id` | 53 |
+
+Total: 10.163 baris train, 207 baris val.
+
+## Pemakaian
+
+### llama.cpp
+
+```bash
+./llama-cli -m lilo-cyber-Q4_K_M.gguf \
+  -c 1024 -t 2 -n 256 \
+  --chat-template gemma \
+  -p "Buat checklist hardening untuk server Ubuntu"
+```
+
+### Ollama
+
+Buat `Modelfile`:
+
+```
+FROM ./lilo-cyber-Q4_K_M.gguf
+PARAMETER stop "<start_of_turn>"
+PARAMETER stop "<end_of_turn>"
+PARAMETER num_ctx 1024
+PARAMETER num_thread 2
+PARAMETER num_batch 128
+PARAMETER temperature 0.7
+PARAMETER top_p 0.9
+PARAMETER repeat_penalty 1.1
+TEMPLATE """<start_of_turn>user
+{{ .Prompt }}<end_of_turn>
+<start_of_turn>model
+{{ .Response }}<end_of_turn>"""
+```
+
+Lalu:
+
+```bash
+ollama create lilo-cyber -f Modelfile
+ollama run lilo-cyber
+```
+
+### Prompt template (gemma)
+
+```
+<start_of_turn>user
+{prompt}<end_of_turn>
+<start_of_turn>model
+```
+
+## Pipeline yang dipakai
+
+1. Dataset dari `zelapi/lilo-cyber` → pasangan user/assistant, dibersihkan whitespace, dibatasi panjang
+2. QLoRA training di Colab T4 (burst pendek + checkpoint ke Hub, karena runtime sering di-recycle)
+3. Merge adaptor LoRA ke base bf16
+4. `convert_hf_to_gguf.py --outtype f16`
+5. `llama-quantize … Q4_K_M`
+
+## Catatan & batasan
+
+- `num_ctx 1024` sengaja rendah supaya tidak OOM di RAM kecil. Naikkan hanya jika RAM cukup.
+- `temperature 0.7`, `top_p 0.9` menjaga jawaban ringkas; naikkan `repeat_penalty` kalau model mengulang.
+- Q4_K_M sedikit menurunkan kualitas dibanding f16 — pertahankan versi f16 bila butuh kualitas maksimum.
+- Diuji pada CPU 2 vCPU, sehingga throughput rendah. Untuk produksi gunakan GPU dan `num_ctx` lebih besar.
+- Model ini bisa saja membuat rekomendasi keamanan yang keliru. Verifikasi selalu sebelum dipakai di sistem nyata.
+
+## Lisensi & kredit
+
+- Base: [`google/gemma-3-4b-it`](https://huggingface.co/google/gemma-3-4b-it) — Gemma Terms of Use
+- Dataset: [`zelapi/lilo-cyber`](https://huggingface.co/datasets/zelapi/lilo-cyber)
+- Referensi style/identitas: [`rizkiagungid/rasxlite`](https://ollama.com/rizkiagungid/rasxlite)