---

Ikhtisar

Fusion A1 Lite adalah model bahasa berskala besar dari keluarga Fusion A1, dikembangkan oleh tim riset Skytech. Model ini mengusung arsitektur Mixture-of-Experts (MoE) dengan 256 expert ter-route, mekanisme latent attention, serta skema kuantisasi campuran FP8 + FP4 yang menekan jejak memori tanpa mengorbankan kapabilitas.

Dengan jendela konteks hingga satu juta token, mode reasoning eksplisit, dan dukungan tool calling bawaan, Fusion A1 Lite dirancang untuk beban kerja agenik modern — mulai dari asisten percakapan hingga pipeline riset otonom.

Status: Rilis riset (v1.0). Ditujukan untuk eksplorasi, evaluasi, dan pengembangan lanjutan.

---

Sorotan Utama

---

Arsitektur

---

Format Prompt

Fusion A1 Lite menggunakan Fusion Encoding — format percakapan bawaan yang mendukung multi-turn, mode reasoning, dan tool calling. Implementasi referensi tersedia mandiri di folder encoding/.

Mode generasi:

Contoh hasil encoding:

<｜begin▁of▁sentence｜>{system_prompt}<｜User｜>{pesan}<｜Assistant｜><think>

Tool calling: definisikan skema fungsi (format OpenAI-compatible) pada system message; model memanggil lewat blok markup terstruktur dan hasil eksekusi dikembalikan dalam tag <tool_result> di pesan user berikutnya.

---

Menjalankan Model

Seluruh toolchain tersedia di folder inference/.

1 — Konversi bobot ke format inference (model-parallel):

export EXPERTS=256
export MP=4
python convert.py \
  --hf-ckpt-path ${HF_CKPT_PATH} \
  --save-path ${SAVE_PATH} \
  --n-experts ${EXPERTS} \
  --model-parallel ${MP}

2 — Sesi chat interaktif:

torchrun --nproc-per-node ${MP} generate.py \
  --ckpt-path ${SAVE_PATH} \
  --config ${CONFIG} \
  --interactive

3 — Batch inference dari berkas:

torchrun --nproc-per-node ${MP} generate.py \
  --ckpt-path ${SAVE_PATH} \
  --config ${CONFIG} \
  --input-file ${FILE}

Opsional — untuk presisi FP8 penuh: hapus "expert_dtype": "fp4" pada config.json, lalu tambahkan --expert-dtype fp8 saat konversi.

---

Kebutuhan Sistem

---

Struktur Berkas

fusion-a1-lite/
├── config.json                  # Konfigurasi arsitektur Fusion A1 Lite
├── generation_config.json       # Parameter generasi default
├── model-000xx-of-00048.safetensors   # Bobot (48 shard, ±167 GB)
├── encoding/                    # Fusion Encoding + implementasi referensi + tes
└── inference/                   # Toolchain inference model-parallel
    ├── convert.py · generate.py · model.py · kernel.py

---

Roadmap

• Rilis bobot v1.0 (FP8 + FP4, 48 shard)
• Toolchain inference model-parallel
• Dokumentasi Fusion Encoding
• Publikasi hasil evaluasi & benchmark
• Tokenizer & chat template standalone
• Dukungan vLLM / SGLang
• Varian kuantisasi tambahan (GGUF, NVFP4)

---

Catatan Rilis

Fusion A1 Lite adalah rilis riset. Bobot, kode, dan dokumentasi disediakan apa adanya tanpa jaminan tersirat maupun tersurat. Lakukan evaluasi dan pengujian internal menyeluruh sebelum penggunaan pada lingkungan produksi.

---

Lisensi

Didistribusikan di bawah ketentuan yang tercantum pada berkas LICENSE.

---