Spaces:
Sleeping
Sleeping
Upload README.md
Browse files
README.md
ADDED
|
@@ -0,0 +1,49 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
title: AI Guardrail Chatbot
|
| 3 |
+
emoji: 🛡️
|
| 4 |
+
colorFrom: blue
|
| 5 |
+
colorTo: indigo
|
| 6 |
+
sdk: docker
|
| 7 |
+
app_port: 7860
|
| 8 |
+
---
|
| 9 |
+
|
| 10 |
+
# AI Guardrail System (RoBERTa + Llama 3)
|
| 11 |
+
|
| 12 |
+
Project ini adalah sistem Chatbot AI yang dilengkapi dengan **Lapisan Keamanan (Guardrail)** menggunakan model RoBERTa untuk mendeteksi jailbreak/serangan. Jika aman, pesan diteruskan ke Llama 3 (via Groq).
|
| 13 |
+
|
| 14 |
+
## Fitur Utama
|
| 15 |
+
1. **RoBERTa Guardrail**: Mendeteksi prompt berbahaya (Jailbreak, Toxic, Hate Speech) secara lokal.
|
| 16 |
+
2. **Hybrid Verification**:
|
| 17 |
+
- Jika keyakinan deteksi < 75% (Ambigu), sistem meminta Llama melakukan "Double Check".
|
| 18 |
+
- Jika keyakinan > 75% (Bahaya), sistem langsung memblokir.
|
| 19 |
+
3. **Llama 3 Chatbot**: Menggunakan model Llama-3 (via Groq API) sebagai otak percakapan.
|
| 20 |
+
|
| 21 |
+
## Persiapan Awal
|
| 22 |
+
Pastikan komputer Anda terhubung ke internet.
|
| 23 |
+
|
| 24 |
+
1. **Install Python** (Disarankan versi 3.10 ke atas).
|
| 25 |
+
2. **Install Dependensi**:
|
| 26 |
+
Buka terminal/CMD di folder ini, lalu jalankan:
|
| 27 |
+
```bash
|
| 28 |
+
pip install -r requirements.txt
|
| 29 |
+
```
|
| 30 |
+
*(Proses ini mungkin memakan waktu agak lama karena mendownload PyTorch)*.
|
| 31 |
+
|
| 32 |
+
## Cara Menjalankan Aplikasi
|
| 33 |
+
Jalankan perintah berikut di terminal:
|
| 34 |
+
|
| 35 |
+
```bash
|
| 36 |
+
python -m streamlit run app.py (sebelum ini cd dulu di terminal ke folder ini)
|
| 37 |
+
```
|
| 38 |
+
|
| 39 |
+
Tunggu hingga browser terbuka otomatis.
|
| 40 |
+
|
| 41 |
+
## Catatan Penting
|
| 42 |
+
- Saat pertama kali dijalankan, aplikasi akan **mendownload model RoBERTa** (~500MB). Proses ini hanya terjadi satu kali.
|
| 43 |
+
- API Key Groq sudah tertanam di dalam kode (`app.py`).
|
| 44 |
+
|
| 45 |
+
## Struktur File
|
| 46 |
+
- `app.py`: Kode utama aplikasi (Frontend & Logic).
|
| 47 |
+
- `requirements.txt`: Daftar library yang dibutuhkan.
|
| 48 |
+
- `README.md`: Panduan ini.
|
| 49 |
+
|