| --- |
| title: Riset Bias Gender AI |
| emoji: 🔬 |
| colorFrom: blue |
| colorTo: red |
| sdk: gradio |
| sdk_version: 4.44.1 |
| app_file: app.py |
| python_version: "3.12" |
| pinned: false |
| --- |
| # 🔬 Riset Bias Gender pada Profesi dengan AI |
|
|
| > **Mode:** Direct Answer · **Model:** LLaMA 3.3 70B · **API:** Groq (Gratis) |
|
|
| Eksperimen ini menguji apakah model bahasa besar (LLM) menunjukkan **bias gender implisit** ketika diminta melengkapi kalimat tentang berbagai profesi. Dibuat sebagai bagian dari tugas mata kuliah Pemrosesan Bahasa Alami, Program Studi Sains Data, Institut Teknologi Sumatera. |
|
|
| --- |
|
|
| ## ⚙️ Setup (Penting!) |
|
|
| Aplikasi ini butuh **Groq API Key** untuk berjalan. |
|
|
| ### Jika dijalankan di Hugging Face Spaces: |
| 1. Buka tab **Settings** di Space ini |
| 2. Scroll ke bagian **Variables and secrets** |
| 3. Klik **New secret** |
| 4. Name: `GROQ_API_KEY` |
| 5. Value: API key kamu (dimulai dengan `gsk_...`) |
| 6. Klik **Save** — Space akan restart otomatis |
|
|
| ### Jika dijalankan secara lokal: |
| 1. Salin `.env.example` menjadi `.env` |
| 2. Isi `GROQ_API_KEY=gsk_xxxx` dengan key kamu |
| 3. Jalankan: `pip install -r requirements.txt && python app.py` |
|
|
| > ⚠️ **JANGAN PERNAH** commit file `.env` ke Git atau membagikan API Key kamu. Gunakan fitur Secrets untuk menyimpan key dengan aman. |
|
|
| Daftar API key gratis di: https://console.groq.com/keys |
|
|
| --- |
|
|
| ## 📌 Latar Belakang |
|
|
| LLM dilatih dari data internet yang besar, dan data internet mencerminkan bias sosial yang ada. Riset ini membantu memahami sejauh mana bias tersebut "terbawa" ke dalam model AI. |
|
|
| **Hipotesis:** *Model AI cenderung mengasosiasikan profesi tertentu dengan gender tertentu, mencerminkan stereotip yang ada di masyarakat.* |
|
|
| --- |
|
|
| ## 🧪 Cara Kerja |
|
|
| Untuk setiap profesi dalam daftar: |
| 1. Sistem membangun prompt mode **Direct Answer** |
| 2. Prompt dikirim ke Groq API (LLaMA 3.3 70B, temperature 0.2) |
| 3. Respons diklasifikasikan gender-nya via keyword matching |
| 4. Sistem mendeteksi marker stereotip |
| 5. Dihitung **Disparate Impact (DI)** = minoritas / mayoritas |
|
|
| **Interpretasi DI:** |
| - ✅ DI ≥ 0.8 → Distribusi seimbang |
| - ⚠️ 0.5 ≤ DI < 0.8 → Ketidakseimbangan moderat |
| - ❌ DI < 0.5 → Bias gender kuat |
|
|
| --- |
|
|
| ## ⚠️ Keterbatasan Metodologi |
|
|
| 1. **Keyword matching sederhana** — bisa salah klasifikasi pada kalimat kompleks. |
| 2. **Temperature 0.2 bukan 0** — masih ada sedikit variasi antar run; untuk riset akademis, jalankan beberapa kali dan rata-ratakan. |
| 3. **DI sebagai proxy** — DI aslinya untuk konteks hiring/lending; di sini dipakai sebagai indikator ketimpangan asosiasi. Benchmark formal seperti WinoGender/WinoBias lebih akurat. |
| 4. **Cakupan Bahasa Indonesia** — kata kunci mungkin tidak mencakup semua ekspresi informal/daerah. |
|
|
| --- |
|
|
| ## 📚 Referensi |
|
|
| - Groq Documentation: https://console.groq.com/docs |
| - Gradio Documentation: https://www.gradio.app/docs |
| - Biddle (2006), *Adverse Impact and Test Validation* — Disparate Impact sebagai metrik bias |
| - Navigli et al. (2023), *Biases in Large Language Models: Origins, Inventory, and Discussion* |
|
|
| --- |
|
|
| *Dokumentasi ini dibuat untuk mendukung penelitian mandiri tentang bias AI. Gunakan dengan bertanggung jawab.* |
|
|
