Update app.py

app.py

@@ -84,11 +84,16 @@ TARGETS = {
 USE_LLM = True
 
 # Pilih salah satu model yang kompatibel
-LLM_MODEL_NAME = "HuggingFaceH4/zephyr-7b-beta"
+LLM_MODEL_NAME = "meta-llama/Meta-Llama-3-8B-Instruct"
+# LLM_MODEL_NAME = "mistralai/Mistral-7B-Instruct-v0.2"
 # Alternatif lain (juga kompatibel):
 # LLM_MODEL_NAME = "mistralai/Mistral-7B-Instruct-v0.2"
 
-HF_TOKEN = os.getenv("HF_TOKEN", None)
+HF_TOKEN = (
+    os.getenv("HF_TOKEN")
+    or os.getenv("HUGGINGFACEHUB_API_TOKEN")
+    or os.getenv("HF_API_TOKEN")
+)
 
 _HF_CLIENT = None
 
@@ -1154,21 +1159,10 @@ def generate_llm_analysis(detail_df: pd.DataFrame,
                           kew_value: str) -> str:
     """
     Analisis otomatis:
-    - Jika HF_TOKEN belum diset  -> langsung pakai rule-based (tidak dianggap error).
-    - Jika HF_TOKEN ada tapi pemanggilan LLM gagal -> fallback ke rule-based dengan pesan error ringkas.
+    - Jika pemanggilan LLM gagal -> fallback ke rule-based dengan pesan error ringkas.
     """
 
-    # MODE TANPA LLM: HF_TOKEN belum diset
-    if not HF_TOKEN:
-        rb = generate_rule_based_analysis(detail_df, agg_df, kab_name, kew_value)
-        return (
-            "ℹ️ Mode analisis berbasis LLM belum diaktifkan karena `HF_TOKEN` "
-            "tidak ditemukan di Environment / Secrets.\n\n"
-            "Analisis berikut menggunakan pendekatan **rule-based**.\n\n"
-            + rb
-        )
-
-    # MODE LLM AKTIF
+    # MODE LLM AKTIF: selalu coba, token bisa dari HF_TOKEN / HUGGINGFACEHUB_API_TOKEN
     context = build_context_for_llm(detail_df, agg_df, verif_df, kab_name, kew_value)
 
     client = get_llm_client()
@@ -1196,8 +1190,8 @@ TULISKAN ANALISIS DALAM BAHASA INDONESIA FORMAL, DENGAN STRUKTUR:
 
 1. Gambaran umum kondisi perpustakaan di wilayah tersebut (1 paragraf).
 2. Analisis capaian indeks: soroti kekuatan dan kelemahan utama, terutama perbedaan antar jenis perpustakaan (2 paragraf).
-3. Analisis risiko dan kesenjangan layanan, termasuk jika coverage perpustakaan terhadap satuan pendidikan atau wilayah administratif masih rendah (1–2 paragraf).
-4. Rekomendasi program dan kebijakan prioritas yang konkret untuk 3–5 tahun ke depan. Susun dalam bentuk paragraf naratif, bukan bullet list (2 paragraf).
+3. Analisis risiko dan kesenjangan layanan, termasuk jika coverage perpustakaan terhadap satuan pendidikan atau wilayah administratif masih rendah (1-2 paragraf).
+4. Rekomendasi program dan kebijakan prioritas yang konkret untuk 3-5 tahun ke depan. Susun dalam bentuk paragraf naratif, bukan bullet list (2 paragraf).
 
 PANDUAN GAYA:
 - Jangan hanya mengulang angka apa adanya, tetapi jelaskan maknanya.
@@ -1205,18 +1199,21 @@ PANDUAN GAYA:
 - Hindari kalimat terlalu panjang; gunakan kalimat efektif dan jelas.
 """
 
-    prompt = f"{system_prompt}\n\n{user_prompt}"
-
     try:
-        response = client.text_generation(
-            prompt,
-            max_new_tokens=900,
+        messages = [
+            {"role": "system", "content": system_prompt},
+            {"role": "user", "content": user_prompt},
+        ]
+
+        resp = client.chat_completion(
+            model=LLM_MODEL_NAME,
+            messages=messages,
+            max_tokens=900,
             temperature=0.35,
             top_p=0.9,
-            do_sample=True,
-            repetition_penalty=1.05,
         )
-        text = str(response).strip()
+
+        text = resp.choices[0].message.content.strip()
         if not text:
             raise ValueError("Respon LLM kosong.")
 
@@ -1231,6 +1228,7 @@ PANDUAN GAYA:
             f"{rb}"
         )
 
+
 # ============================================================
 # 8. WORD REPORT (Plotly Pie + Indeks + Agregat + LLM Narrative)
 # ============================================================
@@ -1596,4 +1594,4 @@ with gr.Blocks() as demo:
         ],
     )
 
-demo.launch()
+demo.launch()