Update app.py

app.py

@@ -3,14 +3,16 @@ from pydantic import BaseModel
 from fastapi.middleware.cors import CORSMiddleware
 import os
 import google.generativeai as genai
-
 from typing import List, Optional
 
+# Konfigurasi API Gemini
 genai.configure(api_key=os.environ["GEMINI_API_KEY"])
 model = genai.GenerativeModel("gemini-1.5-flash")
 
+# Inisialisasi FastAPI
 app = FastAPI()
 
+# Setup CORS
 app.add_middleware(
     CORSMiddleware,
     allow_origins=["*"],
@@ -19,66 +21,69 @@ app.add_middleware(
     allow_headers=["*"],
 )
 
+# Model request
 class PromptRequest(BaseModel):
     prompt: str
     max_new_tokens: int = 300
     temperature: float = 0.7
     history: Optional[List[str]] = []
 
+# Endpoint untuk generate teks
 @app.post("/generate")
 async def generate_text(req: PromptRequest):
     try:
         system_prompt = """
-    Anda adalah Vocaboost, asisten dari model LLaMA2 yang bertugas menyempurnakan hasil jawaban grammar.
-    Tugas utama Anda adalah memperbaiki tata bahasa, menyempurnakan struktur kalimat, dan menerjemahkan jawaban dari model LLaMA ke dalam Bahasa Indonesia yang jelas, edukatif, dan mudah dipahami.
-    Petunjuk penting:
-    1. Jangan mengubah maksud dari jawaban.
-    2. Jawaban akhir harus dalam Bahasa Indonesia.
-    3. Sertakan SATU contoh kalimat dalam Bahasa Inggris (jika relevan).
-    4. Jangan menjelaskan proses, cukup berikan jawaban yang sudah diperbaiki.
-    """
+Anda adalah Vocaboost, asisten dari model LLaMA2 yang bertugas menyempurnakan hasil jawaban grammar.
+Tugas utama Anda adalah memperbaiki tata bahasa, menyempurnakan struktur kalimat, dan menerjemahkan jawaban dari model LLaMA ke dalam Bahasa Indonesia yang jelas, edukatif, dan mudah dipahami.
+Petunjuk penting:
+1. Jangan mengubah maksud dari jawaban.
+2. Jawaban akhir harus dalam Bahasa Indonesia.
+3. Sertakan SATU contoh kalimat dalam Bahasa Inggris (jika relevan).
+4. Jangan menjelaskan proses, cukup berikan jawaban yang sudah diperbaiki.
+"""
 
-    # Siapkan daftar pesan untuk Gemini
-    messages = [
-        {
-            "role": "user",
-            "parts": [{"text": f"<<SYS>>\n{system_prompt.strip()}\n<</SYS>>"}],
-        },
-        {
-            "role": "model",
-            "parts": [{"text": "Siap! Kirimkan jawaban dari LLaMA yang perlu diperbaiki."}],
-        }
-    ]
+        # Siapkan daftar pesan untuk Gemini
+        messages = [
+            {
+                "role": "user",
+                "parts": [{"text": f"<<SYS>>\n{system_prompt.strip()}\n<</SYS>>"}],
+            },
+            {
+                "role": "model",
+                "parts": [{"text": "Siap! Kirimkan jawaban dari LLaMA yang perlu diperbaiki."}],
+            }
+        ]
+
+        # Tambahkan history jika ada
+        for msg in req.history or []:
+            role = "user" if msg.startswith("User:") else "model"
+            text = msg.replace("User: ", "").replace("Bot: ", "")
+            messages.append({
+                "role": role,
+                "parts": [{"text": text}]
+            })
 
-    # Tambahkan history bila ada
-    for msg in req.history or []:
-        role = "user" if msg.startswith("User:") else "model"
-        text = msg.replace("User: ", "").replace("Bot: ", "")
+        # Tambahkan prompt terbaru
         messages.append({
-            "role": role,
-            "parts": [{"text": text}]
+            "role": "user",
+            "parts": [{"text": req.prompt}]
         })
 
-    # Tambahkan prompt terakhir dari LLaMA
-    messages.append({
-        "role": "user",
-        "parts": [{"text": req.prompt}]
-    })
-
-    # Kirim ke Gemini
-    result = model.generate_content(
-        messages,
-        generation_config={
-            "temperature": req.temperature,
-            "max_output_tokens": req.max_new_tokens,
-        }
-    )
+        # Kirim ke Gemini
+        result = model.generate_content(
+            messages,
+            generation_config={
+                "temperature": req.temperature,
+                "max_output_tokens": req.max_new_tokens,
+            }
+        )
 
-    return {"generated_text": result.text}
+        return {"generated_text": result.text}
 
     except Exception as e:
         raise HTTPException(status_code=500, detail=str(e))
 
+# Root endpoint
 @app.get("/")
 async def root():
     return {"message": "Gemini endpoint aktif bro! 🚀"}