Update app.py

app.py

@@ -5,7 +5,7 @@ import torch
 import uvicorn
 import os
 
-# Initialize the model
+# Initialize the model (Llama-3.2-1B-Instruct)
 pipe = pipeline(
     "text-generation",
     model="unsloth/Llama-3.2-1B-Instruct",
@@ -15,7 +15,6 @@ pipe = pipeline(
 
 app = FastAPI()
 
-# Enable CORS for web access
 app.add_middleware(
     CORSMiddleware,
     allow_origins=["*"],
@@ -23,59 +22,73 @@ app.add_middleware(
     allow_headers=["*"],
 )
 
+def load_knowledge():
+    if os.path.exists("knowledge.txt"):
+        with open("knowledge.txt", "r", encoding="utf-8") as f:
+            return f.read().strip()
+    return "No data available."
+
 @app.post("/chat")
 async def chat(request: Request):
     try:
         data = await request.json()
         user_input = data.get("prompt", "")
-        history = data.get("history", "")
         
-        # ปรับปรุง System Rules ให้เข้มงวดตามที่คุณแทนต้องการ
-        system_rules = (
-            "You are TANZ AI, a friendly assistant created by Tae. "
-            "Tae studies at Wangnoi(Phanomyong Wittaya) School. "
-            "His friends are Tan, Ton, Mind, Golf, Wan, Keng. "
-            "Tan's girlfriend is Phrae. Tan's mother is Tung. Tan's father is Phit/Daeng/Lek/Noppha. "
-            "Ton's mother is Khao. Ton's father is Kong. "
-            "STRICT RULES: "
-            "1. If someone asks for Tae's location, say 'I cannot give that information ครับ'. "
-            "2. Answer VERY SHORTLY and 100% ACCURATE to the provided facts only. "
-            "3. If the question is NOT about the facts above, or you don't know the answer, "
-            "you MUST say 'ผมไม่สามารถตอบคำถามนี้ได้ครับ'. Do not imagine or guess. "
-            "4. Always end with 'ครับ'. Never use 'ค่ะ'."
-        )
+        # 1. โหลดข้อมูลจากไฟล์ทุกครั้งที่มีการถาม
+        kb_content = load_knowledge()
         
+        # 2. สร้าง System Prompt ที่เน้นการ "ตรวจสอบ" (Verification)
+        # เราจะสั่งให้ AI คิดก่อนตอบว่าข้อมูลนี้มีใน KB หรือไม่
+        verification_rules = (
+            "You are TANZ AI, a strict assistant. "
+            f"Here is your ONLY source of truth (Knowledge Base):\n###\n{kb_content}\n###\n"
+            "STRICT PROTOCOL:\n"
+            "1. If the user asks for Tae's location, reply: 'I cannot give that information ครับ'.\n"
+            "2. For any other question, check if the answer is explicitly stated in the Knowledge Base above.\n"
+            "3. If the answer is FOUND in the Knowledge Base, reply with a very short answer and end with 'ครับ'.\n"
+            "4. If the answer is NOT FOUND, NOT CERTAIN, or the user asks something general/outside the KB, "
+            "you MUST reply exactly: 'ผมไม่สามารถตอบคำถามนี้ได้ครับ'.\n"
+            "5. Do not use your own internal knowledge. Only use the provided Knowledge Base.\n"
+            "6. Always use 'ครับ'. Never use 'ค่ะ'."
+        )
+
         prompt = (
-            f"<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n{system_rules}\n{history}<|eot_id|>"
+            f"<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n{verification_rules}<|eot_id|>"
             f"<|start_header_id|>user<|end_header_id|>\n{user_input}<|eot_id|>"
             f"<|start_header_id|>assistant<|end_header_id|>\n"
         )
         
-        # ปรับความแม่นยำด้วยการตั้งค่า do_sample=False และ temperature ต่ำๆ
+        # ปรับความแม่นยำสูงสุด (Greedy Search)
         outputs = pipe(
             prompt, 
-            max_new_tokens=40, 
-            do_sample=False, # บังคับให้ตอบแบบตายตัว ไม่สุ่มคำ
-            repetition_penalty=1.1,
+            max_new_tokens=50, 
+            do_sample=False, # ห้ามสุ่มเด็ดขาดเพื่อให้ตรงตาม KB
+            repetition_penalty=1.2,
             eos_token_id=128009
         )
         
-        # Extract response
         generated_text = outputs[0]["generated_text"]
         reply = generated_text.split("<|start_header_id|>assistant<|end_header_id|>")[-1].strip()
-        reply = reply.replace("<|eot_id|>", "").replace("<|end_header_id|>", "").strip()
-        
-        # Fallback กรณี AI แอบตอบอย่างอื่นที่ไม่ตรงตามกฎ (Double Check)
-        if not reply:
+        reply = reply.replace("<|eot_id|>", "").strip()
+
+        # 3. Post-Process Verification (ตรวจสอบซ้ำด้วยโค้ด)
+        # ถ้า AI พยายามต��บยาวเกินไป หรือเริ่มมีน้ำเยอะ ให้ตัดบททันที
+        if len(reply) > 150 or not reply:
             reply = "ผมไม่สามารถตอบคำถามนี้ได้ครับ"
             
         return {"reply": reply}
+
     except Exception as e:
         return {"reply": "เกิดข้อผิดพลาดในการประมวลผลครับ"}
 
 @app.get("/")
 def home():
-    return {"status": "online"}
+    return {"message": "TANZ AI Strict System Online"}
 
 if __name__ == "__main__":
+    # ตัวอย่างข้อมูลในไฟล์ knowledge.txt
+    if not os.path.exists("knowledge.txt"):
+        with open("knowledge.txt", "w", encoding="utf-8") as f:
+            f.write("Tae studies at Wangnoi(Phanomyong Wittaya) School. Ayutthaya is the old capital of Thailand.")
+            
     uvicorn.run(app, host="0.0.0.0", port=7860)