Update app.py

app.py

@@ -1,57 +1,63 @@
-from fastapi import FastAPI, HTTPException
-from fastapi.middleware.cors import CORSMiddleware
-from pydantic import BaseModel
-import torch
-from diffusers import FluxPipeline
-import base64
-from io import BytesIO
-
-app = FastAPI()
-
-# ปลดล็อก CORS ให้หน้าเว็บเรียกใช้ได้
-app.add_middleware(
-    CORSMiddleware,
-    allow_origins=["*"],
-    allow_methods=["*"],
-    allow_headers=["*"],
-)
-
-# ใช้โมเดล FLUX.1 [schnell] ที่ขึ้นชื่อว่าเร็วและสวยที่สุดในตอนนี้
-model_id = "black-forest-labs/FLUX.1-schnell"
-
-device = "cuda" if torch.cuda.is_available() else "cpu"
-# FLUX กินสเปกหน่อย แต่ถ้าใช้ bfloat16 จะรันได้เสถียรขึ้น
-torch_dtype = torch.bfloat16 if torch.cuda.is_available() else torch.float32
-
-print(f"กำลังปลุกวิญญาณ FLUX บน: {device}...")
-# โหลดแบบลดสเปกเพื่อให้รันบน Space ฟรีได้ (offload ถ้าจำเป็น)
-pipe = FluxPipeline.from_pretrained(model_id, torch_dtype=torch_dtype)
-pipe.to(device)
-print("FLUX พร้อมแผลงฤทธิ์แล้วเสี่ย!")
-
-class PromptRequest(BaseModel):
-    prompt: str
-
-@app.post("/generate")
-async def generate(request: PromptRequest):
-    try:
-        # FLUX [schnell] ใช้แค่ 2-4 step ก็สวยแล้ว (ประหยัดเวลามาก)
-        image = pipe(
-            request.prompt, 
-            guidance_scale=0.0, 
-            num_inference_steps=4, 
-            max_sequence_length=256
-        ).images[0]
-        
-        buffered = BytesIO()
-        image.save(buffered, format="PNG")
-        img_str = base64.b64encode(buffered.getvalue()).decode()
-        
-        return {"image": f"data:image/png;base64,{img_str}"}
-    except Exception as e:
-        print(f"พังครับเสี่ย: {e}")
-        raise HTTPException(status_code=500, detail=str(e))
-
-if __name__ == "__main__":
-    import uvicorn
-    uvicorn.run(app, host="0.0.0.0", port=7860)
+import gradio as gr
+from llama_cpp import Llama
+from huggingface_hub import hf_hub_download
+import os
+
+# --- 1. การตั้งค่าโมเดล (The Sandbox Model) ---
+# เลือกโมเดลที่เก่งภาษาไทยและขนาดไม่เกิน RAM ฟรีของ HF
+repo_id = "QuantFactory/Llama-3-8B-Instruct-GGUF"
+filename = "Llama-3-8B-Instruct.Q4_K_M.gguf"
+
+print("กำลังดาวน์โหลดโมเดลเข้าสู่ Sandbox... โปรดรอสักครู่")
+model_path = hf_hub_download(repo_id=repo_id, filename=filename)
+
+# โหลดโมเดลเข้าสู่ Memory
+# n_ctx คือจำนวนคำที่จำได้ (ปรับตามความแรงเครื่อง)
+llm = Llama(model_path=model_path, n_ctx=2048, n_threads=2)
+
+# --- 2. ขอบเขตคำสั่ง (System Prompt) ---
+SYSTEM_PROMPT = "คุณคือผู้ช่วย AI ที่ฉลาดและสุภาพ ตอบเป็นภาษาไทยอย่างถูกต้อง อยู่ในกรอบของระบบปิด"
+
+def respond(message, history):
+    # รวมประวัติการแชทเพื่อให้ AI จำบริบทได้
+    prompt = f"<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n\n{SYSTEM_PROMPT}<|eot_id|>"
+    
+    for user_msg, bot_msg in history:
+        prompt += f"<|start_header_id|>user<|end_header_id|>\n\n{user_msg}<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n{bot_msg}<|eot_id|>"
+    
+    prompt += f"<|start_header_id|>user<|end_header_id|>\n\n{message}<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n"
+
+    # รัน AI ในกล่องปิด (Local Inference)
+    output = llm(
+        prompt,
+        max_tokens=512,
+        stop=["<|eot_id|>"],
+        echo=False
+    )
+    
+    return output["choices"][0]["text"].strip()
+
+# --- 3. สร้าง UI หน้าแชท ---
+with gr.Blocks(theme=gr.themes.Soft()) as demo:
+    gr.Markdown("# 🤖 My Local AI Sandbox (Thai Edition)")
+    gr.Markdown("โมเดลนี้รันอยู่บน CPU ของ Hugging Face โดยตรง ไม่มีการส่งข้อมูลไปข้างนอก")
+    
+    chatbot = gr.Chatbot(label="ห้องแชทส่วนตัว")
+    msg = gr.Textbox(label="พิมพ์คำถามของคุณที่นี่", placeholder="สวัสดีครับ...")
+    clear = gr.Button("ล้างการสนทนา")
+
+    def user(user_message, history):
+        return "", history + [[user_message, None]]
+
+    def bot(history):
+        user_message = history[-1][0]
+        bot_message = respond(user_message, history[:-1])
+        history[-1][1] = bot_message
+        return history
+
+    msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False).then(
+        bot, chatbot, chatbot
+    )
+    clear.click(lambda: None, None, chatbot, queue=False)
+
+demo.launch()