test deepseek

app.py

@@ -62,9 +62,13 @@ def deepseek(
     model.generation_config = GenerationConfig.from_pretrained(model_name)
     model.generation_config.pad_token_id = model.generation_config.eos_token_id
     
+    # messages = [
+    #     {"role": "user", "content": "what is the integral of x^2 from 0 to 2?\nPlease reason step by step, and put your final answer within \\boxed{}."}
+    # ]
     messages = [
-        {"role": "user", "content": "what is the integral of x^2 from 0 to 2?\nPlease reason step by step, and put your final answer within \\boxed{}."}
+        {"role": "user", "content": message}
     ]
+
     input_tensor = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt")
     outputs = model.generate(input_tensor.to(model.device), max_new_tokens=100)
     print(outputs)
@@ -85,6 +89,10 @@ chat = gr.ChatInterface(
         # gr.Image(type="pil", label="Attach an image (optional)"),
         # gr.File(label="Upload a file (optional)"),
     ],
+    examples=[
+        # Mỗi item: [message, system_message, max_tokens, temperature, top_p]
+        ["tích phân của x^2 từ 0 đến 2 là gì? vui lòng lập luận từng bước, và đặt kết quả cuối cùng trong \boxed{}", "bạn là nhà toán học", 100, 0.7, 0.95],
+    ],
 )
 
 if __name__ == "__main__":