Update app.py

app.py

@@ -32,13 +32,17 @@ def initClient():
     )
     return client
 
-def greet(name):
+def greet(input):
     modelName = "chenluuli/test-text-vis"
-    text2text_generator = pipeline("text-generation", model="Qwen/Qwen2.5-0.5B-Instruct")
-    prompt = "##你是一个可视化专家，通过我提供的信息，推荐合理的图表配置###我提供的信息可能有，字段信息metas，明细数据data，分析意图purpose，用户输入input!!请根据这些信息，返回合理的图表配置，不需要额外的文字描述 >>我输入的数据如下:"
+    text2text_generator = pipeline("text-generation", model="Qwen/Qwen2.5-0.5B-Instruct", torch_dtype="auto", device_map="auto")
+    prompt = "##你是一个可视化专家，通过我提供的信息，推荐合理的图表配置##请根据这些信息，返回合理的图表类型 >>我输入的数据如下:"
+    messages = [{
+        "role": "user", 
+        "content": prompt+input,
+    }]
     response = text2text_generator(
-        prompt+name,
-        max_length=256
+        messages
+        max_length=128
     )
     print(response, response[0]['generated_text'])
     return response[0]['generated_text']