Update app.py

app.py

@@ -1,5 +1,5 @@
 from pydantic import BaseModel
-from llama_cpp_agent import Llama
+from llama_cpp import Llama
 from concurrent.futures import ThreadPoolExecutor, as_completed
 import re
 import httpx
@@ -29,7 +29,7 @@ global_data = {
         'mask': 'mask_token'
     },
     'model_metadata': {},
-    'max_tokens': 256,
+    'max_tokens': {},
     'tokenizers': {},
     'model_params': {},
     'model_size': {},