updates

app.py

@@ -0,0 +1,11 @@
+import gradio as gr
+from llama_cpp import Llama
+
+llm = Llama(model_path="jerinaj/lfm-tool")
+
+def chat(prompt):
+    output = llm(prompt, max_tokens=100)
+    return output["choices"][0]["text"]
+
+demo = gr.Interface(fn=chat, inputs="text", outputs="text")
+demo.launch()