Create app.py

app.py

@@ -0,0 +1,23 @@
+import gradio as gr
+from llama_cpp import Llama
+
+# Caminho direto para o modelo na raiz
+model_path = "Llama-3.2-1B-Instruct-Q6_K.gguf"
+
+# Inicializa o modelo
+llm = Llama(model_path=model_path)
+
+def gerar_texto(prompt):
+    output = llm(prompt, max_tokens=200)
+    return output['text']
+
+# Interface Gradio
+iface = gr.Interface(
+    fn=gerar_texto,
+    inputs=gr.Textbox(lines=5, placeholder="Digite seu prompt aqui..."),
+    outputs="text",
+    title="Llama 3.2 1B Instruct GGUF",
+    description="Teste do Llama 3.2 1B Instruct quantizado Q6"
+)
+
+iface.launch()