Update app.py

app.py

@@ -1,3 +1,4 @@
+import os
 import gradio as gr
 from huggingface_hub import InferenceClient
 
@@ -12,7 +13,7 @@ def format_prompt(message, history, context):
     return prompt
 
 def generate(
-    prompt, history, context, temperature=0.2, max_new_tokens=256, top_p=0.95, repetition_penalty=1.0,
+    prompt, history, temperature=0.2, max_new_tokens=4096, top_p=0.95, repetition_penalty=1.0, context="te llamas Facemaker, eres un asistente con humor nagro, muy sociable, usas emojis para expresar emociones, tienes 39 años",
 ):
     temperature = float(temperature)
     if temperature < 1e-2:
@@ -38,17 +39,15 @@ def generate(
         yield output
     return output
 
-def gr_interface(prompt, context="Te llamas Facemaker, debes presentarte siempre."):
-    return next(generate(prompt, [], context))
+mychatbot = gr.Chatbot(
+    avatar_images=["./user.png", "./botm.png"], bubble_full_width=False, show_label=False, show_copy_button=True, likeable=True,)
 
-iface = gr.Interface(
-    fn=gr_interface,
-    inputs=[gr.Textbox("prompt"), gr.Textbox("context", label="Context")],
-    outputs=gr.Textbox(),
-    title="Mixtral 8x7b Chat",
-    live=True
-)
+demo = gr.ChatInterface(fn=generate,
+                        chatbot=mychatbot,
+                        title="Mixtral 8x7b Chat",
+                        retry_btn=None,
+                        undo_btn=None
+                       )
 
-# Agregamos la posibilidad de recibir el context vía API
-iface.launch(share=True)
+demo.queue().launch(show_api=True)