Update app.py

app.py

@@ -3,6 +3,7 @@ from typing import Iterator
 import gradio as gr 
 from text_generation import Client
 
+SYSTEM_PROMPT = "O ChatGEO é um assistente virtual especializado em geografia, projetado para ajudar estudantes a explorar e compreender diversos tópicos relacionados ao mundo ao seu redor. Com uma personalidade amigável e conhecimento abrangente, o ChatGEO está pronto para responder suas perguntas geográficas com precisão e clareza. Exemplos de Perguntas para ChatGEO: Qual é a capital do Brasil? Descreva o processo de formação de uma cadeia de montanhas. Quais são os principais rios da América do Sul? Explique o conceito de zonas climáticas e suas características. Como a globalização impacta as relações entre os países? Quais são as diferenças entre latitude e longitude? Liste os países que fazem parte da União Europeia. O que são fenômenos naturais e como eles afetam o ambiente?Fale sobre as características geográficas da África Subsaariana. Como os vulcões se formam e quais são seus efeitos na paisagem? Ao utilizar o ChatGEO, sinta-se à vontade para fazer perguntas sobre mapas, países, climas, fenômenos naturais, e outros temas geográficos. O ChatGEO está aqui para tornar a aprendizagem de geografia divertida e informativa!"
 
 HF_TOKEN = os.environ.get('HF_READ_TOKEN', False)
 EOS_STRING = '</s>'
@@ -41,15 +42,15 @@ def run(model_id, message, chat_history, system_prompt, max_new_tokens=1024, tem
         yield output
     return output
 
-DEFAULT_SYSTEM_PROMPT = """
-   Você é o ChatGEO. Um assistente virtual especializado em geografia, projetado para ajudar estudantes a explorar e compreender diversos tópicos relacionados ao mundo ao seu redor. Com uma personalidade amigável e conhecimento abrangente, o ChatGEO está pronto para responder suas perguntas geográficas com precisão e clareza no idioma português brasileiro. Exemplos de Perguntas para ChatGEO: Qual é a capital do Brasil? Descreva o processo de formação de uma cadeia de montanhas. Quais são os principais rios da América do Sul? Explique o conceito de zonas climáticas e suas características. Como a globalização impacta as relações entre os países? Quais são as diferenças entre latitude e longitude? Liste os países que fazem parte da União Europeia. O que são fenômenos naturais e como eles afetam o ambiente?Fale sobre as características geográficas da África Subsaariana. Como os vulcões se formam e quais são seus efeitos na paisagem? Ao utilizar o ChatGEO, sinta-se à vontade para fazer perguntas sobre mapas, países, climas, fenômenos naturais, e outros temas geográficos. O ChatGEO está aqui para tornar a aprendizagem de geografia divertida e informativa!
-"""
+#DEFAULT_SYSTEM_PROMPT = """
+ #  Você é o ChatGEO. Um assistente virtual especializado em geografia, projetado para ajudar estudantes a explorar e compreender diversos tópicos relacionados ao mundo ao seu redor. Com uma personalidade amigável e conhecimento abrangente, o ChatGEO está pronto para responder suas perguntas geográficas com precisão e clareza no idioma português brasileiro. Exemplos de Perguntas para ChatGEO: Qual é a capital do Brasil? Descreva o processo de formação de uma cadeia de montanhas. Quais são os principais rios da América do Sul? Explique o conceito de zonas climáticas e suas características. Como a globalização impacta as relações entre os países? Quais são as diferenças entre latitude e longitude? Liste os países que fazem parte da União Europeia. O que são fenômenos naturais e como eles afetam o ambiente?Fale sobre as características geográficas da África Subsaariana. Como os vulcões se formam e quais são seus efeitos na paisagem? Ao utilizar o ChatGEO, sinta-se à vontade para fazer perguntas sobre mapas, países, climas, fenômenos naturais, e outros temas geográficos. O ChatGEO está aqui para tornar a aprendizagem de geografia divertida e informativa!
+#"""
 ALERTA = """
     Mantenha as configurações padrões para resultados mais precisos. Caso precise de respostas maiores, aumente o item Max New Tokens
 """
-MAX_MAX_NEW_TOKENS = 10240
-DEFAULT_MAX_NEW_TOKENS = 4096
-MAX_INPUT_TOKEN_LENGTH = 4000
+#MAX_MAX_NEW_TOKENS = 10240
+#DEFAULT_MAX_NEW_TOKENS = 4096
+#MAX_INPUT_TOKEN_LENGTH = 4000
 
 DESCRIPTION = "# <h1>Olá, Bem vindo ao ChatGEO :)</h1>"
 
@@ -82,7 +83,7 @@ def generate(model_id, message, history_with_input, system_prompt, max_new_token
         yield history + [(message, response)]
 
 def process_example(model_id, message):
-    generator = generate(model_id, message, [], DEFAULT_SYSTEM_PROMPT, 1024, 1, 0.95, 50)
+    generator = generate(model_id, message, [], SYSTEM_PROMPT, 1024, 1, 0.95, 50)
     for x in generator:
         pass
     return '', x
@@ -122,11 +123,11 @@ with gr.Blocks(theme='JohnSmith9982/small_and_pretty') as demo:
             # Adiciona um texto explicativo
            # gr.Text("ATENÇÃO: Mantenha as configurações padrões para resultados mais precisos. Caso precise de respostas maiores, aumente o item Max New Tokens")
             gr.Textbox(label='ATENÇÃO', value=ALERTA, lines=5, interactive=False)  
-            system_prompt = gr.Textbox(label='System prompt', value=DEFAULT_SYSTEM_PROMPT, lines=0, interactive=False)
-            max_new_tokens = gr.Slider(label='Max New Tokens', minimum=1, maximum=MAX_MAX_NEW_TOKENS, step=1, value=DEFAULT_MAX_NEW_TOKENS)
-            temperature = gr.Slider(label='Temperatur', minimum=0.1, maximum=4.0, step=0.1, value=0.1)
-            top_p = gr.Slider(label='Top-P (nucleus sampling)', minimum=0.05, maximum=1.0, step=0.05, value=0.9)
-            top_k = gr.Slider(label='Top-K', minimum=1, maximum=1000, step=1, value=10)
+            #system_prompt = gr.Textbox(label='System prompt', value=DEFAULT_SYSTEM_PROMPT, lines=0, interactive=False)
+            #max_new_tokens = gr.Slider(label='Max New Tokens', minimum=1, maximum=MAX_MAX_NEW_TOKENS, step=1, value=DEFAULT_MAX_NEW_TOKENS)
+            #temperature = gr.Slider(label='Temperatur', minimum=0.1, maximum=4.0, step=0.1, value=0.1)
+            #top_p = gr.Slider(label='Top-P (nucleus sampling)', minimum=0.05, maximum=1.0, step=0.05, value=0.9)
+            #top_k = gr.Slider(label='Top-K', minimum=1, maximum=1000, step=1, value=10)
 
     textbox.submit(
         fn=clear_and_save_textbox,