SebastianItamari commited on
Commit
f869016
·
verified ·
1 Parent(s): 36b026e

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +28 -9
app.py CHANGED
@@ -1,19 +1,38 @@
1
  import streamlit as st
2
  from transformers import pipeline
 
3
 
4
  # Inicializar el modelo generador de texto
5
- @st.cache_resource # Esto cachea el modelo para no cargarlo repetidamente
6
  def load_model():
7
- return pipeline('text-generation', model='gpt2') # Cambia el modelo a gpt2
 
 
 
 
 
 
8
 
9
- generator = load_model()
 
10
 
11
  # Crear la interfaz de usuario
12
- st.title("Generador de texto GPT-2") # Actualiza el título para reflejar el nuevo modelo
13
- st.write("Introduce dos textos para que el modelo los continúe:")
14
 
15
- # Campo de entrada para el primer prompt
16
- user_input_1 = st.text_input("Escribe el primer prompt aquí:", "")
17
 
18
- # Campo de entrada para el segundo prompt
19
- user_input_2 = st.text_input("Escribe el segundo prompt aquí:", "")
 
 
 
 
 
 
 
 
 
 
 
 
1
  import streamlit as st
2
  from transformers import pipeline
3
+ import torch
4
 
5
  # Inicializar el modelo generador de texto
6
+ @st.cache_resource # Cachear el modelo para no recargarlo repetidamente
7
  def load_model():
8
+ model_id = "meta-llama/Llama-2-7b" # Cambia al modelo correcto disponible
9
+ return pipeline(
10
+ "text-generation",
11
+ model=model_id,
12
+ torch_dtype=torch.bfloat16,
13
+ device_map="auto"
14
+ )
15
 
16
+ # Cargar el modelo
17
+ pipe = load_model()
18
 
19
  # Crear la interfaz de usuario
20
+ st.title("Generador de Texto Llama-2")
21
+ st.write("Introduce un texto para que el modelo lo continúe:")
22
 
23
+ # Campo de entrada para el prompt
24
+ user_input = st.text_input("Escribe tu prompt aquí:", "")
25
 
26
+ # Botón para generar texto
27
+ if st.button("Generar texto"):
28
+ if user_input:
29
+ # Generar el texto utilizando el modelo
30
+ with st.spinner("Generando..."):
31
+ result = pipe(user_input, do_sample=True, max_length=100)
32
+ generated_text = result[0]['generated_text']
33
+
34
+ # Mostrar el texto generado
35
+ st.subheader("Texto generado:")
36
+ st.write(generated_text)
37
+ else:
38
+ st.error("Por favor, introduce un prompt antes de generar texto.")