File size: 1,790 Bytes
5bfe5ec | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 | from transformers import AutoTokenizer, AutoModelForCausalLM
import gradio as gr
# Ruta del archivo de texto plano
file_path = "/texto_plano.txt" # Asegúrate de cargar este archivo en Colab
# Cargar el texto plano
try:
with open(file_path, 'r', encoding='utf-8') as file:
context_data = file.read()
print("Texto cargado correctamente.")
except FileNotFoundError:
print(f"El archivo {file_path} no se encuentra. Verifica la ruta y vuelve a intentarlo.")
context_data = "" # Evitar errores si el archivo no se encuentra
if context_data:
print(f"Context data cargado: {context_data[:100]}...") # Mostrar una parte del texto cargado
# Cargar el modelo bigscience/bloomz-560m
print("Cargando el modelo bigscience/bloomz-560m...")
model_name = "bigscience/bloomz-560m"
tokenizer = AutoTokenizer.from_pretrained(model_name, use_fast=False)
model = AutoModelForCausalLM.from_pretrained(model_name) # Cambiamos a AutoModelForCausalLM
print("Modelo bigscience/bloomz-560m cargado correctamente.")
# Función para responder preguntas
def answer_question(question):
input_text = f"Pregunta: {question}\nContexto: {context_data}"
inputs = tokenizer.encode(input_text, return_tensors="pt")
outputs = model.generate(inputs, max_length=200)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
return f"Pregunta: {question}\nRespuesta: {response}"
# Interfaz con Gradio
def answer_question_interface(question):
return answer_question(question)
interface = gr.Interface(
fn=answer_question_interface,
inputs="text",
outputs="text",
title="QA - bigscience/bloomz-560m",
description="Haz preguntas abiertas sobre el contenido narrativo."
)
interface.launch()
|