File size: 4,286 Bytes
e0b0774
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
# Esta es la primera versi贸n de la aplicaci贸n
# Era de mis primeros escarceos RAG, LLM v铆a api, etc. 
# Me hace ilu tenerla

import streamlit as st
import os

from groq import Groq
from PyPDF2 import PdfReader
from datetime import datetime
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.embeddings import HuggingFaceEmbeddings 
#from langchain.vectorstores import FAISS
from langchain_community.vectorstores import FAISS
from langchain_groq import ChatGroq
#from langchain.chat_models import ChatOpenAI
from langchain.chains.question_answering import load_qa_chain

st.set_page_config('Lector铆n')
st.header("Pregunta a tu PDF")
GROQ_API_KEY = st.text_input('Groq API Key', value="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", type='password')
pdf_obj = st.file_uploader("Carga tu documento", type="pdf", on_change=st.cache_resource.clear)
modelos = {
    'multi, 512, 0.47G, 384 - intfloat/multilingual-e5-small': ('intfloat/multilingual-e5-small',512),
    'multi, 256, 0.08G, 384 - multi-qa-MiniLM-L6-cos-v1': ('multi-qa-MiniLM-L6-cos-v1',256),
    'multi,8192, 2.27G,1024 - BAAI/bge-m3': ('BAAI/bge-m3', 8192),
}
modelo = st.selectbox('Modelo de embedding', list(modelos.keys()))
modelo_embeddings, sequence = modelos[modelo]
chunk_size = sequence * 5 # en espa帽ol, de media una palabra tiene 5 caracteres

modelos_llm = [
    'llama3-70b-8192',
    'llama3-8b-8192',
    'mixtral-8x7b-32768',
    'gemma-7b-it'
]
modelo_llm = st.selectbox('Modelo de lenguaje', list(modelos_llm))

# Langsmith
os.environ["LANGCHAIN_TRACING_V2"] = "true"
os.environ["LANGCHAIN_API_KEY"] = "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"
os.environ["LANGCHAIN_PROJECT"] = "qpdf"


def save_to_file():
    with open("historial.txt", "a", encoding="utf-8") as archivo:
        # A帽adir la fecha y hora actual
        archivo.write("-" * 25 )
        fecha_hora_actual = datetime.now().strftime("%Y-%m-%d %H:%M")
        archivo.write(f" {fecha_hora_actual} ")
        archivo.write(f" ({file_name}) ")
        archivo.write("-" * 25 + "\n")
        # Guardar preguntas
        archivo.write(f"Pregunta: {user_question}\n")
        # Guardar respuestas
        archivo.write(f"Respuesta: {respuesta}\n")


@st.cache_resource 
def create_embeddings(pdf):
    pdf_reader = PdfReader(pdf)
    text = ""
    for page in pdf_reader.pages:
        text += page.extract_text()

    text_splitter = RecursiveCharacterTextSplitter(
        chunk_size=chunk_size,
        chunk_overlap=150,
        length_function=len
        )        

    chunks = text_splitter.split_text(text)
    embeddings = HuggingFaceEmbeddings(model_name=modelo_embeddings)
    knowledge_base = FAISS.from_texts(chunks, embeddings)

    return knowledge_base


# Funci贸n para mostrar logs
def mostrar_logs(logs,hints):
    # Crear un contenedor desplegable
    with st.expander("Chunks"):
        for hint in hints:
            st.write(hint.page_content)
            st.write("-" * 30)

    st.sidebar.header("Registro de preguntas")
    for entry in logs:
        st.sidebar.write(f"**Pregunta: {entry['Pregunta']}**")
        st.sidebar.write(f"Respuesta: {entry['Respuesta']}")


# Lista para almacenar preguntas y respuestas
logs = []

if pdf_obj:
    file_name = pdf_obj.name
    knowledge_base = create_embeddings(pdf_obj)
    user_question = st.text_input("隆A jugar! Haz una pregunta sobre tu PDF:")

    if user_question:
        os.environ["GROQ_API_KEY"] = GROQ_API_KEY
        #os.environ["OPENAI_API_KEY"] = OPENAI_API_KEY
        docs = knowledge_base.similarity_search(user_question, 5)
        llm = ChatGroq(groq_api_key = os.getenv('GROQ_API_KEY'),model = modelo_llm)        
        #llm = ChatOpenAI(model_name='gpt-3.5-turbo')
        chain = load_qa_chain(llm, chain_type="stuff")
        respuesta = chain.run(input_documents=docs, question=user_question)

        # Mostrar la variable en color verde
        st.subheader("Respuesta")
        st.write(f":green[{str(respuesta)}]")

        # Guardar pregunta y respuesta en los logs
        logs.append({"Pregunta": user_question, "Respuesta": respuesta})

        # Mostrar logs actualizados
        mostrar_logs(logs,docs)

        # Guarda la consulta en un archivo
        save_to_file()