Create app.v0.py

app.v0.py

@@ -0,0 +1,93 @@
+# Esta es la primera versión de la aplicación
+# Era de mis primeros escarceos RAG, LLM vía api, etc. 
+# Me hace ilu tenerla
+
+import streamlit as st
+import os
+from groq import Groq
+from datetime import datetime
+from langchain_community.embeddings import HuggingFaceEmbeddings
+from langchain_groq import ChatGroq
+from langchain.chains import RetrievalQA
+from langchain_pinecone import PineconeVectorStore
+
+
+st.set_page_config('Opositor')
+st.header("Pregunta al trebep")
+
+modelos_llm = [
+    'llama3-70b-8192',
+    'llama3-8b-8192',
+    'mixtral-8x7b-32768',
+    'gemma-7b-it'
+]
+
+modelo_llm = st.selectbox('Modelo de lenguaje', list(modelos_llm))
+
+
+@st.cache_resource
+def setup(modelo_llm):
+    # Langsmith
+    os.environ["LANGCHAIN_TRACING_V2"] = "true"
+    os.environ["LANGCHAIN_API_KEY"] = "TU_LANGCHAIN_API_KEY"
+    os.environ["LANGCHAIN_PROJECT"] = "trebep"
+
+    # CARGAMOS MODELO DE EMBEDDING
+    model_name = 'intfloat/multilingual-e5-base'
+    embedding = HuggingFaceEmbeddings(model_name=model_name)
+
+    # CARGAMOS LLM
+    os.environ["GROQ_API_KEY"] = "TU_GROQ_API_KEY"
+    llm = ChatGroq(model=modelo_llm)
+
+    # CARGAMOS EL VECTORSTORE DE PINECONE
+    os.environ["PINECONE_API_KEY"] = 'TU_PINECONE_API_KEY'
+    index_name = "boe-intfloat-multilingual-e5-base"
+    namespace = "trebep"
+    vectorstore = PineconeVectorStore(
+        index_name=index_name,
+        namespace=namespace,
+        embedding=embedding
+    )
+
+    # CREAMOS EL RETRIEVAL
+    qa = RetrievalQA.from_chain_type(
+        llm=llm,
+        chain_type="stuff",
+        retriever=vectorstore.as_retriever(),
+        return_source_documents=True,
+        # verbose=True
+    )
+
+    return qa
+
+
+def mostrar_logs(logs, hints):
+    with st.expander("Chunks"):
+        for hint in hints:
+            st.write(hint.page_content)
+            st.write("-" * 30)
+
+    st.sidebar.header("Registro de preguntas")
+    for entry in logs:
+        st.sidebar.write(f"**Pregunta: {entry['Pregunta']}**")
+        st.sidebar.write(f"Respuesta: {entry['Respuesta']}")
+
+
+logs = []
+user_question = st.text_input("¡A jugar! Haz una pregunta al trebep:")
+
+if user_question:
+    qa = setup(modelo_llm)
+
+    respuesta = qa.invoke(user_question)
+    docs = respuesta['source_documents']
+
+    result = respuesta['result'].strip("[]")
+
+    st.subheader("Respuesta")
+    st.write(f":green[{str(result)}]")
+
+    logs.append({"Pregunta": user_question, "Respuesta": result})
+
+    mostrar_logs(logs, docs)