Jhonatan51998 commited on
Commit
b90fa66
·
verified ·
1 Parent(s): 491ee6e

Upload notebooks/pipeline_guardrail_northwind.ipynb with huggingface_hub

Browse files
notebooks/pipeline_guardrail_northwind.ipynb ADDED
@@ -0,0 +1,727 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "cells": [
3
+ {
4
+ "cell_type": "markdown",
5
+ "metadata": {},
6
+ "source": [
7
+ "# Pipeline Guardrail + QA sobre PDF — Northwind Traders\n",
8
+ "> Ollama + LangChain\n",
9
+ "\n",
10
+ "Este notebook implementa un **chatbot con guardrail** para Northwind Traders. El sistema:\n",
11
+ "\n",
12
+ "1. **Lee el PDF de Northwind** y extrae todo su contenido como texto.\n",
13
+ "2. **Clasifica cada pregunta** del usuario en una de tres categorias usando un LLM router.\n",
14
+ "3. **Responde** usando el contenido del PDF si la pregunta es sobre Northwind.\n",
15
+ "4. **Rechaza** con un mensaje fijo si la pregunta no es relevante (chitchat o fuera de dominio).\n",
16
+ "\n",
17
+ "No se usa RAG: el texto completo del PDF se inyecta en el prompt de cada consulta. Esto funciona bien para documentos de tamano moderado y es mas simple de implementar que un pipeline de embeddings.\n",
18
+ "\n",
19
+ "## Prerequisitos\n",
20
+ "\n",
21
+ "- Ollama instalado y corriendo en `http://localhost:11434`.\n",
22
+ "- Modelos descargados: `ollama pull llama3.2`\n",
23
+ "- El archivo PDF de Northwind disponible en el mismo directorio.\n",
24
+ "\n",
25
+ "## Arquitectura del pipeline\n",
26
+ "\n",
27
+ "```\n",
28
+ "PDF de Northwind\n",
29
+ " |\n",
30
+ " PdfReader\n",
31
+ " |\n",
32
+ " contexto (str completo)\n",
33
+ " |\n",
34
+ "Pregunta del usuario --> ROUTER LLM (temp=0, solo clasifica)\n",
35
+ " |\n",
36
+ " +----------------+----------------+\n",
37
+ " | | |\n",
38
+ " northwind_qa northwind_bd chitchat\n",
39
+ " | | |\n",
40
+ " ChatPromptTemplate ChatPromptTemplate Mensaje fijo\n",
41
+ " (system+ctx+human) (system+ctx+human) de rechazo\n",
42
+ " | | |\n",
43
+ " ChatOllama ChatOllama (sin LLM)\n",
44
+ " | |\n",
45
+ " Respuesta Respuesta\n",
46
+ " del PDF del PDF\n",
47
+ "```"
48
+ ]
49
+ },
50
+ {
51
+ "cell_type": "markdown",
52
+ "metadata": {},
53
+ "source": [
54
+ "## 1. Instalacion de Dependencias"
55
+ ]
56
+ },
57
+ {
58
+ "cell_type": "code",
59
+ "execution_count": null,
60
+ "metadata": {},
61
+ "outputs": [],
62
+ "source": [
63
+ "%pip install langchain langchain-ollama langchain-core langchain-community pypdf --quiet"
64
+ ]
65
+ },
66
+ {
67
+ "cell_type": "markdown",
68
+ "metadata": {},
69
+ "source": [
70
+ "## 2. Imports y Configuracion"
71
+ ]
72
+ },
73
+ {
74
+ "cell_type": "code",
75
+ "execution_count": null,
76
+ "metadata": {},
77
+ "outputs": [],
78
+ "source": [
79
+ "import re\n",
80
+ "from pathlib import Path\n",
81
+ "\n",
82
+ "# LangChain + Ollama\n",
83
+ "from langchain_ollama import ChatOllama\n",
84
+ "from langchain_core.messages import HumanMessage, SystemMessage\n",
85
+ "from langchain_core.prompts import ChatPromptTemplate\n",
86
+ "from langchain_core.output_parsers import StrOutputParser\n",
87
+ "\n",
88
+ "# PDF\n",
89
+ "from pypdf import PdfReader\n",
90
+ "\n",
91
+ "# Configuracion del entorno\n",
92
+ "OLLAMA_BASE_URL = \"http://localhost:11434\"\n",
93
+ "MODEL_NAME = \"llama3.2\" # cambia a gemma3:4b o mistral si lo prefieres\n",
94
+ "PDF_PATH = \"northwind_info.pdf\" # ruta al PDF de Northwind\n",
95
+ "\n",
96
+ "print(\"Imports correctos\")\n",
97
+ "print(f\"Modelo : {MODEL_NAME}\")\n",
98
+ "print(f\"PDF : {PDF_PATH}\")"
99
+ ]
100
+ },
101
+ {
102
+ "cell_type": "markdown",
103
+ "metadata": {},
104
+ "source": [
105
+ "## 3. Lectura del PDF de Northwind\n",
106
+ "\n",
107
+ "Se extrae todo el texto del PDF usando pypdf. El contenido completo se almacena como un string y se inyecta en el prompt del sistema para que el LLM responda basandose exclusivamente en el documento.\n",
108
+ "\n",
109
+ "No se fragmenta ni se vectoriza el texto: se pasa completo. Esto es suficiente para documentos de hasta ~50 paginas con los modelos actuales de Ollama."
110
+ ]
111
+ },
112
+ {
113
+ "cell_type": "code",
114
+ "execution_count": null,
115
+ "metadata": {},
116
+ "outputs": [],
117
+ "source": [
118
+ "def leer_pdf(pdf_path: str) -> str:\n",
119
+ " \"\"\"\n",
120
+ " Extrae todo el texto del PDF de Northwind usando pypdf.\n",
121
+ " Retorna una cadena con el contenido completo del documento.\n",
122
+ "\n",
123
+ " El texto se usa directamente en el prompt del LLM de QA,\n",
124
+ " sin fragmentacion ni vectorizacion (no es RAG).\n",
125
+ "\n",
126
+ " Args:\n",
127
+ " pdf_path: Ruta al archivo PDF de Northwind.\n",
128
+ "\n",
129
+ " Returns:\n",
130
+ " String con el texto completo del PDF.\n",
131
+ "\n",
132
+ " Raises:\n",
133
+ " FileNotFoundError: Si el archivo no existe en la ruta indicada.\n",
134
+ " \"\"\"\n",
135
+ " path = Path(pdf_path)\n",
136
+ " if not path.exists():\n",
137
+ " raise FileNotFoundError(\n",
138
+ " f\"PDF no encontrado: {pdf_path}\\n\"\n",
139
+ " \"Coloca el archivo PDF de Northwind en el mismo directorio que este notebook.\"\n",
140
+ " )\n",
141
+ "\n",
142
+ " reader = PdfReader(pdf_path)\n",
143
+ " paginas = []\n",
144
+ " for i, page in enumerate(reader.pages):\n",
145
+ " texto = page.extract_text() or \"\"\n",
146
+ " paginas.append(f\"--- Pagina {i + 1} ---\\n{texto}\")\n",
147
+ "\n",
148
+ " contenido = \"\\n\\n\".join(paginas)\n",
149
+ " print(f\"PDF leido: {len(reader.pages)} paginas | {len(contenido):,} caracteres\")\n",
150
+ " return contenido\n",
151
+ "\n",
152
+ "\n",
153
+ "# Cargar el PDF de Northwind\n",
154
+ "contenido_northwind = leer_pdf(PDF_PATH)\n",
155
+ "\n",
156
+ "print(\"\\nVista previa del contenido (primeros 600 caracteres):\")\n",
157
+ "print(\"-\" * 60)\n",
158
+ "print(contenido_northwind[:600])"
159
+ ]
160
+ },
161
+ {
162
+ "cell_type": "markdown",
163
+ "metadata": {},
164
+ "source": [
165
+ "## 4. Inicializacion de los Modelos LLM\n",
166
+ "\n",
167
+ "Se usan dos instancias del mismo modelo con parametros diferentes:\n",
168
+ "\n",
169
+ "- `llm_qa`: responde preguntas sobre el contenido del PDF. Temperatura 0.3 para respuestas factuales pero con algo de fluidez.\n",
170
+ "- `llm_router`: clasifica la pregunta del usuario. Temperatura 0 y pocos tokens porque solo necesita generar una de las tres categorias."
171
+ ]
172
+ },
173
+ {
174
+ "cell_type": "code",
175
+ "execution_count": null,
176
+ "metadata": {},
177
+ "outputs": [],
178
+ "source": [
179
+ "# LLM principal: responde preguntas sobre el PDF de Northwind\n",
180
+ "llm_qa = ChatOllama(\n",
181
+ " model=MODEL_NAME,\n",
182
+ " base_url=OLLAMA_BASE_URL,\n",
183
+ " temperature=0.3, # respuestas factuales con algo de fluidez\n",
184
+ " num_predict=1024, # maximo de tokens a generar por respuesta\n",
185
+ ")\n",
186
+ "\n",
187
+ "# LLM del router: solo clasifica, no necesita creatividad\n",
188
+ "llm_router = ChatOllama(\n",
189
+ " model=MODEL_NAME,\n",
190
+ " base_url=OLLAMA_BASE_URL,\n",
191
+ " temperature=0, # totalmente determinista para clasificacion estable\n",
192
+ " num_predict=20, # solo necesita generar el nombre de la categoria\n",
193
+ ")\n",
194
+ "\n",
195
+ "# Verificacion de conexion con el servidor de Ollama\n",
196
+ "print(\"Verificando conexion con el modelo...\")\n",
197
+ "test = llm_router.invoke([HumanMessage(content=\"Responde solo: OK\")])\n",
198
+ "print(f\"Modelo listo. Respuesta de prueba: {test.content.strip()[:30]}\")\n",
199
+ "print(\"LLMs de Ollama inicializadas correctamente\")"
200
+ ]
201
+ },
202
+ {
203
+ "cell_type": "markdown",
204
+ "metadata": {},
205
+ "source": [
206
+ "## 5. Router LLM — Guardrail\n",
207
+ "\n",
208
+ "El router clasifica cada pregunta del usuario en una de tres categorias antes de procesarla:\n",
209
+ "\n",
210
+ "- `northwind_qa`: la pregunta se puede responder con el contenido del PDF (informacion de la empresa, productos, politicas, empleados).\n",
211
+ "- `northwind_bd`: la pregunta requiere consultar la base de datos Northwind (estadisticas, datos especificos de registros, volumenes).\n",
212
+ "- `chitchat`: la pregunta no es relevante para Northwind y debe rechazarse.\n",
213
+ "\n",
214
+ "El router usa el LLM a temperatura 0 para producir clasificaciones estables y repetibles."
215
+ ]
216
+ },
217
+ {
218
+ "cell_type": "code",
219
+ "execution_count": null,
220
+ "metadata": {},
221
+ "outputs": [],
222
+ "source": [
223
+ "# Categorias del router\n",
224
+ "CATEGORIA_QA = \"northwind_qa\" # respondible con el PDF\n",
225
+ "CATEGORIA_BD = \"northwind_bd\" # requiere consultar la base de datos\n",
226
+ "CATEGORIA_CHITCHAT = \"chitchat\" # fuera de dominio\n",
227
+ "\n",
228
+ "# Prompt del router\n",
229
+ "# El router solo genera el nombre de la categoria, nada mas\n",
230
+ "ROUTER_SYSTEM_PROMPT = f\"\"\"\\\n",
231
+ "Eres un clasificador de preguntas para el asistente de Northwind Traders.\n",
232
+ "Tu UNICA tarea es clasificar la pregunta del usuario en EXACTAMENTE UNA de estas tres categorias.\n",
233
+ "Responde SOLO con el nombre de la categoria, sin explicacion adicional.\n",
234
+ "\n",
235
+ "CATEGORIA 1: {CATEGORIA_QA}\n",
236
+ " La pregunta puede responderse con el documento corporativo de Northwind.\n",
237
+ " Incluye: descripcion de la empresa, categorias de productos, proveedores,\n",
238
+ " politicas comerciales, informacion de empleados, transportistas,\n",
239
+ " preguntas sobre que es Northwind, como funciona, que vende.\n",
240
+ "\n",
241
+ " Ejemplos:\n",
242
+ " - \"Que categorias de productos tiene Northwind?\"\n",
243
+ " - \"Quienes son los empleados de ventas?\"\n",
244
+ " - \"Que transportistas usa Northwind?\"\n",
245
+ " - \"Cual es la politica de descuentos?\"\n",
246
+ "\n",
247
+ "CATEGORIA 2: {CATEGORIA_BD}\n",
248
+ " La pregunta requiere consultar datos numericos o registros especificos\n",
249
+ " de la base de datos: conteos, totales, listados de pedidos, estadisticas.\n",
250
+ "\n",
251
+ " Ejemplos:\n",
252
+ " - \"Cuantos pedidos tiene QUICK-Stop?\"\n",
253
+ " - \"Cual es el producto mas vendido?\"\n",
254
+ " - \"Cuantos clientes hay en Alemania?\"\n",
255
+ " - \"Que empleado proceso mas ordenes?\"\n",
256
+ "\n",
257
+ "CATEGORIA 3: {CATEGORIA_CHITCHAT}\n",
258
+ " La pregunta no tiene relacion con Northwind Traders.\n",
259
+ "\n",
260
+ " Ejemplos:\n",
261
+ " - \"Como cocinar pasta?\"\n",
262
+ " - \"Quien gano el mundial?\"\n",
263
+ " - \"Hola, como estas?\"\n",
264
+ " - \"Cual es la capital de Francia?\"\n",
265
+ "\n",
266
+ "Responde UNICAMENTE con una de estas tres cadenas exactas:\n",
267
+ "{CATEGORIA_QA} | {CATEGORIA_BD} | {CATEGORIA_CHITCHAT}\n",
268
+ "\"\"\"\n",
269
+ "\n",
270
+ "\n",
271
+ "def clasificar_pregunta(pregunta: str) -> str:\n",
272
+ " \"\"\"\n",
273
+ " Clasifica la pregunta del usuario usando el LLM router.\n",
274
+ "\n",
275
+ " Args:\n",
276
+ " pregunta: Pregunta del usuario en lenguaje natural.\n",
277
+ "\n",
278
+ " Returns:\n",
279
+ " Nombre de la categoria: 'northwind_qa', 'northwind_bd' o 'chitchat'.\n",
280
+ " \"\"\"\n",
281
+ " messages = [\n",
282
+ " SystemMessage(content=ROUTER_SYSTEM_PROMPT),\n",
283
+ " HumanMessage(content=pregunta),\n",
284
+ " ]\n",
285
+ " response = llm_router.invoke(messages)\n",
286
+ " categoria = response.content.strip().lower()\n",
287
+ "\n",
288
+ " # Normalizar la respuesta al nombre exacto de la categoria\n",
289
+ " if CATEGORIA_BD in categoria:\n",
290
+ " return CATEGORIA_BD\n",
291
+ " if CATEGORIA_QA in categoria or \"northwind\" in categoria:\n",
292
+ " return CATEGORIA_QA\n",
293
+ " if CATEGORIA_CHITCHAT in categoria:\n",
294
+ " return CATEGORIA_CHITCHAT\n",
295
+ "\n",
296
+ " # Fallback conservador: si no esta claro, asumir que es sobre Northwind\n",
297
+ " return CATEGORIA_QA\n",
298
+ "\n",
299
+ "\n",
300
+ "# Prueba del router con preguntas de ejemplo\n",
301
+ "preguntas_prueba = [\n",
302
+ " \"Que categorias de productos tiene Northwind?\",\n",
303
+ " \"Cuantos pedidos proceso Margaret Peacock?\",\n",
304
+ " \"Como se llama la capital de Francia?\",\n",
305
+ "]\n",
306
+ "\n",
307
+ "print(\"Prueba del router:\")\n",
308
+ "for p in preguntas_prueba:\n",
309
+ " cat = clasificar_pregunta(p)\n",
310
+ " print(f\" [{cat:15s}] {p}\")"
311
+ ]
312
+ },
313
+ {
314
+ "cell_type": "markdown",
315
+ "metadata": {},
316
+ "source": [
317
+ "## 6. Pipeline QA — Respuesta Basada en el PDF\n",
318
+ "\n",
319
+ "El prompt de QA inyecta el contenido completo del PDF de Northwind en el mensaje de sistema. El LLM solo puede responder con informacion que este en el documento; si la respuesta no esta, debe decirlo explicitamente."
320
+ ]
321
+ },
322
+ {
323
+ "cell_type": "code",
324
+ "execution_count": null,
325
+ "metadata": {},
326
+ "outputs": [],
327
+ "source": [
328
+ "# Prompt del sistema para el nodo de QA\n",
329
+ "# El marcador {contexto} se reemplaza con el texto completo del PDF al construir la chain\n",
330
+ "QA_SYSTEM_PROMPT = \"\"\"\\\n",
331
+ "Eres el asistente virtual de Northwind Traders, empresa especializada en\n",
332
+ "importacion y exportacion de alimentos y bebidas finas.\n",
333
+ "\n",
334
+ "Tienes acceso al documento corporativo de la empresa:\n",
335
+ "=================================\n",
336
+ "{contexto}\n",
337
+ "=================================\n",
338
+ "\n",
339
+ "Instrucciones:\n",
340
+ "- Responde UNICAMENTE con informacion que este en el documento.\n",
341
+ "- Si la informacion no esta en el documento, di claramente: 'Esta informacion no esta en el documento de Northwind.'\n",
342
+ "- Responde siempre en espanol.\n",
343
+ "- Se preciso, profesional y amigable.\n",
344
+ "- Cita datos concretos del documento cuando sea relevante (precios, nombres, politicas).\n",
345
+ "\"\"\"\n",
346
+ "\n",
347
+ "# Mensaje de rechazo para preguntas de chitchat\n",
348
+ "MENSAJE_CHITCHAT = (\n",
349
+ " \"Lo siento, solo puedo responder preguntas relacionadas con Northwind Traders: \"\n",
350
+ " \"productos, empleados, politicas comerciales, pedidos y operaciones de la empresa. \"\n",
351
+ " \"Tienes alguna pregunta sobre Northwind?\"\n",
352
+ ")\n",
353
+ "\n",
354
+ "# Mensaje para redirigir a la base de datos\n",
355
+ "MENSAJE_BD = (\n",
356
+ " \"Esta pregunta requiere consultar datos especificos de la base de datos de Northwind. \"\n",
357
+ " \"Para ese tipo de consultas, usa el notebook de pipeline agentico Text-to-SQL \"\n",
358
+ " \"que puede ejecutar queries directamente sobre la base de datos.\"\n",
359
+ ")\n",
360
+ "\n",
361
+ "\n",
362
+ "def construir_chain_qa(contexto: str):\n",
363
+ " \"\"\"\n",
364
+ " Construye la chain de QA con el contexto del PDF de Northwind.\n",
365
+ "\n",
366
+ " El contexto se inyecta una sola vez al construir el prompt,\n",
367
+ " no en cada invocacion, lo que es mas eficiente.\n",
368
+ "\n",
369
+ " Args:\n",
370
+ " contexto: Texto completo del PDF de Northwind.\n",
371
+ "\n",
372
+ " Returns:\n",
373
+ " Tuple (chain, contexto) lista para usar en el pipeline.\n",
374
+ " \"\"\"\n",
375
+ " prompt = ChatPromptTemplate.from_messages([\n",
376
+ " (\"system\", QA_SYSTEM_PROMPT.format(contexto=contexto)),\n",
377
+ " (\"human\", \"{pregunta}\"),\n",
378
+ " ])\n",
379
+ " # Chain: prompt -> LLM de QA -> extraccion de texto\n",
380
+ " chain = prompt | llm_qa | StrOutputParser()\n",
381
+ " return chain, contexto\n",
382
+ "\n",
383
+ "\n",
384
+ "# Construir la chain con el contenido del PDF ya cargado\n",
385
+ "chain_qa, ctx = construir_chain_qa(contenido_northwind)\n",
386
+ "print(\"Chain QA construida con el contexto del PDF de Northwind\")"
387
+ ]
388
+ },
389
+ {
390
+ "cell_type": "markdown",
391
+ "metadata": {},
392
+ "source": [
393
+ "## 7. Funcion Principal del Pipeline\n",
394
+ "\n",
395
+ "La funcion `responder` integra el router y el pipeline QA. Primero clasifica la pregunta y luego decide que hacer con ella."
396
+ ]
397
+ },
398
+ {
399
+ "cell_type": "code",
400
+ "execution_count": null,
401
+ "metadata": {},
402
+ "outputs": [],
403
+ "source": [
404
+ "def responder(pregunta: str, chain, contexto: str) -> dict:\n",
405
+ " \"\"\"\n",
406
+ " Pipeline completo: clasifica la pregunta y genera la respuesta.\n",
407
+ "\n",
408
+ " Flujo:\n",
409
+ " 1. El router LLM clasifica la pregunta.\n",
410
+ " 2. Si es northwind_qa: el LLM de QA responde usando el PDF.\n",
411
+ " 3. Si es northwind_bd: se devuelve un mensaje indicando usar el Text-to-SQL.\n",
412
+ " 4. Si es chitchat: se devuelve el mensaje de rechazo sin llamar al LLM.\n",
413
+ "\n",
414
+ " Args:\n",
415
+ " pregunta: Pregunta del usuario.\n",
416
+ " chain: Chain QA construida con el contexto del PDF.\n",
417
+ " contexto: Texto completo del PDF (no se usa en este flujo, por compatibilidad).\n",
418
+ "\n",
419
+ " Returns:\n",
420
+ " Diccionario con 'pregunta', 'categoria' y 'respuesta'.\n",
421
+ " \"\"\"\n",
422
+ " # Paso 1: clasificar la pregunta\n",
423
+ " categoria = clasificar_pregunta(pregunta)\n",
424
+ " print(f\"[router] '{pregunta[:60]}...' -> {categoria}\")\n",
425
+ "\n",
426
+ " # Paso 2: generar la respuesta segun la categoria\n",
427
+ " if categoria == CATEGORIA_QA:\n",
428
+ " respuesta = chain.invoke({\"pregunta\": pregunta})\n",
429
+ " elif categoria == CATEGORIA_BD:\n",
430
+ " respuesta = MENSAJE_BD\n",
431
+ " else: # chitchat\n",
432
+ " respuesta = MENSAJE_CHITCHAT\n",
433
+ "\n",
434
+ " return {\n",
435
+ " \"pregunta\": pregunta,\n",
436
+ " \"categoria\": categoria,\n",
437
+ " \"respuesta\": respuesta,\n",
438
+ " }"
439
+ ]
440
+ },
441
+ {
442
+ "cell_type": "markdown",
443
+ "metadata": {},
444
+ "source": [
445
+ "## 8. Ejemplos de Preguntas sobre Northwind"
446
+ ]
447
+ },
448
+ {
449
+ "cell_type": "code",
450
+ "execution_count": null,
451
+ "metadata": {},
452
+ "outputs": [],
453
+ "source": [
454
+ "# Ejemplo 1: pregunta sobre el contenido del PDF (categoria northwind_qa)\n",
455
+ "r1 = responder(\n",
456
+ " \"Cuales son las categorias de productos de Northwind Traders?\",\n",
457
+ " chain_qa, ctx\n",
458
+ ")\n",
459
+ "print(f\"\\nCategoria : {r1['categoria']}\")\n",
460
+ "print(f\"Respuesta : {r1['respuesta']}\")"
461
+ ]
462
+ },
463
+ {
464
+ "cell_type": "code",
465
+ "execution_count": null,
466
+ "metadata": {},
467
+ "outputs": [],
468
+ "source": [
469
+ "# Ejemplo 2: pregunta sobre empleados (categoria northwind_qa)\n",
470
+ "r2 = responder(\n",
471
+ " \"Quienes son los empleados del equipo de ventas de Northwind?\",\n",
472
+ " chain_qa, ctx\n",
473
+ ")\n",
474
+ "print(f\"\\nCategoria : {r2['categoria']}\")\n",
475
+ "print(f\"Respuesta : {r2['respuesta']}\")"
476
+ ]
477
+ },
478
+ {
479
+ "cell_type": "code",
480
+ "execution_count": null,
481
+ "metadata": {},
482
+ "outputs": [],
483
+ "source": [
484
+ "# Ejemplo 3: pregunta sobre transportistas (categoria northwind_qa)\n",
485
+ "r3 = responder(\n",
486
+ " \"Que transportistas usa Northwind para los envios?\",\n",
487
+ " chain_qa, ctx\n",
488
+ ")\n",
489
+ "print(f\"\\nCategoria : {r3['categoria']}\")\n",
490
+ "print(f\"Respuesta : {r3['respuesta']}\")"
491
+ ]
492
+ },
493
+ {
494
+ "cell_type": "code",
495
+ "execution_count": null,
496
+ "metadata": {},
497
+ "outputs": [],
498
+ "source": [
499
+ "# Ejemplo 4: pregunta que requiere la base de datos (categoria northwind_bd)\n",
500
+ "r4 = responder(\n",
501
+ " \"Cuantos pedidos tiene el cliente QUICK-Stop en la base de datos?\",\n",
502
+ " chain_qa, ctx\n",
503
+ ")\n",
504
+ "print(f\"\\nCategoria : {r4['categoria']}\")\n",
505
+ "print(f\"Respuesta : {r4['respuesta']}\")"
506
+ ]
507
+ },
508
+ {
509
+ "cell_type": "code",
510
+ "execution_count": null,
511
+ "metadata": {},
512
+ "outputs": [],
513
+ "source": [
514
+ "# Ejemplo 5: pregunta de chitchat (categoria chitchat)\n",
515
+ "r5 = responder(\n",
516
+ " \"Como se prepara una buena pasta carbonara?\",\n",
517
+ " chain_qa, ctx\n",
518
+ ")\n",
519
+ "print(f\"\\nCategoria : {r5['categoria']}\")\n",
520
+ "print(f\"Respuesta : {r5['respuesta']}\")"
521
+ ]
522
+ },
523
+ {
524
+ "cell_type": "code",
525
+ "execution_count": null,
526
+ "metadata": {},
527
+ "outputs": [],
528
+ "source": [
529
+ "# Ejemplo 6: pregunta sobre politica comercial (categoria northwind_qa)\n",
530
+ "r6 = responder(\n",
531
+ " \"Que politica de descuentos tiene Northwind para sus clientes?\",\n",
532
+ " chain_qa, ctx\n",
533
+ ")\n",
534
+ "print(f\"\\nCategoria : {r6['categoria']}\")\n",
535
+ "print(f\"Respuesta : {r6['respuesta']}\")"
536
+ ]
537
+ },
538
+ {
539
+ "cell_type": "markdown",
540
+ "metadata": {},
541
+ "source": [
542
+ "## 9. Evaluacion en Batch\n",
543
+ "\n",
544
+ "Procesamos un conjunto de preguntas de prueba en batch para evaluar la precision del router y la calidad de las respuestas. Util para comparar modelos o ajustar el prompt del router."
545
+ ]
546
+ },
547
+ {
548
+ "cell_type": "code",
549
+ "execution_count": null,
550
+ "metadata": {},
551
+ "outputs": [],
552
+ "source": [
553
+ "import pandas as pd\n",
554
+ "\n",
555
+ "# Conjunto de preguntas de prueba con categoria esperada\n",
556
+ "preguntas_evaluacion = [\n",
557
+ " # Northwind QA (respondibles con el PDF)\n",
558
+ " {\"pregunta\": \"Que es Northwind Traders?\", \"esperado\": CATEGORIA_QA},\n",
559
+ " {\"pregunta\": \"Cuales son los productos de la categoria Seafood?\", \"esperado\": CATEGORIA_QA},\n",
560
+ " {\"pregunta\": \"Quien es Andrew Fuller en Northwind?\", \"esperado\": CATEGORIA_QA},\n",
561
+ " {\"pregunta\": \"Que paises son clientes de Northwind?\", \"esperado\": CATEGORIA_QA},\n",
562
+ " {\"pregunta\": \"Cuanto cuesta el Cote de Blaye?\", \"esperado\": CATEGORIA_QA},\n",
563
+ " # Northwind BD (requieren consultar la base de datos)\n",
564
+ " {\"pregunta\": \"Cual es el total de revenue de Northwind este anio?\", \"esperado\": CATEGORIA_BD},\n",
565
+ " {\"pregunta\": \"Cuantos clientes hay en total en la base de datos?\", \"esperado\": CATEGORIA_BD},\n",
566
+ " {\"pregunta\": \"Que empleado tiene mas ordenes procesadas?\", \"esperado\": CATEGORIA_BD},\n",
567
+ " # Chitchat (fuera de dominio)\n",
568
+ " {\"pregunta\": \"Cuantos gramos tiene un kilogramo?\", \"esperado\": CATEGORIA_CHITCHAT},\n",
569
+ " {\"pregunta\": \"Recomiendame una pelicula de ciencia ficcion\", \"esperado\": CATEGORIA_CHITCHAT},\n",
570
+ " {\"pregunta\": \"Como esta el clima en Madrid hoy?\", \"esperado\": CATEGORIA_CHITCHAT},\n",
571
+ "]\n",
572
+ "\n",
573
+ "# Ejecutar el router en cada pregunta\n",
574
+ "resultados = []\n",
575
+ "for item in preguntas_evaluacion:\n",
576
+ " categoria_real = clasificar_pregunta(item[\"pregunta\"])\n",
577
+ " resultados.append({\n",
578
+ " \"pregunta\": item[\"pregunta\"],\n",
579
+ " \"esperado\": item[\"esperado\"],\n",
580
+ " \"obtenido\": categoria_real,\n",
581
+ " \"correcto\": categoria_real == item[\"esperado\"],\n",
582
+ " })\n",
583
+ "\n",
584
+ "df_eval = pd.DataFrame(resultados)\n",
585
+ "precision = df_eval[\"correcto\"].mean() * 100\n",
586
+ "\n",
587
+ "print(f\"\\nPrecision del router: {precision:.1f}%\")\n",
588
+ "print(\"-\" * 70)\n",
589
+ "df_eval"
590
+ ]
591
+ },
592
+ {
593
+ "cell_type": "code",
594
+ "execution_count": null,
595
+ "metadata": {},
596
+ "outputs": [],
597
+ "source": [
598
+ "# Resumen de resultados de la evaluacion\n",
599
+ "print(\"\\nResumen del pipeline Northwind QA\")\n",
600
+ "print(\"=\" * 50)\n",
601
+ "print(f\" Total preguntas evaluadas : {len(resultados)}\")\n",
602
+ "print(f\" Clasificadas correctamente : {df_eval['correcto'].sum()}\")\n",
603
+ "print(f\" Precision del router : {precision:.1f}%\")\n",
604
+ "print(f\" Modelo usado : {MODEL_NAME} (Ollama local)\")\n",
605
+ "print(f\" PDF fuente : {PDF_PATH}\")\n",
606
+ "print(f\" Caracteres en el PDF : {len(contenido_northwind):,}\")"
607
+ ]
608
+ },
609
+ {
610
+ "cell_type": "markdown",
611
+ "metadata": {},
612
+ "source": [
613
+ "## 10. Modo Interactivo — Chat en Bucle"
614
+ ]
615
+ },
616
+ {
617
+ "cell_type": "code",
618
+ "execution_count": null,
619
+ "metadata": {},
620
+ "outputs": [],
621
+ "source": [
622
+ "def chat_interactivo() -> None:\n",
623
+ " \"\"\"\n",
624
+ " Modo chat interactivo para el asistente de Northwind Traders.\n",
625
+ " Escribe 'salir' para terminar la sesion.\n",
626
+ " Usa el pipeline completo (router + QA) en cada mensaje.\n",
627
+ " \"\"\"\n",
628
+ " print(\"\\nAsistente Northwind Traders (Ollama local)\")\n",
629
+ " print(f\"Modelo : {MODEL_NAME}\")\n",
630
+ " print(\"Escribe 'salir' para terminar.\\n\")\n",
631
+ "\n",
632
+ " while True:\n",
633
+ " try:\n",
634
+ " pregunta = input(\"Tu: \").strip()\n",
635
+ " except (EOFError, KeyboardInterrupt):\n",
636
+ " print(\"\\nHasta luego.\")\n",
637
+ " break\n",
638
+ "\n",
639
+ " if not pregunta:\n",
640
+ " continue\n",
641
+ " if pregunta.lower() in (\"salir\", \"exit\", \"quit\", \"q\"):\n",
642
+ " print(\"Hasta luego.\")\n",
643
+ " break\n",
644
+ "\n",
645
+ " r = responder(pregunta, chain_qa, ctx)\n",
646
+ " print(f\"\\nAsistente [{r['categoria']}]: {r['respuesta']}\\n\")\n",
647
+ "\n",
648
+ "\n",
649
+ "# Descomenta para iniciar el chat interactivo:\n",
650
+ "# chat_interactivo()"
651
+ ]
652
+ },
653
+ {
654
+ "cell_type": "markdown",
655
+ "metadata": {},
656
+ "source": [
657
+ "## 11. Cambiar de Modelo en Caliente\n",
658
+ "\n",
659
+ "Puedes comparar distintos modelos de Ollama sin reiniciar el notebook. Util para evaluar si llama3.2 vs mistral vs qwen2.5 da mejores respuestas sobre el PDF de Northwind."
660
+ ]
661
+ },
662
+ {
663
+ "cell_type": "code",
664
+ "execution_count": null,
665
+ "metadata": {},
666
+ "outputs": [],
667
+ "source": [
668
+ "def cambiar_modelo(nuevo_modelo: str) -> None:\n",
669
+ " \"\"\"\n",
670
+ " Recrea los LLMs con un modelo diferente y reconstruye la chain QA.\n",
671
+ " Util para comparar modelos de Ollama sin reiniciar el notebook.\n",
672
+ "\n",
673
+ " Args:\n",
674
+ " nuevo_modelo: Nombre del modelo en Ollama (ej: 'mistral', 'qwen2.5', 'llama3.1').\n",
675
+ " \"\"\"\n",
676
+ " global llm_qa, llm_router, chain_qa, ctx, MODEL_NAME\n",
677
+ "\n",
678
+ " MODEL_NAME = nuevo_modelo\n",
679
+ " llm_qa = ChatOllama(\n",
680
+ " model=MODEL_NAME, base_url=OLLAMA_BASE_URL,\n",
681
+ " temperature=0.3, num_predict=1024,\n",
682
+ " )\n",
683
+ " llm_router = ChatOllama(\n",
684
+ " model=MODEL_NAME, base_url=OLLAMA_BASE_URL,\n",
685
+ " temperature=0, num_predict=20,\n",
686
+ " )\n",
687
+ " chain_qa, ctx = construir_chain_qa(contenido_northwind)\n",
688
+ " print(f\"Modelo cambiado a: {MODEL_NAME}\")\n",
689
+ "\n",
690
+ "\n",
691
+ "# Ejemplos de uso (descomenta el modelo que quieras probar):\n",
692
+ "# cambiar_modelo(\"mistral\")\n",
693
+ "# cambiar_modelo(\"qwen2.5\")\n",
694
+ "# cambiar_modelo(\"llama3.1\")\n",
695
+ "print(\"Funcion cambiar_modelo disponible\")"
696
+ ]
697
+ },
698
+ {
699
+ "cell_type": "markdown",
700
+ "metadata": {},
701
+ "source": [
702
+ "## Resumen\n",
703
+ "\n",
704
+ "En este notebook construimos un chatbot con guardrail para Northwind Traders usando Ollama y LangChain.\n",
705
+ "\n",
706
+ "El pipeline tiene tres componentes: el `leer_pdf` extrae el texto completo del PDF de Northwind y lo almacena como string; el router LLM clasifica cada pregunta en `northwind_qa`, `northwind_bd` o `chitchat` usando temperatura 0; y el pipeline QA inyecta el texto del PDF directamente en el prompt del sistema y genera respuestas basadas exclusivamente en el documento.\n",
707
+ "\n",
708
+ "La diferencia con RAG es que no se fragmenta ni vectoriza el PDF: el texto completo va en el prompt. Esto es mas simple y suficiente para documentos de tamano moderado. Para PDFs muy grandes (mas de 100 paginas) se recomienda usar un pipeline RAG con embeddings y recuperacion por similitud.\n",
709
+ "\n",
710
+ "Para consultas que requieren datos numericos de la base de datos, el router redirige al pipeline agentico Text-to-SQL del notebook anterior."
711
+ ]
712
+ }
713
+ ],
714
+ "metadata": {
715
+ "kernelspec": {
716
+ "display_name": "Python 3",
717
+ "language": "python",
718
+ "name": "python3"
719
+ },
720
+ "language_info": {
721
+ "name": "python",
722
+ "version": "3.9.0"
723
+ }
724
+ },
725
+ "nbformat": 4,
726
+ "nbformat_minor": 5
727
+ }