Jhonatan51998 commited on
Commit
abc30cc
·
verified ·
1 Parent(s): b90fa66

Upload notebooks/01_langchain_ollama_groq (2).ipynb with huggingface_hub

Browse files
notebooks/01_langchain_ollama_groq (2).ipynb ADDED
@@ -0,0 +1,1150 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "cells": [
3
+ {
4
+ "cell_type": "markdown",
5
+ "metadata": {},
6
+ "source": [
7
+ "# LangChain con Ollama y Groq\n",
8
+ "> Modelos de Lenguaje y Vision aplicados a Northwind Traders\n",
9
+ "\n",
10
+ "En este notebook exploraremos como integrar LangChain con dos proveedores de modelos de lenguaje usando como dominio de trabajo la base de datos **Northwind Traders**, una empresa ficticia de importacion y exportacion de alimentos y bebidas especiales.\n",
11
+ "\n",
12
+ "Todos los ejemplos giran alrededor de casos de uso reales que un analista o desarrollador de Northwind podria necesitar: consultas sobre productos, analisis de pedidos, soporte a vendedores, interpretacion de graficos de ventas, clasificacion de feedback de clientes, etc.\n",
13
+ "\n",
14
+ "Proveedores cubiertos:\n",
15
+ "\n",
16
+ "- **Ollama**: ejecuta modelos de lenguaje de forma local, sin internet ni API keys.\n",
17
+ "- **Groq**: inferencia de alta velocidad en la nube mediante una API.\n",
18
+ "\n",
19
+ "Temas del notebook:\n",
20
+ "\n",
21
+ "1. Configuracion del entorno y datos de Northwind\n",
22
+ "2. Modelos de lenguaje con Ollama\n",
23
+ "3. Modelos de lenguaje con Groq\n",
24
+ "4. Modelos de vision con Ollama\n",
25
+ "5. Modelos de vision con Groq\n",
26
+ "6. Comparacion entre proveedores\n",
27
+ "7. Batch processing sobre el catalogo"
28
+ ]
29
+ },
30
+ {
31
+ "cell_type": "markdown",
32
+ "metadata": {},
33
+ "source": [
34
+ "## Prerequisitos\n",
35
+ "\n",
36
+ "### Ollama\n",
37
+ "\n",
38
+ "Para correr modelos localmente necesitas tener Ollama instalado. Descargalo desde [https://ollama.com](https://ollama.com).\n",
39
+ "\n",
40
+ "Una vez instalado, descarga los modelos en tu terminal:\n",
41
+ "\n",
42
+ "```bash\n",
43
+ "ollama pull llama3.2\n",
44
+ "ollama pull llava\n",
45
+ "```\n",
46
+ "\n",
47
+ "Asegurate de que el servidor de Ollama este corriendo antes de ejecutar las celdas. Por defecto escucha en `http://localhost:11434`.\n",
48
+ "\n",
49
+ "### Groq\n",
50
+ "\n",
51
+ "Necesitas una API key de Groq. Obtenla gratis en [https://console.groq.com](https://console.groq.com).\n",
52
+ "\n",
53
+ "Crea un archivo `.env` en el mismo directorio del notebook:\n",
54
+ "\n",
55
+ "```\n",
56
+ "GROQ_API_KEY=tu_api_key_aqui\n",
57
+ "```"
58
+ ]
59
+ },
60
+ {
61
+ "cell_type": "markdown",
62
+ "metadata": {},
63
+ "source": [
64
+ "## 1. Instalacion de Dependencias"
65
+ ]
66
+ },
67
+ {
68
+ "cell_type": "code",
69
+ "execution_count": null,
70
+ "metadata": {},
71
+ "outputs": [],
72
+ "source": [
73
+ "!pip install langchain langchain-ollama langchain-groq langchain-core python-dotenv httpx pillow"
74
+ ]
75
+ },
76
+ {
77
+ "cell_type": "markdown",
78
+ "metadata": {},
79
+ "source": [
80
+ "## 2. Configuracion del Entorno y Datos de Northwind\n",
81
+ "\n",
82
+ "Cargamos las variables de entorno e inicializamos el contexto de Northwind Traders. Este contexto se inyectara en los prompts a lo largo del notebook para que el modelo tenga conocimiento del dominio sin necesidad de reentrenamiento."
83
+ ]
84
+ },
85
+ {
86
+ "cell_type": "code",
87
+ "execution_count": null,
88
+ "metadata": {},
89
+ "outputs": [],
90
+ "source": [
91
+ "import os\n",
92
+ "from dotenv import load_dotenv\n",
93
+ "\n",
94
+ "load_dotenv()\n",
95
+ "\n",
96
+ "# Si no tienes archivo .env puedes setear la clave directamente (solo para desarrollo local)\n",
97
+ "# os.environ[\"GROQ_API_KEY\"] = \"tu_api_key_aqui\"\n",
98
+ "\n",
99
+ "GROQ_API_KEY = os.getenv(\"GROQ_API_KEY\")\n",
100
+ "\n",
101
+ "if GROQ_API_KEY:\n",
102
+ " print(\"Groq API Key cargada correctamente.\")\n",
103
+ "else:\n",
104
+ " print(\"ADVERTENCIA: No se encontro GROQ_API_KEY. Las celdas de Groq no funcionaran.\")"
105
+ ]
106
+ },
107
+ {
108
+ "cell_type": "code",
109
+ "execution_count": null,
110
+ "metadata": {},
111
+ "outputs": [],
112
+ "source": [
113
+ "# Contexto de Northwind Traders que reutilizaremos en los prompts del notebook.\n",
114
+ "# En una aplicacion real, esta informacion vendria de una base de datos o un RAG pipeline.\n",
115
+ "\n",
116
+ "NORTHWIND_CONTEXT = \"\"\"\n",
117
+ "Northwind Traders es una empresa de importacion y exportacion de alimentos y bebidas especiales.\n",
118
+ "\n",
119
+ "CATEGORIAS DE PRODUCTOS: Beverages, Condiments, Confections, Dairy Products,\n",
120
+ "Grains/Cereals, Meat/Poultry, Produce, Seafood.\n",
121
+ "\n",
122
+ "PRODUCTOS DESTACADOS (nombre, precio unitario):\n",
123
+ "- Beverages : Chai $18.00 | Chang $19.00 | Cote de Blaye $263.50 | Chartreuse verte $18.00\n",
124
+ "- Dairy : Camembert Pierrot $34.00 | Gorgonzola Telino $12.50 | Flotemysost $21.50\n",
125
+ "- Seafood : Boston Crab Meat $18.40 | Nord-Ost Matjeshering $25.89 | Rogede sild $9.50\n",
126
+ "- Meat/Poultry : Mishi Kobe Niku $97.00 | Alice Mutton $39.00 | Thuringer Rostbratwurst $123.79\n",
127
+ "- Condiments : Aniseed Syrup $10.00 | Chef Anton Cajun Seasoning $22.00 | Louisiana Fiery Hot $21.05\n",
128
+ "\n",
129
+ "EQUIPO DE VENTAS:\n",
130
+ "- Nancy Davolio (Sales Rep, Americas East, $98,440 en ventas)\n",
131
+ "- Andrew Fuller (VP Sales, Americas)\n",
132
+ "- Janet Leverling (Sales Rep, Americas West, $121,008 en ventas)\n",
133
+ "- Margaret Peacock (Sales Rep, Northern Europe, $134,572 en ventas)\n",
134
+ "- Steven Buchanan (Sales Manager, Europe)\n",
135
+ "- Michael Suyama (Sales Rep, Southern Europe)\n",
136
+ "- Robert King (Sales Rep, British Isles, $87,320 en ventas)\n",
137
+ "- Laura Callahan (Inside Sales Coordinator)\n",
138
+ "- Anne Dodsworth (Sales Rep, Northern Europe)\n",
139
+ "\n",
140
+ "CLIENTES PRINCIPALES:\n",
141
+ "- ALFKI : Alfreds Futterkiste, Alemania\n",
142
+ "- ANATR : Ana Trujillo Emparedados, Mexico\n",
143
+ "- BERGS : Berglunds snabbkop, Suecia\n",
144
+ "- BOLID : Bolido Comidas preparadas, Espana\n",
145
+ "- QUICK : QUICK-Stop, Alemania\n",
146
+ "- RATTC : Rattlesnake Canyon Grocery, Estados Unidos\n",
147
+ "\n",
148
+ "TRANSPORTISTAS: Speedy Express | United Package | Federal Shipping\n",
149
+ "\"\"\"\n",
150
+ "\n",
151
+ "print(\"Contexto de Northwind Traders cargado.\")\n",
152
+ "print(f\"Longitud: {len(NORTHWIND_CONTEXT)} caracteres\")"
153
+ ]
154
+ },
155
+ {
156
+ "cell_type": "markdown",
157
+ "metadata": {},
158
+ "source": [
159
+ "## 3. Modelos de Lenguaje con Ollama\n",
160
+ "\n",
161
+ "### Que es Ollama?\n",
162
+ "\n",
163
+ "Ollama permite descargar y ejecutar LLMs directamente en tu maquina local. Para Northwind, las principales ventajas son:\n",
164
+ "\n",
165
+ "- **Privacidad**: los datos de clientes y pedidos nunca salen de la infraestructura propia.\n",
166
+ "- **Sin costo variable**: no hay cobro por tokens, util para procesar grandes volumenes de pedidos.\n",
167
+ "- **Sin latencia de red**: la inferencia es local, ideal para pipelines de datos internos.\n",
168
+ "\n",
169
+ "La integracion con LangChain se realiza a traves del paquete `langchain-ollama`."
170
+ ]
171
+ },
172
+ {
173
+ "cell_type": "markdown",
174
+ "metadata": {},
175
+ "source": [
176
+ "### 3.1. Invocacion Basica — Consulta sobre un Pedido\n",
177
+ "\n",
178
+ "El caso de uso mas simple es responder preguntas sobre pedidos del catalogo. Esto podria servir como base para un chatbot interno del equipo de ventas de Northwind."
179
+ ]
180
+ },
181
+ {
182
+ "cell_type": "code",
183
+ "execution_count": null,
184
+ "metadata": {},
185
+ "outputs": [],
186
+ "source": [
187
+ "from langchain_ollama import ChatOllama\n",
188
+ "\n",
189
+ "# Se instancia el modelo.\n",
190
+ "# temperature=0.0 produce respuestas deterministas, importante para calculos de negocio.\n",
191
+ "llm_ollama = ChatOllama(\n",
192
+ " model=\"llama3.2\",\n",
193
+ " temperature=0.0,\n",
194
+ ")\n",
195
+ "\n",
196
+ "# Calculo de pedido: caso tipico del equipo de ventas de Northwind\n",
197
+ "response = llm_ollama.invoke(\n",
198
+ " \"En Northwind Traders, el producto Cote de Blaye cuesta $263.50 y el Chang cuesta $19.00. \"\n",
199
+ " \"El cliente QUICK-Stop de Alemania quiere pedir 5 unidades de Cote de Blaye y 12 de Chang \"\n",
200
+ " \"con un descuento del 10% sobre el total. Calcula el subtotal, el descuento y el total final.\"\n",
201
+ ")\n",
202
+ "\n",
203
+ "print(response.content)"
204
+ ]
205
+ },
206
+ {
207
+ "cell_type": "markdown",
208
+ "metadata": {},
209
+ "source": [
210
+ "### 3.2. Mensajes Estructurados — Asistente de Ventas Interno\n",
211
+ "\n",
212
+ "Usando mensajes estructurados podemos darle al modelo un rol especifico: un asistente de ventas de Northwind. El `SystemMessage` define el comportamiento y el conocimiento del asistente; el `HumanMessage` es la consulta del vendedor.\n",
213
+ "\n",
214
+ "Ademas, usando `AIMessage` podemos simular historial de conversacion, lo que permite construir sesiones de atencion al cliente con memoria de contexto."
215
+ ]
216
+ },
217
+ {
218
+ "cell_type": "code",
219
+ "execution_count": null,
220
+ "metadata": {},
221
+ "outputs": [],
222
+ "source": [
223
+ "from langchain_core.messages import SystemMessage, HumanMessage, AIMessage\n",
224
+ "\n",
225
+ "# SystemMessage: define el rol y el contexto del asistente.\n",
226
+ "# HumanMessage: consulta del vendedor durante una llamada con un cliente.\n",
227
+ "messages = [\n",
228
+ " SystemMessage(\n",
229
+ " content=(\n",
230
+ " f\"Eres un asistente interno de ventas de Northwind Traders. \"\n",
231
+ " f\"Conoces el catalogo completo y las politicas comerciales. \"\n",
232
+ " f\"Ayudas al equipo de ventas con consultas sobre productos, precios y clientes. \"\n",
233
+ " f\"\\n\\nContexto de la empresa:\\n{NORTHWIND_CONTEXT}\"\n",
234
+ " )\n",
235
+ " ),\n",
236
+ " HumanMessage(\n",
237
+ " content=(\n",
238
+ " \"El cliente BERGS de Suecia quiere aumentar su pedido regular de Seafood. \"\n",
239
+ " \"Que productos de esa categoria les recomendarias y por que?\"\n",
240
+ " )\n",
241
+ " ),\n",
242
+ "]\n",
243
+ "\n",
244
+ "response = llm_ollama.invoke(messages)\n",
245
+ "print(response.content)"
246
+ ]
247
+ },
248
+ {
249
+ "cell_type": "code",
250
+ "execution_count": null,
251
+ "metadata": {},
252
+ "outputs": [],
253
+ "source": [
254
+ "# Conversacion multi-turno: el AIMessage representa una respuesta previa del asistente.\n",
255
+ "# Esto permite mantener el contexto entre mensajes en una sesion de ventas.\n",
256
+ "messages_historial = [\n",
257
+ " SystemMessage(\n",
258
+ " content=(\n",
259
+ " \"Eres el asistente de ventas de Northwind Traders. \"\n",
260
+ " \"Conoces el catalogo y las politicas comerciales de la empresa.\"\n",
261
+ " )\n",
262
+ " ),\n",
263
+ " HumanMessage(content=\"Cuales son nuestros productos de Dairy Products y sus precios?\"),\n",
264
+ " AIMessage(\n",
265
+ " content=(\n",
266
+ " \"En Dairy Products tenemos Camembert Pierrot ($34.00), Gorgonzola Telino ($12.50) \"\n",
267
+ " \"y Flotemysost ($21.50), entre otros. Son productos de alta rotacion en los mercados europeos.\"\n",
268
+ " )\n",
269
+ " ),\n",
270
+ " HumanMessage(\n",
271
+ " content=(\n",
272
+ " \"El cliente ALFKI de Alemania quiere hacer un pedido grande de Dairy Products \"\n",
273
+ " \"y pregunta si hay descuento por volumen. Que le respondo?\"\n",
274
+ " )\n",
275
+ " ),\n",
276
+ "]\n",
277
+ "\n",
278
+ "response = llm_ollama.invoke(messages_historial)\n",
279
+ "print(response.content)"
280
+ ]
281
+ },
282
+ {
283
+ "cell_type": "markdown",
284
+ "metadata": {},
285
+ "source": [
286
+ "### 3.3. Streaming — Reporte de Categoria en Tiempo Real\n",
287
+ "\n",
288
+ "El streaming muestra los tokens generados en tiempo real. Para Northwind esto es util en dashboards que muestran reportes de ventas o analisis de categorias mientras se generan, sin esperar a que el modelo complete todo el texto."
289
+ ]
290
+ },
291
+ {
292
+ "cell_type": "code",
293
+ "execution_count": null,
294
+ "metadata": {},
295
+ "outputs": [],
296
+ "source": [
297
+ "# Generacion de un reporte comercial de categoria en streaming.\n",
298
+ "# En una aplicacion real este texto apareceria progresivamente en el dashboard de ventas.\n",
299
+ "print(\"Generando reporte comercial: categoria Beverages\\n\")\n",
300
+ "print(\"-\" * 60)\n",
301
+ "\n",
302
+ "prompt_reporte = (\n",
303
+ " \"Genera un reporte comercial breve para el equipo de ventas de Northwind Traders \"\n",
304
+ " \"sobre la categoria Beverages. Incluye: descripcion de la categoria, perfil de cliente tipico, \"\n",
305
+ " \"estrategia de ventas recomendada y productos estrella. \"\n",
306
+ " \"Menciona especificamente Chai ($18), Chang ($19) y Cote de Blaye ($263.50). \"\n",
307
+ " \"El reporte debe ser practico, accionable y no superar los 4 parrafos.\"\n",
308
+ ")\n",
309
+ "\n",
310
+ "for chunk in llm_ollama.stream(prompt_reporte):\n",
311
+ " print(chunk.content, end=\"\", flush=True)\n",
312
+ "\n",
313
+ "print()"
314
+ ]
315
+ },
316
+ {
317
+ "cell_type": "markdown",
318
+ "metadata": {},
319
+ "source": [
320
+ "### 3.4. Prompt Templates — Generador de Descripciones de Producto\n",
321
+ "\n",
322
+ "Los `ChatPromptTemplate` permiten crear plantillas reutilizables con variables. Para Northwind, el caso ideal es generar descripciones estandarizadas para el catalogo: mismo estilo y estructura para cada producto, solo cambian los datos especificos."
323
+ ]
324
+ },
325
+ {
326
+ "cell_type": "code",
327
+ "execution_count": null,
328
+ "metadata": {},
329
+ "outputs": [],
330
+ "source": [
331
+ "from langchain_core.prompts import ChatPromptTemplate\n",
332
+ "from langchain_core.output_parsers import StrOutputParser\n",
333
+ "\n",
334
+ "# Template para generar descripciones de catalogo de productos Northwind.\n",
335
+ "# Las variables se reemplazan en cada invocacion; el estilo del texto es constante.\n",
336
+ "prompt_descripcion = ChatPromptTemplate.from_messages([\n",
337
+ " (\n",
338
+ " \"system\",\n",
339
+ " \"Eres el redactor de catalogo de Northwind Traders. \"\n",
340
+ " \"Escribes descripciones de producto atractivas y precisas de no mas de 3 oraciones \"\n",
341
+ " \"para el catalogo comercial. El tono es profesional pero accesible, \"\n",
342
+ " \"orientado a compradores B2B de alimentos gourmet.\",\n",
343
+ " ),\n",
344
+ " (\n",
345
+ " \"human\",\n",
346
+ " \"Escribe la descripcion para este producto:\\n\"\n",
347
+ " \"Nombre: {producto}\\n\"\n",
348
+ " \"Categoria: {categoria}\\n\"\n",
349
+ " \"Precio unitario: ${precio}\\n\"\n",
350
+ " \"Proveedor: {proveedor}\\n\"\n",
351
+ " \"Pais de origen: {origen}\",\n",
352
+ " ),\n",
353
+ "])\n",
354
+ "\n",
355
+ "# Chain: prompt -> modelo -> extraccion de texto\n",
356
+ "# El operador | encadena componentes (LCEL - LangChain Expression Language)\n",
357
+ "chain_descripcion = prompt_descripcion | llm_ollama | StrOutputParser()\n",
358
+ "\n",
359
+ "# Generamos descripciones para productos representativos del catalogo de Northwind\n",
360
+ "productos_catalogo = [\n",
361
+ " {\"producto\": \"Cote de Blaye\", \"categoria\": \"Beverages\", \"precio\": \"263.50\", \"proveedor\": \"Aux joyeux ecclesiastiques\", \"origen\": \"Francia\"},\n",
362
+ " {\"producto\": \"Camembert Pierrot\", \"categoria\": \"Dairy Products\", \"precio\": \"34.00\", \"proveedor\": \"Gai paturage\", \"origen\": \"Francia\"},\n",
363
+ " {\"producto\": \"Boston Crab Meat\", \"categoria\": \"Seafood\", \"precio\": \"18.40\", \"proveedor\": \"New England Seafood Cannery\",\"origen\": \"Estados Unidos\"},\n",
364
+ " {\"producto\": \"Mishi Kobe Niku\", \"categoria\": \"Meat/Poultry\", \"precio\": \"97.00\", \"proveedor\": \"Tokyo Traders\", \"origen\": \"Japon\"},\n",
365
+ "]\n",
366
+ "\n",
367
+ "for p in productos_catalogo:\n",
368
+ " descripcion = chain_descripcion.invoke(p)\n",
369
+ " print(f\"--- {p['producto']} ({p['categoria']}) ---\")\n",
370
+ " print(descripcion)\n",
371
+ " print()"
372
+ ]
373
+ },
374
+ {
375
+ "cell_type": "markdown",
376
+ "metadata": {},
377
+ "source": [
378
+ "## 4. Modelos de Lenguaje con Groq\n",
379
+ "\n",
380
+ "### Que es Groq?\n",
381
+ "\n",
382
+ "Groq es un proveedor de inferencia en la nube que utiliza hardware especializado (LPU) para ofrecer velocidades de generacion muy altas. Para Northwind, es especialmente util en:\n",
383
+ "\n",
384
+ "- Respuesta en tiempo real durante llamadas de ventas.\n",
385
+ "- Procesamiento rapido de grandes volumenes de pedidos.\n",
386
+ "- Analisis inmediato de alertas de inventario o retrasos en envios.\n",
387
+ "\n",
388
+ "Gracias a la abstraccion de LangChain, el mismo codigo funciona tanto con Ollama como con Groq simplemente cambiando la clase del modelo."
389
+ ]
390
+ },
391
+ {
392
+ "cell_type": "markdown",
393
+ "metadata": {},
394
+ "source": [
395
+ "### 4.1. Invocacion Basica con Groq — Analisis de Pedido"
396
+ ]
397
+ },
398
+ {
399
+ "cell_type": "code",
400
+ "execution_count": null,
401
+ "metadata": {},
402
+ "outputs": [],
403
+ "source": [
404
+ "from langchain_groq import ChatGroq\n",
405
+ "\n",
406
+ "# llama-3.1-8b-instant: rapido y eficiente, ideal para consultas frecuentes de ventas.\n",
407
+ "# Para analisis mas complejos se puede usar llama-3.3-70b-versatile.\n",
408
+ "llm_groq = ChatGroq(\n",
409
+ " model=\"llama-3.1-8b-instant\",\n",
410
+ " temperature=0.0,\n",
411
+ " api_key=GROQ_API_KEY,\n",
412
+ ")\n",
413
+ "\n",
414
+ "# Verificacion de politica de descuentos en un pedido de Northwind\n",
415
+ "response = llm_groq.invoke(\n",
416
+ " \"En Northwind Traders, el descuento maximo permitido por politica comercial es del 25%. \"\n",
417
+ " \"El cliente Rattlesnake Canyon Grocery (RATTC, USA) quiere comprar \"\n",
418
+ " \"10 unidades de Mishi Kobe Niku ($97.00 c/u) y pide un descuento del 20%. \"\n",
419
+ " \"Calcula el subtotal, verifica si el descuento es valido segun la politica, \"\n",
420
+ " \"y calcula el total final con el descuento aplicado.\"\n",
421
+ ")\n",
422
+ "\n",
423
+ "print(response.content)"
424
+ ]
425
+ },
426
+ {
427
+ "cell_type": "markdown",
428
+ "metadata": {},
429
+ "source": [
430
+ "### 4.2. Mensajes Estructurados — Sesion con el VP de Ventas\n",
431
+ "\n",
432
+ "Simulamos una conversacion multi-turno entre Andrew Fuller (VP de Ventas de Northwind) y un asistente de analisis. Este patron es la base para construir asistentes conversacionales con memoria de contexto en aplicaciones reales."
433
+ ]
434
+ },
435
+ {
436
+ "cell_type": "code",
437
+ "execution_count": null,
438
+ "metadata": {},
439
+ "outputs": [],
440
+ "source": [
441
+ "from langchain_core.messages import SystemMessage, HumanMessage, AIMessage\n",
442
+ "\n",
443
+ "# Conversacion entre Andrew Fuller (VP Sales) y el asistente de analisis.\n",
444
+ "# AIMessage representa la respuesta previa del asistente, simulando historial real.\n",
445
+ "messages = [\n",
446
+ " SystemMessage(\n",
447
+ " content=(\n",
448
+ " \"Eres un asistente de analisis de ventas de Northwind Traders. \"\n",
449
+ " \"Apoyas al VP de Ventas, Andrew Fuller, con analisis de rendimiento del equipo, \"\n",
450
+ " \"estrategia comercial y seguimiento de objetivos por region. \"\n",
451
+ " \"Eres directo, orientado a datos y propones acciones concretas.\"\n",
452
+ " )\n",
453
+ " ),\n",
454
+ " HumanMessage(\n",
455
+ " content=(\n",
456
+ " \"Margaret Peacock cerro $134,572 este ano y Janet Leverling $121,008. \"\n",
457
+ " \"Quien tuvo mejor desempeno y como se comparan con el umbral Gold de $130,000?\"\n",
458
+ " )\n",
459
+ " ),\n",
460
+ " AIMessage(\n",
461
+ " content=(\n",
462
+ " \"Margaret Peacock lidera con $134,572, superando el umbral Gold de $130,000 por $4,572. \"\n",
463
+ " \"Janet Leverling con $121,008 no alcanzo el umbral Gold pero supera ampliamente el Silver ($90,000). \"\n",
464
+ " \"Margaret califica para el bono de $4,000 y aumento del 8%; Janet para $2,500 y aumento del 5%.\"\n",
465
+ " )\n",
466
+ " ),\n",
467
+ " HumanMessage(\n",
468
+ " content=(\n",
469
+ " \"Nancy Davolio genero $98,440 y Robert King $87,320. \"\n",
470
+ " \"Considerando los cuatro, que estrategia le recomiendas al equipo para el proximo trimestre \"\n",
471
+ " \"para llevar a Robert King al nivel Silver?\"\n",
472
+ " )\n",
473
+ " ),\n",
474
+ "]\n",
475
+ "\n",
476
+ "response = llm_groq.invoke(messages)\n",
477
+ "print(response.content)"
478
+ ]
479
+ },
480
+ {
481
+ "cell_type": "markdown",
482
+ "metadata": {},
483
+ "source": [
484
+ "### 4.3. Prompt Templates con Groq — Generador de Emails a Clientes\n",
485
+ "\n",
486
+ "Un caso de uso muy practico es automatizar la redaccion de emails a clientes: confirmaciones de pedido, notificaciones de retraso, propuestas de nuevos productos. El template estandariza el tono y la estructura mientras personaliza por cliente y situacion."
487
+ ]
488
+ },
489
+ {
490
+ "cell_type": "code",
491
+ "execution_count": null,
492
+ "metadata": {},
493
+ "outputs": [],
494
+ "source": [
495
+ "from langchain_core.prompts import ChatPromptTemplate\n",
496
+ "from langchain_core.output_parsers import StrOutputParser\n",
497
+ "\n",
498
+ "# Template reutilizable para distintos tipos de comunicacion con clientes de Northwind\n",
499
+ "prompt_email = ChatPromptTemplate.from_messages([\n",
500
+ " (\n",
501
+ " \"system\",\n",
502
+ " \"Eres el redactor de comunicaciones comerciales de Northwind Traders. \"\n",
503
+ " \"Redactas emails profesionales y cordiales en nombre del equipo de ventas. \"\n",
504
+ " \"El tono es formal pero cercano, apropiado para relaciones B2B de larga data. \"\n",
505
+ " \"Incluye siempre un asunto apropiado al inicio del email.\",\n",
506
+ " ),\n",
507
+ " (\n",
508
+ " \"human\",\n",
509
+ " \"Redacta un email para el siguiente caso:\\n\"\n",
510
+ " \"Cliente: {nombre_cliente} (ID: {id_cliente}), {pais}\\n\"\n",
511
+ " \"Situacion: {situacion}\\n\"\n",
512
+ " \"Vendedor responsable: {vendedor}\",\n",
513
+ " ),\n",
514
+ "])\n",
515
+ "\n",
516
+ "chain_email = prompt_email | llm_groq | StrOutputParser()\n",
517
+ "\n",
518
+ "# Caso 1: Confirmacion de pedido grande — cliente QUICK-Stop\n",
519
+ "email_confirmacion = chain_email.invoke({\n",
520
+ " \"nombre_cliente\": \"QUICK-Stop\",\n",
521
+ " \"id_cliente\": \"QUICK\",\n",
522
+ " \"pais\": \"Alemania\",\n",
523
+ " \"situacion\": (\n",
524
+ " \"El cliente acaba de confirmar su pedido mas grande del ano: 50 unidades de Cote de Blaye \"\n",
525
+ " \"y 30 de Camembert Pierrot por un total de $14,192.50. El envio se realizara via United Package \"\n",
526
+ " \"con entrega estimada en 5 dias habiles.\"\n",
527
+ " ),\n",
528
+ " \"vendedor\": \"Margaret Peacock\",\n",
529
+ "})\n",
530
+ "\n",
531
+ "print(\"EMAIL 1 — Confirmacion de pedido grande:\")\n",
532
+ "print(\"-\" * 60)\n",
533
+ "print(email_confirmacion)\n",
534
+ "print()"
535
+ ]
536
+ },
537
+ {
538
+ "cell_type": "code",
539
+ "execution_count": null,
540
+ "metadata": {},
541
+ "outputs": [],
542
+ "source": [
543
+ "# Caso 2: Notificacion de retraso en envio — cliente RATTC\n",
544
+ "email_retraso = chain_email.invoke({\n",
545
+ " \"nombre_cliente\": \"Rattlesnake Canyon Grocery\",\n",
546
+ " \"id_cliente\": \"RATTC\",\n",
547
+ " \"pais\": \"Estados Unidos\",\n",
548
+ " \"situacion\": (\n",
549
+ " \"El pedido #10789 que incluye Boston Crab Meat y Nord-Ost Matjeshering tendra un retraso \"\n",
550
+ " \"de 3 dias por problemas operativos del transportista Federal Shipping. \"\n",
551
+ " \"El cliente esperaba la entrega el viernes proxima. Como compensacion, \"\n",
552
+ " \"Northwind ofrece un 5% de descuento en el proximo pedido.\"\n",
553
+ " ),\n",
554
+ " \"vendedor\": \"Janet Leverling\",\n",
555
+ "})\n",
556
+ "\n",
557
+ "print(\"EMAIL 2 — Notificacion de retraso con oferta de compensacion:\")\n",
558
+ "print(\"-\" * 60)\n",
559
+ "print(email_retraso)"
560
+ ]
561
+ },
562
+ {
563
+ "cell_type": "markdown",
564
+ "metadata": {},
565
+ "source": [
566
+ "### 4.4. Streaming con Groq — Analisis de Desempeno de Empleado\n",
567
+ "\n",
568
+ "Usamos streaming para generar un analisis de desempeno anual que en una aplicacion real se mostraria progresivamente en el portal de RRHH de Northwind."
569
+ ]
570
+ },
571
+ {
572
+ "cell_type": "code",
573
+ "execution_count": null,
574
+ "metadata": {},
575
+ "outputs": [],
576
+ "source": [
577
+ "print(\"Generando analisis de desempeno: Robert King\\n\")\n",
578
+ "print(\"-\" * 60)\n",
579
+ "\n",
580
+ "prompt_desempeno = (\n",
581
+ " \"Genera un analisis de desempeno anual para Robert King, Sales Representative de \"\n",
582
+ " \"Northwind Traders asignado al territorio British Isles. \"\n",
583
+ " \"Datos del ano: ventas netas $87,320 (nivel Bronze segun programa de incentivos, \"\n",
584
+ " \"umbral Silver es $90,000), 15 nuevas cuentas abiertas, \"\n",
585
+ " \"valor promedio de pedido $1,420, principales categorias vendidas: Beverages y Seafood. \"\n",
586
+ " \"El analisis debe incluir: resumen de logros, brecha con el nivel Silver, \"\n",
587
+ " \"areas de mejora especificas y 3 objetivos concretos para el proximo ano. \"\n",
588
+ " \"Formato: reporte interno de RRHH, maximo 4 secciones.\"\n",
589
+ ")\n",
590
+ "\n",
591
+ "for chunk in llm_groq.stream(prompt_desempeno):\n",
592
+ " print(chunk.content, end=\"\", flush=True)\n",
593
+ "\n",
594
+ "print()"
595
+ ]
596
+ },
597
+ {
598
+ "cell_type": "markdown",
599
+ "metadata": {},
600
+ "source": [
601
+ "## 5. Modelos de Vision con Ollama\n",
602
+ "\n",
603
+ "### VLMs aplicados a Northwind\n",
604
+ "\n",
605
+ "Los Vision Language Models (VLMs) procesan texto e imagenes de forma conjunta. Para Northwind esto abre casos de uso como:\n",
606
+ "\n",
607
+ "- Interpretar graficos de ventas exportados desde el ERP o herramientas BI.\n",
608
+ "- Analizar imagenes de productos enviadas por proveedores para evaluar inclusion en el catalogo.\n",
609
+ "- Leer etiquetas de productos para generar descripciones automaticas.\n",
610
+ "- Procesar documentos de envio o facturas escaneadas.\n",
611
+ "\n",
612
+ "Con Ollama, el modelo de vision principal es **LLaVA**."
613
+ ]
614
+ },
615
+ {
616
+ "cell_type": "markdown",
617
+ "metadata": {},
618
+ "source": [
619
+ "### 5.1. Preparacion de Imagenes\n",
620
+ "\n",
621
+ "Para enviar imagenes al modelo es necesario convertirlas a base64. En produccion estas imagenes podrian venir de un bucket S3 con fotos de productos, de exportaciones del ERP, o de adjuntos de email de proveedores."
622
+ ]
623
+ },
624
+ {
625
+ "cell_type": "code",
626
+ "execution_count": null,
627
+ "metadata": {},
628
+ "outputs": [],
629
+ "source": [
630
+ "import base64\n",
631
+ "import httpx\n",
632
+ "from IPython.display import Image, display\n",
633
+ "\n",
634
+ "def image_url_to_base64(url: str) -> str:\n",
635
+ " \"\"\"\n",
636
+ " Descarga una imagen desde una URL y la convierte a base64.\n",
637
+ "\n",
638
+ " En produccion de Northwind esta funcion podria adaptarse para\n",
639
+ " leer desde un bucket S3 o un servidor de archivos interno.\n",
640
+ "\n",
641
+ " Args:\n",
642
+ " url: URL publica de la imagen.\n",
643
+ "\n",
644
+ " Returns:\n",
645
+ " String con la imagen codificada en base64.\n",
646
+ " \"\"\"\n",
647
+ " resp = httpx.get(url)\n",
648
+ " return base64.standard_b64encode(resp.content).decode(\"utf-8\")\n",
649
+ "\n",
650
+ "\n",
651
+ "def image_file_to_base64(filepath: str) -> str:\n",
652
+ " \"\"\"\n",
653
+ " Lee una imagen desde el sistema de archivos local y la convierte a base64.\n",
654
+ "\n",
655
+ " Util para imagenes de productos almacenadas en el servidor de Northwind.\n",
656
+ "\n",
657
+ " Args:\n",
658
+ " filepath: Ruta local al archivo de imagen.\n",
659
+ "\n",
660
+ " Returns:\n",
661
+ " String con la imagen codificada en base64.\n",
662
+ " \"\"\"\n",
663
+ " with open(filepath, \"rb\") as f:\n",
664
+ " return base64.standard_b64encode(f.read()).decode(\"utf-8\")\n",
665
+ "\n",
666
+ "\n",
667
+ "# Grafico de barras publico usado como simulacion de un reporte de ventas por categoria\n",
668
+ "# exportado desde el sistema BI de Northwind (Power BI, Tableau, etc.)\n",
669
+ "IMAGE_URL_CHART = \"https://upload.wikimedia.org/wikipedia/commons/thumb/1/11/Simple_bar_chart.png/320px-Simple_bar_chart.png\"\n",
670
+ "\n",
671
+ "image_chart_b64 = image_url_to_base64(IMAGE_URL_CHART)\n",
672
+ "\n",
673
+ "display(Image(url=IMAGE_URL_CHART, width=350))\n",
674
+ "print(f\"Imagen cargada. Primeros 80 chars del base64: {image_chart_b64[:80]}...\")"
675
+ ]
676
+ },
677
+ {
678
+ "cell_type": "markdown",
679
+ "metadata": {},
680
+ "source": [
681
+ "### 5.2. Analisis de Grafico de Ventas con LLaVA\n",
682
+ "\n",
683
+ "Enviamos el grafico al modelo con contexto especifico de Northwind. Este flujo podria automatizarse para generar interpretaciones textuales de reportes visuales del ERP sin intervencion humana."
684
+ ]
685
+ },
686
+ {
687
+ "cell_type": "code",
688
+ "execution_count": null,
689
+ "metadata": {},
690
+ "outputs": [],
691
+ "source": [
692
+ "from langchain_ollama import ChatOllama\n",
693
+ "from langchain_core.messages import HumanMessage\n",
694
+ "\n",
695
+ "# LLaVA: modelo multimodal que procesa texto e imagenes simultaneamente.\n",
696
+ "vision_ollama = ChatOllama(\n",
697
+ " model=\"llava\",\n",
698
+ " temperature=0.0,\n",
699
+ ")\n",
700
+ "\n",
701
+ "# Mensaje multimodal: lista con un elemento de texto y uno de imagen.\n",
702
+ "# El contexto de Northwind se incluye en el texto para que el modelo\n",
703
+ "# interprete el grafico dentro del dominio correcto.\n",
704
+ "message = HumanMessage(\n",
705
+ " content=[\n",
706
+ " {\n",
707
+ " \"type\": \"text\",\n",
708
+ " \"text\": (\n",
709
+ " \"Eres un analista de ventas de Northwind Traders. Esta imagen es un grafico \"\n",
710
+ " \"de barras del reporte mensual de ventas por categoria de producto. \"\n",
711
+ " \"Las categorias de Northwind son: Beverages, Condiments, Confections, \"\n",
712
+ " \"Dairy Products, Grains/Cereals, Meat/Poultry, Produce, Seafood. \"\n",
713
+ " \"Describe el grafico: cuantas barras hay, cuales tienen los valores mas altos \"\n",
714
+ " \"y cuales los mas bajos. Interpreta los datos en terminos de ventas por categoria.\"\n",
715
+ " ),\n",
716
+ " },\n",
717
+ " {\n",
718
+ " \"type\": \"image_url\",\n",
719
+ " # Formato: data:{mime_type};base64,{datos_en_base64}\n",
720
+ " \"image_url\": {\"url\": f\"data:image/png;base64,{image_chart_b64}\"},\n",
721
+ " },\n",
722
+ " ]\n",
723
+ ")\n",
724
+ "\n",
725
+ "response = vision_ollama.invoke([message])\n",
726
+ "print(response.content)"
727
+ ]
728
+ },
729
+ {
730
+ "cell_type": "markdown",
731
+ "metadata": {},
732
+ "source": [
733
+ "### 5.3. Preguntas de Negocio sobre el Grafico\n",
734
+ "\n",
735
+ "Ademas de descripciones generales, podemos hacer preguntas especificas de negocio sobre la imagen. Esto simula como un gerente de ventas de Northwind interactuaria con un asistente de analisis visual integrado en el ERP."
736
+ ]
737
+ },
738
+ {
739
+ "cell_type": "code",
740
+ "execution_count": null,
741
+ "metadata": {},
742
+ "outputs": [],
743
+ "source": [
744
+ "def preguntar_sobre_grafico(model, image_b64: str, pregunta: str) -> str:\n",
745
+ " \"\"\"\n",
746
+ " Hace una pregunta de negocio especifica sobre un grafico de Northwind.\n",
747
+ "\n",
748
+ " Args:\n",
749
+ " model: Instancia del modelo de vision.\n",
750
+ " image_b64: Grafico codificado en base64.\n",
751
+ " pregunta: Pregunta de negocio sobre el grafico.\n",
752
+ "\n",
753
+ " Returns:\n",
754
+ " Respuesta del modelo como string.\n",
755
+ " \"\"\"\n",
756
+ " message = HumanMessage(\n",
757
+ " content=[\n",
758
+ " {\"type\": \"text\", \"text\": pregunta},\n",
759
+ " {\"type\": \"image_url\", \"image_url\": {\"url\": f\"data:image/png;base64,{image_b64}\"}},\n",
760
+ " ]\n",
761
+ " )\n",
762
+ " return model.invoke([message]).content\n",
763
+ "\n",
764
+ "\n",
765
+ "# Preguntas tipicas de un gerente de ventas de Northwind sobre un reporte visual\n",
766
+ "preguntas_northwind = [\n",
767
+ " \"Cuantas categorias de producto se representan en el grafico?\",\n",
768
+ " \"Cual parece ser la categoria con mayor volumen de ventas?\",\n",
769
+ " \"Hay categorias con valores significativamente mas bajos? El equipo de ventas deberia priorizarlas?\",\n",
770
+ "]\n",
771
+ "\n",
772
+ "for pregunta in preguntas_northwind:\n",
773
+ " print(f\"Pregunta: {pregunta}\")\n",
774
+ " print(f\"Respuesta: {preguntar_sobre_grafico(vision_ollama, image_chart_b64, pregunta)}\")\n",
775
+ " print(\"-\" * 60)"
776
+ ]
777
+ },
778
+ {
779
+ "cell_type": "markdown",
780
+ "metadata": {},
781
+ "source": [
782
+ "## 6. Modelos de Vision con Groq\n",
783
+ "\n",
784
+ "Groq soporta modelos de vision como **meta-llama/llama-4-scout-17b-16e-instruct**. La sintaxis es identica a la de Ollama. En el contexto de Northwind usamos Groq para tareas que requieren respuesta rapida: evaluacion de imagenes de nuevos productos de proveedores y analisis de documentos comerciales."
785
+ ]
786
+ },
787
+ {
788
+ "cell_type": "markdown",
789
+ "metadata": {},
790
+ "source": [
791
+ "### 6.1. Evaluacion de Nuevo Producto de Proveedor\n",
792
+ "\n",
793
+ "El equipo de compras de Northwind recibe imagenes de posibles nuevos productos de proveedores y necesita una evaluacion rapida para decidir si incluirlos en el catalogo."
794
+ ]
795
+ },
796
+ {
797
+ "cell_type": "code",
798
+ "execution_count": null,
799
+ "metadata": {},
800
+ "outputs": [],
801
+ "source": [
802
+ "from langchain_groq import ChatGroq\n",
803
+ "from langchain_core.messages import HumanMessage\n",
804
+ "\n",
805
+ "# Llama 4 Scout: modelo multimodal de alta capacidad disponible en Groq.\n",
806
+ "vision_groq = ChatGroq(\n",
807
+ " model=\"meta-llama/llama-4-scout-17b-16e-instruct\",\n",
808
+ " temperature=0.0,\n",
809
+ " api_key=GROQ_API_KEY,\n",
810
+ ")\n",
811
+ "\n",
812
+ "# Imagen de producto alimenticio como simulacion de propuesta de proveedor a Northwind.\n",
813
+ "# En produccion el proveedor enviaria la imagen del nuevo producto por email o portal.\n",
814
+ "IMAGE_PROVEEDOR = \"https://upload.wikimedia.org/wikipedia/commons/thumb/3/3f/Biologia_marina_en_Monterey_Bay_Aquarium.jpg/320px-Biologia_marina_en_Monterey_Bay_Aquarium.jpg\"\n",
815
+ "\n",
816
+ "display(Image(url=IMAGE_PROVEEDOR, width=350))\n",
817
+ "\n",
818
+ "message = HumanMessage(\n",
819
+ " content=[\n",
820
+ " {\n",
821
+ " \"type\": \"text\",\n",
822
+ " \"text\": (\n",
823
+ " \"Eres el jefe de compras de Northwind Traders, empresa especializada en \"\n",
824
+ " \"importacion de alimentos y bebidas finas. Un proveedor te envio esta imagen \"\n",
825
+ " \"como propuesta para incluir en la categoria Seafood del catalogo. \"\n",
826
+ " \"Describe lo que ves, evalua si el producto seria adecuado para Northwind, \"\n",
827
+ " \"sugiere un nombre comercial, un rango de precio sugerido y un posible proveedor ficticio.\"\n",
828
+ " ),\n",
829
+ " },\n",
830
+ " {\n",
831
+ " \"type\": \"image_url\",\n",
832
+ " \"image_url\": {\"url\": IMAGE_PROVEEDOR},\n",
833
+ " },\n",
834
+ " ]\n",
835
+ ")\n",
836
+ "\n",
837
+ "response = vision_groq.invoke([message])\n",
838
+ "print(response.content)"
839
+ ]
840
+ },
841
+ {
842
+ "cell_type": "markdown",
843
+ "metadata": {},
844
+ "source": [
845
+ "### 6.2. Analisis con URL Directa — Reporte del Transportista\n",
846
+ "\n",
847
+ "Groq permite pasar la URL de la imagen directamente sin convertir a base64. Esto es util cuando los documentos ya estan publicados en URLs accesibles, como reportes generados por los portales de los transportistas (Speedy Express, United Package, Federal Shipping)."
848
+ ]
849
+ },
850
+ {
851
+ "cell_type": "code",
852
+ "execution_count": null,
853
+ "metadata": {},
854
+ "outputs": [],
855
+ "source": [
856
+ "# Simulacion: Speedy Express envio este grafico como reporte mensual de entregas a Northwind.\n",
857
+ "# Con URL directa no es necesario descargar ni convertir la imagen a base64.\n",
858
+ "message_url = HumanMessage(\n",
859
+ " content=[\n",
860
+ " {\n",
861
+ " \"type\": \"text\",\n",
862
+ " \"text\": (\n",
863
+ " \"Eres el coordinador logistico de Northwind Traders. \"\n",
864
+ " \"El transportista Speedy Express envio este grafico como parte de su \"\n",
865
+ " \"reporte mensual de entregas. Describe los datos del grafico e interpreta \"\n",
866
+ " \"que significan para la operacion de envios de Northwind: \"\n",
867
+ " \"que meses o periodos tuvieron mejor desempeno, cuales fueron criticos \"\n",
868
+ " \"y que recomendarias para optimizar la logistica.\"\n",
869
+ " ),\n",
870
+ " },\n",
871
+ " {\n",
872
+ " \"type\": \"image_url\",\n",
873
+ " # URL directa: Groq descarga la imagen internamente\n",
874
+ " \"image_url\": {\"url\": IMAGE_URL_CHART},\n",
875
+ " },\n",
876
+ " ]\n",
877
+ ")\n",
878
+ "\n",
879
+ "response = vision_groq.invoke([message_url])\n",
880
+ "print(response.content)"
881
+ ]
882
+ },
883
+ {
884
+ "cell_type": "markdown",
885
+ "metadata": {},
886
+ "source": [
887
+ "### 6.3. Analisis Visual desde Multiples Roles de Northwind\n",
888
+ "\n",
889
+ "Combinamos `SystemMessage` con imagen para analizar el mismo grafico desde distintos roles dentro de Northwind. Esto produce analisis mas alineados con las prioridades de cada area de la empresa."
890
+ ]
891
+ },
892
+ {
893
+ "cell_type": "code",
894
+ "execution_count": null,
895
+ "metadata": {},
896
+ "outputs": [],
897
+ "source": [
898
+ "from langchain_core.messages import SystemMessage\n",
899
+ "\n",
900
+ "def analizar_grafico_con_rol(image_b64: str, rol: str, pregunta: str) -> str:\n",
901
+ " \"\"\"\n",
902
+ " Analiza un grafico de Northwind desde un rol especifico de la empresa.\n",
903
+ "\n",
904
+ " Args:\n",
905
+ " image_b64: Grafico codificado en base64.\n",
906
+ " rol: Rol del analista dentro de Northwind.\n",
907
+ " pregunta: Pregunta o instruccion de analisis.\n",
908
+ "\n",
909
+ " Returns:\n",
910
+ " Analisis del modelo como string.\n",
911
+ " \"\"\"\n",
912
+ " system = SystemMessage(\n",
913
+ " content=(\n",
914
+ " f\"Eres {rol} de Northwind Traders, empresa de importacion de alimentos finos. \"\n",
915
+ " \"Analiza la informacion visual con enfoque en el impacto para el negocio de la empresa.\"\n",
916
+ " )\n",
917
+ " )\n",
918
+ " human = HumanMessage(\n",
919
+ " content=[\n",
920
+ " {\"type\": \"text\", \"text\": pregunta},\n",
921
+ " {\"type\": \"image_url\", \"image_url\": {\"url\": f\"data:image/png;base64,{image_b64}\"}},\n",
922
+ " ]\n",
923
+ " )\n",
924
+ " return vision_groq.invoke([system, human]).content\n",
925
+ "\n",
926
+ "\n",
927
+ "# El mismo grafico analizado desde tres roles distintos de Northwind\n",
928
+ "analisis_por_rol = [\n",
929
+ " (\n",
930
+ " \"el gerente de ventas de la region Americas\",\n",
931
+ " \"Que categorias de producto deberian recibir mayor atencion del equipo comercial el proximo trimestre?\",\n",
932
+ " ),\n",
933
+ " (\n",
934
+ " \"el director de compras e inventario\",\n",
935
+ " \"Que ajustes de inventario recomendarias para las categorias de mayor y menor demanda?\",\n",
936
+ " ),\n",
937
+ " (\n",
938
+ " \"el analista financiero\",\n",
939
+ " \"Que oportunidades de mejora en el mix de revenue ves en este grafico para Northwind?\",\n",
940
+ " ),\n",
941
+ "]\n",
942
+ "\n",
943
+ "for rol, pregunta in analisis_por_rol:\n",
944
+ " print(f\"Perspectiva: {rol}\")\n",
945
+ " print(\"-\" * 60)\n",
946
+ " print(analizar_grafico_con_rol(image_chart_b64, rol, pregunta))\n",
947
+ " print()"
948
+ ]
949
+ },
950
+ {
951
+ "cell_type": "markdown",
952
+ "metadata": {},
953
+ "source": [
954
+ "## 7. Comparacion entre Ollama y Groq\n",
955
+ "\n",
956
+ "Comparamos ambos proveedores con el mismo prompt de negocio de Northwind, midiendo tiempo de respuesta. Esto ayuda a decidir que proveedor usar segun el caso: Ollama para privacidad de datos de clientes y sin costo variable; Groq para velocidad en interacciones en tiempo real."
957
+ ]
958
+ },
959
+ {
960
+ "cell_type": "code",
961
+ "execution_count": null,
962
+ "metadata": {},
963
+ "outputs": [],
964
+ "source": [
965
+ "import time\n",
966
+ "\n",
967
+ "# Prompt de negocio real de Northwind para la comparacion\n",
968
+ "PROMPT_COMPARACION = (\n",
969
+ " \"El equipo de ventas de Northwind Traders necesita una estrategia para aumentar \"\n",
970
+ " \"las ventas de la categoria Meat/Poultry, que tuvo el menor crecimiento este ano. \"\n",
971
+ " \"Productos principales: Alice Mutton ($39), Mishi Kobe Niku ($97), Thuringer Rostbratwurst ($123.79). \"\n",
972
+ " \"Mercados objetivo: Alemania, Estados Unidos, Suecia. \"\n",
973
+ " \"Propone 3 acciones concretas con responsable sugerido del equipo de ventas.\"\n",
974
+ ")\n",
975
+ "\n",
976
+ "def medir_respuesta(nombre: str, modelo, prompt: str) -> dict:\n",
977
+ " \"\"\"\n",
978
+ " Invoca un modelo, mide el tiempo de respuesta y cuenta las palabras generadas.\n",
979
+ "\n",
980
+ " Args:\n",
981
+ " nombre: Nombre descriptivo del proveedor.\n",
982
+ " modelo: Instancia del modelo LangChain.\n",
983
+ " prompt: Texto del prompt de negocio.\n",
984
+ "\n",
985
+ " Returns:\n",
986
+ " Diccionario con proveedor, tiempo en segundos, palabras y respuesta.\n",
987
+ " \"\"\"\n",
988
+ " inicio = time.time()\n",
989
+ " response = modelo.invoke(prompt)\n",
990
+ " fin = time.time()\n",
991
+ " return {\n",
992
+ " \"proveedor\": nombre,\n",
993
+ " \"tiempo_seg\": round(fin - inicio, 2),\n",
994
+ " \"palabras\": len(response.content.split()),\n",
995
+ " \"respuesta\": response.content,\n",
996
+ " }\n",
997
+ "\n",
998
+ "\n",
999
+ "resultados = [\n",
1000
+ " medir_respuesta(\"Ollama (llama3.2 — local)\", llm_ollama, PROMPT_COMPARACION),\n",
1001
+ " medir_respuesta(\"Groq (llama-3.1-8b — nube)\", llm_groq, PROMPT_COMPARACION),\n",
1002
+ "]\n",
1003
+ "\n",
1004
+ "print(\"=\" * 65)\n",
1005
+ "print(\"COMPARACION — Estrategia de ventas Northwind: Meat/Poultry\")\n",
1006
+ "print(\"=\" * 65)\n",
1007
+ "for r in resultados:\n",
1008
+ " print(f\"\\nProveedor : {r['proveedor']}\")\n",
1009
+ " print(f\"Tiempo : {r['tiempo_seg']} segundos\")\n",
1010
+ " print(f\"Palabras : {r['palabras']}\")\n",
1011
+ " print(f\"Respuesta :\\n{r['respuesta']}\")\n",
1012
+ " print(\"-\" * 65)"
1013
+ ]
1014
+ },
1015
+ {
1016
+ "cell_type": "markdown",
1017
+ "metadata": {},
1018
+ "source": [
1019
+ "## 8. Batch Processing — Procesamiento Masivo del Catalogo\n",
1020
+ "\n",
1021
+ "LangChain permite procesar multiples inputs en paralelo con el metodo `batch()`. Para Northwind esto es util cuando se necesita clasificar feedback de clientes, enriquecer el catalogo con metadatos, o procesar un lote de pedidos sin hacer llamadas secuenciales al modelo."
1022
+ ]
1023
+ },
1024
+ {
1025
+ "cell_type": "code",
1026
+ "execution_count": null,
1027
+ "metadata": {},
1028
+ "outputs": [],
1029
+ "source": [
1030
+ "from langchain_core.prompts import ChatPromptTemplate\n",
1031
+ "from langchain_core.output_parsers import StrOutputParser\n",
1032
+ "\n",
1033
+ "# Clasificacion de feedback de clientes de Northwind.\n",
1034
+ "# En produccion estos comentarios podrian venir de emails, encuestas B2B o el portal de clientes.\n",
1035
+ "prompt_feedback = ChatPromptTemplate.from_messages([\n",
1036
+ " (\n",
1037
+ " \"system\",\n",
1038
+ " \"Clasifica el feedback de un cliente de Northwind Traders como POSITIVO, NEGATIVO o NEUTRO. \"\n",
1039
+ " \"Responde SOLO con la clasificacion, sin explicacion adicional.\",\n",
1040
+ " ),\n",
1041
+ " (\"human\", \"{feedback}\"),\n",
1042
+ "])\n",
1043
+ "\n",
1044
+ "chain_feedback = prompt_feedback | llm_groq | StrOutputParser()\n",
1045
+ "\n",
1046
+ "# Feedback tipico de clientes B2B de Northwind\n",
1047
+ "feedbacks = [\n",
1048
+ " {\"feedback\": \"El Cote de Blaye llego en perfectas condiciones y el empaque era impecable.\"},\n",
1049
+ " {\"feedback\": \"El pedido #10453 llego con 4 dias de retraso sin ninguna comunicacion previa.\"},\n",
1050
+ " {\"feedback\": \"Recibimos las 24 unidades de Camembert Pierrot segun lo acordado.\"},\n",
1051
+ " {\"feedback\": \"Janet Leverling resolvio nuestro problema de inventario de forma excelente.\"},\n",
1052
+ " {\"feedback\": \"El Boston Crab Meat del ultimo pedido llego en mal estado. Necesitamos nota de credito.\"},\n",
1053
+ " {\"feedback\": \"Los precios de Beverages subieron un 8% respecto al contrato anterior.\"},\n",
1054
+ " {\"feedback\": \"Thuringer Rostbratwurst sigue siendo el mejor producto de su catalogo.\"},\n",
1055
+ "]\n",
1056
+ "\n",
1057
+ "# batch() procesa todos los feedbacks simultaneamente\n",
1058
+ "clasificaciones = chain_feedback.batch(feedbacks)\n",
1059
+ "\n",
1060
+ "print(\"Clasificacion de feedback — Clientes Northwind\")\n",
1061
+ "print(\"-\" * 72)\n",
1062
+ "for fb, clf in zip(feedbacks, clasificaciones):\n",
1063
+ " texto = fb['feedback']\n",
1064
+ " preview = texto[:68] + \"...\" if len(texto) > 68 else texto\n",
1065
+ " print(f\"[{clf:8s}] {preview}\")"
1066
+ ]
1067
+ },
1068
+ {
1069
+ "cell_type": "code",
1070
+ "execution_count": null,
1071
+ "metadata": {},
1072
+ "outputs": [],
1073
+ "source": [
1074
+ "# Generacion de tags de busqueda para el catalogo online de Northwind.\n",
1075
+ "# Enriquecer el catalogo con metadatos mejora la busqueda de productos para los compradores B2B.\n",
1076
+ "prompt_tags = ChatPromptTemplate.from_messages([\n",
1077
+ " (\n",
1078
+ " \"system\",\n",
1079
+ " \"Eres el catalogador de Northwind Traders. Genera exactamente 3 tags de busqueda \"\n",
1080
+ " \"separados por coma para cada producto del catalogo. Los tags deben ser utiles \"\n",
1081
+ " \"para que compradores B2B encuentren el producto. Responde SOLO con los 3 tags.\",\n",
1082
+ " ),\n",
1083
+ " (\"human\", \"Producto: {nombre} | Categoria: {categoria} | Precio: ${precio} | Origen: {origen}\"),\n",
1084
+ "])\n",
1085
+ "\n",
1086
+ "chain_tags = prompt_tags | llm_groq | StrOutputParser()\n",
1087
+ "\n",
1088
+ "productos_para_tags = [\n",
1089
+ " {\"nombre\": \"Cote de Blaye\", \"categoria\": \"Beverages\", \"precio\": \"263.50\", \"origen\": \"Francia\"},\n",
1090
+ " {\"nombre\": \"Camembert Pierrot\", \"categoria\": \"Dairy Products\", \"precio\": \"34.00\", \"origen\": \"Francia\"},\n",
1091
+ " {\"nombre\": \"Mishi Kobe Niku\", \"categoria\": \"Meat/Poultry\", \"precio\": \"97.00\", \"origen\": \"Japon\"},\n",
1092
+ " {\"nombre\": \"Boston Crab Meat\", \"categoria\": \"Seafood\", \"precio\": \"18.40\", \"origen\": \"Estados Unidos\"},\n",
1093
+ " {\"nombre\": \"Chef Anton Cajun Seasoning\", \"categoria\": \"Condiments\", \"precio\": \"22.00\", \"origen\": \"Estados Unidos\"},\n",
1094
+ " {\"nombre\": \"Gnocchi di nonna Alice\", \"categoria\": \"Grains/Cereals\", \"precio\": \"38.00\", \"origen\": \"Italia\"},\n",
1095
+ " {\"nombre\": \"Rogede sild\", \"categoria\": \"Seafood\", \"precio\": \"9.50\", \"origen\": \"Dinamarca\"},\n",
1096
+ "]\n",
1097
+ "\n",
1098
+ "tags_batch = chain_tags.batch(productos_para_tags)\n",
1099
+ "\n",
1100
+ "print(\"Tags generados para el catalogo de Northwind\")\n",
1101
+ "print(\"-\" * 65)\n",
1102
+ "for producto, tags in zip(productos_para_tags, tags_batch):\n",
1103
+ " print(f\"{producto['nombre']:35s} -> {tags}\")"
1104
+ ]
1105
+ },
1106
+ {
1107
+ "cell_type": "markdown",
1108
+ "metadata": {},
1109
+ "source": [
1110
+ "## 9. Resumen\n",
1111
+ "\n",
1112
+ "En este notebook aprendimos a usar LangChain con Ollama y Groq en el contexto de **Northwind Traders**:\n",
1113
+ "\n",
1114
+ "- `invoke()` para consultas puntuales sobre productos, pedidos y calculos comerciales.\n",
1115
+ "- Mensajes estructurados (`SystemMessage`, `HumanMessage`, `AIMessage`) para asistentes de ventas con rol y contexto de negocio.\n",
1116
+ "- `stream()` para reportes y analisis de desempeno generados progresivamente.\n",
1117
+ "- Prompt Templates para generar descripciones de producto y emails a clientes de forma estandarizada.\n",
1118
+ "- VLMs (LLaVA, Llama 4) para analizar graficos de ventas, imagenes de productos y reportes de transportistas.\n",
1119
+ "- `batch()` para clasificar feedback de clientes y enriquecer el catalogo con tags en masa.\n",
1120
+ "\n",
1121
+ "### Cuando usar cada proveedor en Northwind\n",
1122
+ "\n",
1123
+ "| Caso de uso en Northwind | Proveedor recomendado | Razon |\n",
1124
+ "|---|---|---|\n",
1125
+ "| Procesar datos de clientes | Ollama | Privacidad total, datos no salen de la empresa |\n",
1126
+ "| Responder durante llamada de ventas | Groq | Velocidad de respuesta |\n",
1127
+ "| Generar reportes internos en batch | Ollama | Sin costo variable por volumen |\n",
1128
+ "| Analisis de tiempo real en dashboard | Groq | Latencia muy baja |\n",
1129
+ "| Analizar imagenes de productos | Ambos | LLaVA (Ollama) o Llama 4 (Groq) |\n",
1130
+ "\n",
1131
+ "### Proximos pasos\n",
1132
+ "\n",
1133
+ "El siguiente notebook cubre **Output Parsers**, **Pydantic**, **Chain of Thought** y **Few-Shot Learning** aplicados a Northwind: extraccion estructurada de datos de pedidos, clasificacion de productos y analisis de ventas con razonamiento explicito."
1134
+ ]
1135
+ }
1136
+ ],
1137
+ "metadata": {
1138
+ "kernelspec": {
1139
+ "display_name": "Python 3",
1140
+ "language": "python",
1141
+ "name": "python3"
1142
+ },
1143
+ "language_info": {
1144
+ "name": "python",
1145
+ "version": "3.10.0"
1146
+ }
1147
+ },
1148
+ "nbformat": 4,
1149
+ "nbformat_minor": 4
1150
+ }