Daimon / inference.py
pinopenaricardo's picture
Create inference.py
875a4dc verified
Raw
History Blame Contribute Delete
785 Bytes
import logging
import groq
from config import GROQ_API_KEY, GROQ_MODEL
logging.basicConfig(
level=logging.INFO,
format='%(asctime)s - %(levelname)s - %(message)s',
datefmt='%Y-%m-%d %H:%M:%S'
)
def obtener_respuesta_groq(mensaje: str) -> str:
try:
cliente = groq.Client(api_key=GROQ_API_KEY)
respuesta = cliente.chat.completions.create(
model=GROQ_MODEL,
messages=[{"role": "user", "content": mensaje}]
)
if not respuesta.choices or not respuesta.choices[0].message.content:
logging.error("❌ Respuesta vacía de Groq")
return None
return respuesta.choices[0].message.content
except Exception as e:
logging.error(f"❌ Error en API de Groq: {e}")
return None