carlosrgv/bert-sentiments-cpu-optimized-onnx

Model Card: BERT Sentiment Analysis (ONNX Quantized)

Model Details

Model Description

Este modelo es una versión optimizada y cuantizada del modelo original nlptown/bert-base-multilingual-uncased-sentiment. Ha sido exportado al formato ONNX y cuantizado a INT8 utilizando la librería Hugging Face optimum para maximizar su rendimiento en CPU.

Está diseñado específicamente para clasificar el sentimiento en reseñas (reviews) en una escala de 1 a 5 estrellas. Al ser un modelo multilingüe, funciona de forma excelente en español, inglés, francés, alemán, entre otros.

• Developed by: Carlos R. (carlosrgv)
• Model type: BERT Base Multilingual Uncased
• Language(s) (NLP): Multilingual (Optimizado para Español/Inglés)
• License: MIT (derivado del modelo original)
• Finetuned from model: nlptown/bert-base-multilingual-uncased-sentiment
• Optimization: ONNX Runtime Quantization (INT8)

Uses

Direct Use

Este modelo es ideal para el procesamiento masivo de opiniones en archivos Excel o CSV utilizando hardware estándar (CPUs de laptops o servidores sin GPU). Es especialmente útil para el análisis de sentimiento en el sector hotelero y turístico.

Out-of-Scope Use

No se recomienda su uso para detectar sarcasmo complejo o en textos extremadamente largos (más de 512 tokens), ya que el modelo truncará la información para mantener la velocidad.

How to Get Started with the Model

Para usar este modelo en Python con una velocidad superior en CPU, utiliza el siguiente código:

from optimum.onnxruntime import ORTModelForSequenceClassification
from transformers import AutoTokenizer, pipeline

# Cargar modelo desde Hugging Face
model_id = "carlosrgv/bert-sentimiento-hoteles-onnx"
model = ORTModelForSequenceClassification.from_pretrained(model_id, file_name="model_quantized.onnx")
tokenizer = AutoTokenizer.from_pretrained(model_id)

# Crear pipeline optimizada
classifier = pipeline("sentiment-analysis", model=model, tokenizer=tokenizer)

# Ejemplo de uso
text = "La estancia en el hotel de Cuba fue maravillosa, el servicio fue excelente."
result = classifier(text)
print(result)