metadata
title: Mistral-7B-API
emoji: 🤖
colorFrom: indigo
colorTo: purple
sdk: gradio
sdk_version: 5.30.0
app_file: app.py
pinned: false
license: mit
Mistral-7B API Server
Questo Space fornisce un'API compatibile con OpenAI per il modello Mistral-7B-Instruct-v0.2. L'API è accessibile tramite l'endpoint /v1/chat/completions.
Caratteristiche
- Versione quantizzata GGUF del modello Mistral-7B-Instruct-v0.2
- API compatibile con OpenAI
- Interfaccia di test Gradio per verificare il funzionamento del modello
API Usage
import requests
import json
headers = {
"Content-Type": "application/json"
}
data = {
"model": "mistral-7b-instruct",
"messages": [
{"role": "user", "content": "Quali sono le principali città italiane?"}
],
"temperature": 0.7,
"max_tokens": 1024
}
response = requests.post(
"https://huggingface.co/spaces/[username]/Mistral-7B-API/v1/chat/completions",
headers=headers,
json=data
)
print(json.dumps(response.json(), indent=2))