Instructions to use Mattimax/DATA-AI with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- llama-cpp-python
How to use Mattimax/DATA-AI with llama-cpp-python:
# !pip install llama-cpp-python from llama_cpp import Llama llm = Llama.from_pretrained( repo_id="Mattimax/DATA-AI", filename="data-ai-2b.gguf", )
output = llm( "Once upon a time,", max_tokens=512, echo=True ) print(output)
- Notebooks
- Google Colab
- Kaggle
- Local Apps
- llama.cpp
How to use Mattimax/DATA-AI with llama.cpp:
Install from brew
brew install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama-server -hf Mattimax/DATA-AI # Run inference directly in the terminal: llama-cli -hf Mattimax/DATA-AI
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama-server -hf Mattimax/DATA-AI # Run inference directly in the terminal: llama-cli -hf Mattimax/DATA-AI
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf Mattimax/DATA-AI # Run inference directly in the terminal: ./llama-cli -hf Mattimax/DATA-AI
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf Mattimax/DATA-AI # Run inference directly in the terminal: ./build/bin/llama-cli -hf Mattimax/DATA-AI
Use Docker
docker model run hf.co/Mattimax/DATA-AI
- LM Studio
- Jan
- Ollama
How to use Mattimax/DATA-AI with Ollama:
ollama run hf.co/Mattimax/DATA-AI
- Unsloth Studio new
How to use Mattimax/DATA-AI with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for Mattimax/DATA-AI to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for Mattimax/DATA-AI to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for Mattimax/DATA-AI to start chatting
- Docker Model Runner
How to use Mattimax/DATA-AI with Docker Model Runner:
docker model run hf.co/Mattimax/DATA-AI
- Lemonade
How to use Mattimax/DATA-AI with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull Mattimax/DATA-AI
Run and chat with the model
lemonade run user.DATA-AI-{{QUANT_TAG}}List all available models
lemonade list
DATA-AI 2b Instruct GGUF
Original repo: Mattimax/data-ai-2b-it
Termini d'Uso di DATA-AI
Termini d'Uso di DATA-AI
Utilizzando, riproducendo, modificando, distribuendo, eseguendo o visualizzando qualsiasi parte o elemento di DATA-AI, Derivati del Modello inclusi tramite qualsiasi Servizio Ospitato (ciascuno come definito di seguito) (collettivamente, i "Servizi di DATA-AI") o accettando in altro modo i termini di questo Accordo, accetti di essere vincolato da questo Accordo.
Sezione 1
DEFINIZIONI
Definizioni
"Accordo" o "Termini d'Uso di DATA-AI" significa questi termini e condizioni che regolano l'uso, la riproduzione, la distribuzione o la modifica dei Servizi di DATA-AI e qualsiasi termine e condizione incorporato per riferimento.
"Distribuzione" o "Distribuire" significa qualsiasi trasmissione, pubblicazione o altro condivisione di DATA-AI o Derivati del Modello a terzi, incluso fornendo o mettendo a disposizione DATA-AI o la sua funzionalità come servizio ospitato tramite API, accesso web o qualsiasi altro mezzo elettronico o remoto ("Servizio Ospitato").
"DATA-AI" significa l'insieme di modelli linguistici di apprendimento automatico, pesi del modello addestrato e parametri identificati su ai.google.dev/data-ai, indipendentemente dalla fonte da cui lo hai ottenuto.
"M.INC." significa M.INC. LLC.
"Derivati del Modello" significa tutte (i) modifiche a DATA-AI, (ii) opere basate su DATA-AI, o (iii) qualsiasi altro modello di apprendimento automatico creato mediante il trasferimento di modelli dei pesi, parametri, operazioni o output di DATA-AI, a quel modello al fine di far sì che tale modello si comporti in modo simile a DATA-AI, compresi i metodi di distillazione che utilizzano rappresentazioni di dati intermedi o metodi basati sulla generazione di output di dati sintetici da DATA-AI per l'addestramento di quel modello. Per chiarezza, gli output non sono considerati Derivati del Modello.
"Output" significa il contenuto informativo generato da DATA-AI o da un Derivato del Modello che deriva dall'operare o dall'usare altrimenti DATA-AI o il Derivato del Modello, compreso tramite un Servizio Ospitato.
Come utilizzato in questo Accordo, "incluso" significa "incluso senza limitazioni".
Sezione 2
IDONEITÀ E UTILIZZO
Idoneità. Dichiari e garantisci di avere la capacità legale di stipulare questo Accordo (compresa l'età sufficiente per dare il consenso). Se stai accedendo o utilizzando uno qualsiasi dei Servizi di DATA-AI per conto di un'entità giuridica, (a) stai stipulando questo Accordo per conto tuo e di tale entità legale, (b) dichiari e garantisci di avere l'autorità per agire per conto di e vincolare tale entità a questo Accordo e (c) i riferimenti a "tu" o "tuo" nel resto di questo Accordo si riferiscono sia a te (come individuo) che a tale entità.
Utilizzo. Puoi utilizzare, riprodurre, modificare, distribuire, eseguire o visualizzare qualsiasi dei Servizi di DATA-AI solo in conformità con i termini di questo Accordo e non devi violare (o incoraggiare o permettere a chiunque altro di violare) alcun termine di questo Accordo.
Sezione 3
DISTRIBUZIONE E RESTRIZIONI
Distribuzione e Ridistribuzione. Puoi riprodurre o distribuire copie di DATA-AI o Derivati del Modello se soddisfi tutte le seguenti condizioni:
Devi includere le restrizioni d'uso indicate nella Sezione 3.2 come disposizione vincolante in qualsiasi accordo (ad esempio, contratto di licenza, termini d'uso, ecc.) che regola l'uso e/o la distribuzione di DATA-AI o dei Derivati del Modello e devi fornire un avviso agli utenti successivi a cui distribuisci che DATA-AI o i Derivati del Modello sono soggetti alle restrizioni d'uso nella Sezione 3.2.
Devi fornire a tutti i destinatari terzi di DATA-AI o dei Derivati del Modello una copia di questo Accordo.
Devi fare in modo che eventuali file modificati riportino avvisi evidenti che indichino che hai modificato i file.
Tutte le Distribuzioni (eccetto tramite un Servizio Ospitato) devono essere accompagnate da un file di testo "Avviso" che contenga il seguente avviso: "DATA-AI è fornito in conformità con i Termini d'Uso di DATA-AI disponibili sul sito M.INC."
Puoi aggiungere la tua dichiarazione di proprietà intellettuale alle tue modifiche e, salvo quanto stabilito in questa Sezione, puoi fornire termini e condizioni aggiuntivi o diversi per l'uso, la riproduzione o la distribuzione delle tue modifiche o per qualsiasi Derivato del Modello nel suo complesso, purché il tuo uso, riproduzione, modifica, distribuzione, esecuzione e visualizzazione di DATA-AI rispetti altrimenti i termini e le condizioni di questo Accordo. Eventuali termini e condizioni aggiuntivi o diversi che imponi non devono essere in conflitto con i termini di questo Accordo.
Restrizioni d'Uso. Non devi utilizzare nessuno dei Servizi di DATA-AI:
In violazione di leggi e regolamenti applicabili.
Nella massima misura consentita dalla legge, M.INC. si riserva il diritto di limitare (a distanza o in altro modo) l'uso di qualsiasi dei Servizi di DATA-AI che M.INC. ritiene ragionevolmente essere in violazione di questo Accordo.
Output Generato. M.INC. non rivendica alcun diritto sugli Output generati da te usando DATA-AI. Tu e i tuoi utenti siete unicamente responsabili degli Output e dei loro usi successivi.
DISPOSIZIONI AGGIUNTIVE
Nulla in questo Accordo ti concede il diritto di utilizzare i marchi, i nomi commerciali, i loghi di M.INC. o di suggerire in altro modo un'approvazione o rappresentare in modo erroneo il rapporto tra te e M.INC. si riserva tutti i diritti non espressamente concessi in questo documento.
ESCLUSIONE DI GARANZIA. SALVO QUANTO RICHIESTO DALLA LEGGE APPLICABILE, I SERVIZI DATA-AI E LE USCITE SONO FORNITI "COSÌ COM'È", SENZA GARANZIE O CONDIZIONI DI ALCUN TIPO, SIA ESPRESSE CHE IMPLICITE, INCLUSO QUALSIASI GARANZIA O CONDIZIONE DI TITOLO, NON VIOLAZIONE, COMMERCIABILITÀ O IDONEITÀ PER UN PARTICOLARE SCOPO. SEI IL SOLO RESPONSABILE DELLA DETERMINAZIONE DELL'APPROPRIATEZZA DELL'USO, DELLA RIPRODUZIONE, DELLA MODIFICA, DELL'ESECUZIONE, DELLA VISUALIZZAZIONE O DELLA DISTRIBUZIONE DEI SERVIZI O DELLE USCITE DI DATA-AI E ASSUMI TUTTI I RISCHI ASSOCIATI AL LORO USO O ALLA LORO DISTRIBUZIONE E ALL'ESERCIZIO DEI DIRITTI E DELLE AUTORIZZAZIONI AI SENSI DI QUESTO ACCORDO.
LIMITAZIONE DELLA RESPONSABILITÀ. NELLA MISURA MASSIMA CONSENTITA DALLA LEGGE APPLICABILE, IN NESSUN CASO E IN ALCUNA TEORIA LEGALE, SIA IN RESPONSABILITÀ EX CONTRACTU, EX DELICTO (INCLUSO NEGLIGENZA), PRODOTTI DIFETTOSI O ALTRIMENTI, SALVO QUANTO RICHIESTO DALLA LEGGE APPLICABILE, M.INC. O LE SUE AFFILIATE SARANNO RESPONSABILI VERSO DI TE PER DANNI, INCLUSI EVENTUALI DANNI DIRETTI, INDIRETTI, SPECIALI, INCIDENTALI, ESEMPLARI, CONSEQUENZIALI O PUNITIVI, O MANCATI PROFITTI DI QUALSIASI TIPO DERIVANTI DA QUESTO ACCORDO O RELATIVI AI SERVIZI O USCITE DI DATA-AI, ANCHE SE M.INC. O LE SUE AFFILIATE SONO STATE AVVISATE DELLA POSSIBILITÀ DI TALI DANNI.
Durata, Risoluzione e Sopravvivenza. Il termine di questo Accordo inizierà con la tua accettazione di questo Accordo (inclusa l'accettazione mediante il tuo utilizzo, modifica o distribuzione, riproduzione, esecuzione o visualizzazione di qualsiasi parte o elemento dei Servizi DATA-AI) e continuerà a pieno vigore ed effetto fino alla sua risoluzione in conformità con i termini di questo Accordo. M.INC. può risolvere questo Accordo se sei in violazione di qualsiasi termine di questo Accordo. Alla risoluzione di questo Accordo, devi eliminare e cessare l'uso e la distribuzione di tutte le copie di DATA-AI e delle Derivate del Modello in tuo possesso o controllo. Le Sezioni 1, 2.1, 3.3, 4.2 fino a 4.9 sopravviveranno alla risoluzione di questo Accordo.
Legge applicabile e giurisdizione. Questo Accordo sarà disciplinato dalle leggi dello Stato Italiano senza considerare i principi di scelta della legge. La Convenzione delle Nazioni Unite sui Contratti di Vendita Internazionale di Beni non si applica a questo Accordo. I tribunali statali e federali del Comune di Como, Italia, avranno giurisdizione esclusiva su qualsiasi controversia derivante da questo Accordo. Divisibilità. Se una disposizione di questo Accordo viene ritenuta invalida, illegale o inapplicabile, le disposizioni rimanenti non ne saranno influenzate e rimarranno valide come se tale disposizione non fosse stata inclusa in questo documento. Intero Accordo. Questo Accordo stabilisce tutti i termini concordati tra le parti e sostituisce tutti gli altri accordi tra le parti alla data di accettazione relativi all'oggetto dello stesso. Nessuna Rinuncia. M.INC. non sarà considerata come avendo rinunciato a eventuali diritti non esercitando (o ritardando l'esercizio) di qualsiasi diritto ai sensi di questo Accordo.
- Downloads last month
- -
Hardware compatibility
Log In to add your hardware
We're not able to determine the quantization variants.
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support