Text Generation
Transformers
Portuguese
English
delta_llm
delta
llm
causal-lm
portuguese
english
experimental
Instructions to use Delta-FlareAI/Delta-Ultra-Mini-1.2 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Delta-FlareAI/Delta-Ultra-Mini-1.2 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Delta-FlareAI/Delta-Ultra-Mini-1.2")# Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("Delta-FlareAI/Delta-Ultra-Mini-1.2", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Delta-FlareAI/Delta-Ultra-Mini-1.2 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Delta-FlareAI/Delta-Ultra-Mini-1.2" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Delta-FlareAI/Delta-Ultra-Mini-1.2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Delta-FlareAI/Delta-Ultra-Mini-1.2
- SGLang
How to use Delta-FlareAI/Delta-Ultra-Mini-1.2 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Delta-FlareAI/Delta-Ultra-Mini-1.2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Delta-FlareAI/Delta-Ultra-Mini-1.2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Delta-FlareAI/Delta-Ultra-Mini-1.2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Delta-FlareAI/Delta-Ultra-Mini-1.2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Delta-FlareAI/Delta-Ultra-Mini-1.2 with Docker Model Runner:
docker model run hf.co/Delta-FlareAI/Delta-Ultra-Mini-1.2
| language: | |
| - pt | |
| - en | |
| license: mit | |
| pipeline_tag: text-generation | |
| model_type: delta_llm | |
| library_name: transformers | |
| tags: | |
| - delta | |
| - llm | |
| - causal-lm | |
| - portuguese | |
| - english | |
| - experimental | |
| license_name: mit | |
| # Delta Ultra Mini 1.2 | |
| > **Em breve** | |
| ## Visão Geral | |
| O **Delta Ultra Mini 1.2** é a próxima geração da família Delta Ultra Mini, desenvolvido como parte do projeto experimental da **FlareAI** para pesquisa em modelos de linguagem leves. | |
| Esta versão apresenta um conjunto de dados significativamente refinado e uma arquitetura expandida em relação ao Delta Ultra Mini 1.1. O principal objetivo é avaliar como essas melhorias influenciam a qualidade das respostas e fornecer uma base mais sólida para o desenvolvimento das futuras versões da família Delta. | |
| Como todo modelo em desenvolvimento, o Delta Ultra Mini 1.2 ainda possui limitações e pode gerar respostas incorretas ou inconsistentes (alucinações). O modelo deve ser considerado um projeto experimental voltado para aprendizado, pesquisa e evolução contínua. | |
| --- | |
| ## Destaques | |
| * 🧠 Aproximadamente **306,5 milhões de parâmetros** | |
| * 📚 Dataset refinado e expandido | |
| * 🔬 Foco em pesquisa e experimentação | |
| * ✨ Melhor compreensão e seguimento de instruções | |
| * 💬 Conversas mais coerentes em relação à versão anterior | |
| * 🔧 Melhorias gerais na qualidade das respostas | |
| --- | |
| ## Novidades | |
| Em comparação com o Delta Ultra Mini 1.1, a versão 1.2 traz: | |
| * Um dataset amplamente refinado com exemplos de maior qualidade; | |
| * Melhor filtragem de dados duplicados e conteúdos com ruído; | |
| * Melhor equilíbrio entre conteúdos conversacionais, instrucionais e técnicos; | |
| * Geração de texto mais estável; | |
| * Melhor compreensão do contexto durante as conversas. | |
| --- | |
| ## Informações do Modelo | |
| | Propriedade | Valor | | |
| | ------------------ | --------------------------- | | |
| | Modelo | Delta Ultra Mini 1.2 | | |
| | Status | Em desenvolvimento | | |
| | Parâmetros | ~306,5 milhões | | |
| | Arquitetura | Transformer Decoder-only | | |
| | Idiomas principais | Português (Brasil) e Inglês | | |
| | Janela de contexto | A definir | | |
| | Licença | MIT | | |
| --- | |
| ## Casos de Uso | |
| O Delta Ultra Mini 1.2 foi desenvolvido para: | |
| * Conversas gerais | |
| * Assistência em programação | |
| * Escrita criativa | |
| * Respostas a perguntas | |
| * Aplicações educacionais | |
| * Assistentes de IA locais | |
| * Projetos experimentais | |
| --- | |
| ## Limitações | |
| Por se tratar de um modelo experimental, o Delta Ultra Mini 1.2 ainda apresenta limitações conhecidas: | |
| * Pode gerar informações incorretas (alucinações); | |
| * Nem sempre seguirá instruções perfeitamente; | |
| * O desempenho pode variar dependendo da tarefa e do idioma; | |
| * Não é recomendado para aplicações críticas ou que exijam alta confiabilidade. | |
| --- | |
| ## Objetivos da Versão | |
| Os principais objetivos do Delta Ultra Mini 1.2 são: | |
| * Aumentar a qualidade das respostas; | |
| * Reduzir inconsistências em relação à versão anterior; | |
| * Melhorar o seguimento de instruções; | |
| * Aprimorar as capacidades multilíngues; | |
| * Construir uma base mais sólida para os futuros modelos da família Delta. | |
| --- | |
| ## Contribua com o The Delta Dataset | |
| O desenvolvimento do **Delta Ultra Mini 1.2** é impulsionado pelo **The Delta Dataset**, um projeto colaborativo e de código aberto baseado no formato **Deltaset**. | |
| Se você deseja contribuir para a evolução deste modelo ou ajudar outras pessoas a desenvolverem suas próprias LLMs utilizando o formato Deltaset, participe do projeto: | |
| **https://github.com/Flame-FlareAI/The-Delta-Dataset** | |
| Todas as contribuições passam por revisão antes de serem incorporadas ao dataset, ajudando a manter a qualidade e a consistência dos dados para toda a comunidade. | |
| --- | |
| ## Roadmap | |
| O Delta Ultra Mini 1.2 representa mais um passo na evolução do ecossistema Delta. | |
| As próximas versões terão modelos maiores e mais capazes, mantendo a filosofia da linha **Ultra Mini**: oferecer modelos leves, acessíveis e voltados para pesquisa, aprendizado e experimentação. | |
| --- | |
| ## Disponibilidade | |
| O modelo está atualmente em desenvolvimento e será disponibilizado após a conclusão dos testes internos. | |
| Fique atento aos próximos anúncios e, se desejar participar do desenvolvimento, contribua com o **The Delta Dataset**. | |
| --- | |
| **Desenvolvido pela FlareAI** | |