Text Generation
Transformers
Portuguese
English
delta_llm
delta
llm
causal-lm
portuguese
english
experimental
Instructions to use PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2")# Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2
- SGLang
How to use PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2 with Docker Model Runner:
docker model run hf.co/PyraLabs/Coming-Soon-Delta-Ultra-Mini-1.2
FlareAI commited on
Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,121 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Delta Ultra Mini 1.2
|
| 2 |
+
|
| 3 |
+
> **🚧 Em desenvolvimento**
|
| 4 |
+
|
| 5 |
+
O **Delta Ultra Mini 1.2** representa a próxima evolução da família **Delta Ultra Mini**, trazendo uma arquitetura ampliada e um conjunto de dados significativamente refinado para oferecer respostas mais naturais, consistentes e confiáveis.
|
| 6 |
+
|
| 7 |
+
Esta versão concentra seus esforços na melhoria da qualidade do treinamento, no aperfeiçoamento do seguimento de instruções e na redução de respostas inconsistentes observadas em versões anteriores.
|
| 8 |
+
|
| 9 |
---
|
| 10 |
+
|
| 11 |
+
# ✨ Destaques
|
| 12 |
+
|
| 13 |
+
* 🧠 Aproximadamente **306,5 milhões de parâmetros**
|
| 14 |
+
* 📚 Dataset refinado e expandido
|
| 15 |
+
* ✨ Melhor seguimento de instruções
|
| 16 |
+
* 💬 Conversas mais naturais e coerentes
|
| 17 |
+
* ⚡ Maior estabilidade durante a geração de texto
|
| 18 |
+
* 🌎 Melhor suporte para Português e Inglês
|
| 19 |
+
* 🔧 Diversas otimizações internas
|
| 20 |
+
|
| 21 |
---
|
| 22 |
+
|
| 23 |
+
# 🚀 Novidades
|
| 24 |
+
|
| 25 |
+
Em comparação ao **Delta Ultra Mini 1.1**, esta versão apresenta:
|
| 26 |
+
|
| 27 |
+
* Dataset amplamente refinado, priorizando exemplos de maior qualidade;
|
| 28 |
+
* Melhor filtragem de dados duplicados e conteúdos com ruído;
|
| 29 |
+
* Melhor equilíbrio entre dados conversacionais, instrucionais e técnicos;
|
| 30 |
+
* Respostas mais consistentes durante conversas longas;
|
| 31 |
+
* Melhor compreensão do contexto e das instruções fornecidas pelo usuário;
|
| 32 |
+
* Base mais sólida para futuras versões da família Delta.
|
| 33 |
+
|
| 34 |
+
---
|
| 35 |
+
|
| 36 |
+
# 📋 Informações do Modelo
|
| 37 |
+
|
| 38 |
+
| Propriedade | Valor |
|
| 39 |
+
| ---------------------- | --------------------------- |
|
| 40 |
+
| **Modelo** | Delta Ultra Mini 1.2 |
|
| 41 |
+
| **Status** | 🚧 Em desenvolvimento |
|
| 42 |
+
| **Parâmetros** | ~306,5 milhões |
|
| 43 |
+
| **Arquitetura** | Transformer Decoder-only |
|
| 44 |
+
| **Idiomas principais** | Português (Brasil) e Inglês |
|
| 45 |
+
| **Janela de contexto** | A definir |
|
| 46 |
+
| **Licença** | MIT |
|
| 47 |
+
|
| 48 |
+
---
|
| 49 |
+
|
| 50 |
+
# 🎯 Casos de Uso
|
| 51 |
+
|
| 52 |
+
O Delta Ultra Mini 1.2 foi desenvolvido para aplicações como:
|
| 53 |
+
|
| 54 |
+
* Conversação geral
|
| 55 |
+
* Assistência em programação
|
| 56 |
+
* Escrita criativa
|
| 57 |
+
* Respostas a perguntas
|
| 58 |
+
* Apoio educacional
|
| 59 |
+
* Assistentes locais de IA
|
| 60 |
+
* Pesquisa e experimentação
|
| 61 |
+
* Integração em aplicações personalizadas
|
| 62 |
+
|
| 63 |
+
---
|
| 64 |
+
|
| 65 |
+
# 🎯 Objetivos da Versão
|
| 66 |
+
|
| 67 |
+
Os principais objetivos desta versão são:
|
| 68 |
+
|
| 69 |
+
* Melhorar significativamente a qualidade das respostas;
|
| 70 |
+
* Reduzir alucinações e inconsistências;
|
| 71 |
+
* Aprimorar o seguimento de instruções;
|
| 72 |
+
* Expandir as capacidades multilíngues;
|
| 73 |
+
* Servir como base para os próximos modelos da família Delta.
|
| 74 |
+
|
| 75 |
+
---
|
| 76 |
+
|
| 77 |
+
# 🤝 Contribua com o The Delta Dataset
|
| 78 |
+
|
| 79 |
+
O **Delta Ultra Mini 1.2** é treinado utilizando o **The Delta Dataset**, um projeto colaborativo e de código aberto baseado no formato **Deltaset**.
|
| 80 |
+
|
| 81 |
+
Se você deseja contribuir para a evolução deste modelo ou ajudar a comunidade de IA a construir datasets abertos de alta qualidade, participe do projeto:
|
| 82 |
+
|
| 83 |
+
### https://github.com/Flame-FlareAI/The-Delta-Dataset
|
| 84 |
+
|
| 85 |
+
Ao contribuir, você estará ajudando não apenas o desenvolvimento do **Delta Ultra Mini**, mas também disponibilizando dados que poderão ser utilizados por pesquisadores, estudantes e desenvolvedores interessados em criar suas próprias LLMs utilizando o formato **Deltaset**.
|
| 86 |
+
|
| 87 |
+
Todas as contribuições passam por revisão antes de serem incorporadas ao projeto, garantindo qualidade, consistência e segurança dos dados.
|
| 88 |
+
|
| 89 |
+
Acreditamos que modelos melhores começam com dados melhores — e que dados melhores são construídos em comunidade.
|
| 90 |
+
|
| 91 |
+
---
|
| 92 |
+
|
| 93 |
+
# 🛣️ Roadmap
|
| 94 |
+
|
| 95 |
+
O Delta Ultra Mini 1.2 representa mais um passo na evolução do ecossistema **Delta**.
|
| 96 |
+
|
| 97 |
+
As próximas versões continuarão expandindo as capacidades dos modelos, mantendo a filosofia da linha **Ultra Mini**: oferecer modelos leves, eficientes e acessíveis para pesquisa, desenvolvimento e uso em aplicações reais.
|
| 98 |
+
|
| 99 |
+
---
|
| 100 |
+
|
| 101 |
+
# 📄 Licença
|
| 102 |
+
|
| 103 |
+
O **Delta Ultra Mini 1.2** será disponibilizado sob a **Licença MIT**, permitindo uso, modificação e distribuição de acordo com os termos da licença.
|
| 104 |
+
|
| 105 |
+
---
|
| 106 |
+
|
| 107 |
+
# 📦 Disponibilidade
|
| 108 |
+
|
| 109 |
+
O modelo encontra-se atualmente em desenvolvimento e será disponibilizado após a conclusão dos testes internos e validações de qualidade.
|
| 110 |
+
|
| 111 |
+
Novidades sobre o desenvolvimento, datasets e futuras versões serão publicadas nos repositórios oficiais da **FlareAI**.
|
| 112 |
+
|
| 113 |
+
---
|
| 114 |
+
|
| 115 |
+
<div align="center">
|
| 116 |
+
|
| 117 |
+
**Desenvolvido com ❤️ pela FlareAI**
|
| 118 |
+
|
| 119 |
+
*"Construindo modelos melhores através de dados abertos."*
|
| 120 |
+
|
| 121 |
+
</div>
|