Update README.md
Browse files
README.md
CHANGED
|
@@ -157,6 +157,11 @@ model-index:
|
|
| 157 |
|
| 158 |
GemmBode é um modelo de linguagem ajustado para o idioma português, desenvolvido a partir do modelo Gemma-7b-it fornecido pela [Google](https://huggingface.co/google/gemma-7b-it).
|
| 159 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 160 |
|
| 161 |
# Treinamento
|
| 162 |
|
|
@@ -175,17 +180,6 @@ A seguinte configuração de quantização `bitsandbytes` foi usada durante o tr
|
|
| 175 |
- bnb_4bit_quant_storage: uint8
|
| 176 |
- load_in_4bit: True
|
| 177 |
- load_in_8bit: False
|
| 178 |
-
-
|
| 179 |
-
### Versões da estrutura
|
| 180 |
-
|
| 181 |
-
|
| 182 |
-
- PEFT 0.5.0
|
| 183 |
-
|
| 184 |
-
## Características Principais
|
| 185 |
-
|
| 186 |
-
- **Modelo Base:** Gemma-7b-it, criado pela Google, com 7 bilhões de parâmetros.
|
| 187 |
-
- **Dataset para Fine-tuning:** [UltraAlpaca](https://huggingface.co/datasets/recogna-nlp/ultra-alpaca-ptbr)
|
| 188 |
-
- **Treinamento:** O treinamento foi realizado a partir do fine-tuning, com QLoRA do gemma-7b-it.
|
| 189 |
|
| 190 |
# Resultados da avaliação do Open Portuguese LLM Leaderboard
|
| 191 |
|
|
|
|
| 157 |
|
| 158 |
GemmBode é um modelo de linguagem ajustado para o idioma português, desenvolvido a partir do modelo Gemma-7b-it fornecido pela [Google](https://huggingface.co/google/gemma-7b-it).
|
| 159 |
|
| 160 |
+
## Características Principais
|
| 161 |
+
|
| 162 |
+
- **Modelo Base:** Gemma-7b-it, criado pela Google, com 7 bilhões de parâmetros.
|
| 163 |
+
- **Dataset para Fine-tuning:** [UltraAlpaca](https://huggingface.co/datasets/recogna-nlp/ultra-alpaca-ptbr)
|
| 164 |
+
- **Treinamento:** O treinamento foi realizado a partir do fine-tuning, com QLoRA do gemma-7b-it.
|
| 165 |
|
| 166 |
# Treinamento
|
| 167 |
|
|
|
|
| 180 |
- bnb_4bit_quant_storage: uint8
|
| 181 |
- load_in_4bit: True
|
| 182 |
- load_in_8bit: False
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 183 |
|
| 184 |
# Resultados da avaliação do Open Portuguese LLM Leaderboard
|
| 185 |
|