Update README.md
Browse files
README.md
CHANGED
|
@@ -10,4 +10,30 @@ language:
|
|
| 10 |
base_model:
|
| 11 |
- NaaClem/Gheya-Nacid
|
| 12 |
pipeline_tag: text-generation
|
| 13 |
-
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 10 |
base_model:
|
| 11 |
- NaaClem/Gheya-Nacid
|
| 12 |
pipeline_tag: text-generation
|
| 13 |
+
---
|
| 14 |
+
|
| 15 |
+
# 🌸 Tiny-lamina-Gheya 🌸
|
| 16 |
+
|
| 17 |
+

|
| 18 |
+
|
| 19 |
+
Tiny-lamina-Gheya est un modèle d'intelligence artificielle de 0,2 b de paramètres,
|
| 20 |
+
Conçu avec L'architecture transformers.
|
| 21 |
+
Il a été affiné à partir d'un modèle de fondation Gheya, avec un dataset autour de Tiny-lamina.
|
| 22 |
+
Il descend donc grammaticalement et même génétiquement (s'il avait un corpus) du modèle de fondation Gheya utilisé,
|
| 23 |
+
Mais il répond et se comporte comme Tiny-lamina.
|
| 24 |
+
|
| 25 |
+
ce modèle est un hybride Gheya-Lamina.
|
| 26 |
+
Niveau licence, il est donc soumis à la fois aux GIOS-TERMES de Gheya, et au LRUNDL de lamina.
|
| 27 |
+
regardez le fichier licence pour connaître les GIOS-TERMES,
|
| 28 |
+
Et renseignez vous à côté de nos autres modèles pour LA LRUNDL.
|
| 29 |
+
|
| 30 |
+
# ✨ Limitations 🍀
|
| 31 |
+
|
| 32 |
+
Les 2 séries de modèles français (Gheya et Lamina),
|
| 33 |
+
Ont des points en commun,
|
| 34 |
+
Sans avoir été conçu avec la même méthode, et les mêmes performances, paramètres et fenêtres de contexte.
|
| 35 |
+
Le modèle Tiny-lamina-Gheya, est donc le croisement des 2 familles françaises.
|
| 36 |
+
|
| 37 |
+
Tiny-lamina-Gheya, a hérité du nombre de paramètres du modèle Gheya utilisé,
|
| 38 |
+
Vue que ce n'est pas le plus petit (0,2b contre 63M pour le plus petit modèle de fondation Gheya),
|
| 39 |
+
Il est moins cependant moins accessible que les Tiny-lamina natifs (ceux qui sont issus de la série lamina sans interférence sur la série Gheya).
|