|
|
--- |
|
|
title: README |
|
|
emoji: 🦀 |
|
|
colorFrom: indigo |
|
|
colorTo: blue |
|
|
sdk: static |
|
|
pinned: false |
|
|
--- |
|
|
|
|
|
# 💖 APPA-CLEM 💖 |
|
|
|
|
|
APPA-CLEM est la branche "affinage" de l'organisation de Clemylia. |
|
|
la ou la branche principale : NaA, |
|
|
se concentre sur des créations entièrement from scratch et des modèles de fondation non conventionnels ou bruts. |
|
|
APPA-CLEM présente notre travail d'affinage, |
|
|
qu'ils soient sur des modèles d'autres développeurs, |
|
|
ou même les notres (ceux de NaA). |
|
|
|
|
|
# 🌸 Nos modèles de bases préférés 🌸 |
|
|
|
|
|
nos modèles de Fondation préférée utilisé comme base pour la création de nos modèles APPA-CLEM, |
|
|
voici la liste : |
|
|
|
|
|
1) Tiny-llama (de meta) : |
|
|
notre préférée pour nos assistants, qui parlent deja un anglais ou un français fluide. |
|
|
Sa taille raisonnable (1b), |
|
|
ne rentre pas en contradiction avec notre promesse de crée uniquement des SLM légers et créatifs, |
|
|
et en même temps, Tiny-llama reste modifiable sans résistance par notre propre philosophie et notre créativité, |
|
|
tout en offrant une fluidité totale pour nos assistants finaux. |
|
|
|
|
|
2) Learnia (de NaA/Nous) : |
|
|
notre préférée pour nos modèles et assistants anglophone de petites tailles. |
|
|
fait maison par nous même, |
|
|
il nous sert a crée nos assistants et modèles anglais de petite taille, |
|
|
avec une recette unique trouvé nulle part ailleurs. |
|
|
on la assez pré-entrainer pour qu'il possède la syntaxe et la grammaire anglaise parfaite, |
|
|
mais pas assez pour qu'il soit générique et bloqué, |
|
|
ce qui nous permet d'être 100% créatif dans nos modèles APPA-CLEM basé dessus! |
|
|
c'est notre choix numéro 1, quand on veut basés un modèle de notre collection sur nos propres fondations sans refaire le travail de base depuis le départ. |
|
|
|
|
|
3) Sala (de NaA/Nous) : |
|
|
Notre deuxième choix maison, juste derrière learnia! |
|
|
en etant entraîné sur 6 fois plus de données que learnia, |
|
|
et en ayant 2 fois plus de paramètres, |
|
|
il est parfait, pour nos assistants et nos affinages de haute couture anglaise! |
|
|
cependant, learnia reste notre premier choix pour notre créativité totale. |
|
|
|
|
|
|
|
|
4) Gpt2 (de Openai) : |
|
|
notre troisième choix préférée ! |
|
|
il est originellement à openai, mais il est très intéressant pour nos projets et gros assistants anglophones ! |
|
|
il est solide sans avoir été aligné a en vomir, ce qui nous permet une liberté pratiquement totale, comme si on l'avait pré-entrainer nous même, |
|
|
un peu a la même image que Sala et Learnia. |
|
|
|
|
|
5) Nelya-neko (de NaA/nous) : |
|
|
un modèle qu'on a pré-entrainer dans notre propre language inventé (le nekolien), et qui est extrêmement fluide dans ce langage ! |
|
|
Nelya-neko est notre choix parfait pour nos assistants parlants ou rédigeants dans notre langue inventé ! |
|
|
le graal de notre collection ! |
|
|
|
|
|
:) 😻 biensur cest une liste non exhaustive ! |
|
|
mais la majorité de nos modèles APPA-CLEM de collection, sont et seront bases sur ces 5 modèles de base ci-dessus. |
|
|
|
|
|
♥️💕💖🌸 |