ViorikaAI commited on
Commit
9b5f1dc
·
verified ·
1 Parent(s): fb452bc

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +32 -3
README.md CHANGED
@@ -1,3 +1,32 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ base_model: LLAMA
4
+ tags:
5
+ - llama
6
+ - custom-architecture
7
+ - russian
8
+ - conversational
9
+ model-index:
10
+ - name: Logos-3.3B-v1
11
+ results: []
12
+ ---
13
+
14
+ # 🌌 Logos 3.3B (v1.0)
15
+
16
+ Это кастомная модель, обученная на моем железе.
17
+
18
+ # Подробнее:
19
+
20
+ ## ⚙️ Детали модели
21
+ - **Архитектура: используется LLAMA, но модель своя.**
22
+ - **3.3B**
23
+ - **Изначально рандомные веса, были чут чут обучена.**
24
+ - **Язык: Русский, только русский.**
25
+ - **Лицения: MIT**
26
+
27
+ ## 🏋️ Детали Тренировки
28
+ - **Датасет:** `Делал gemini-3`
29
+ - **Железо:** **ОДНА** NVIDIA **GEFORCE RTX 5060 TI** (16GB VRAM)
30
+ - **Эпохи:** 30
31
+ - **Оптимизатор:** lr = 2e-4
32
+ - **Контекст:** 512 токенов