qwen 3B
Browse files
models.py
CHANGED
|
@@ -3,8 +3,8 @@ from huggingface_hub import hf_hub_download
|
|
| 3 |
import os
|
| 4 |
|
| 5 |
# Параметры модели (Q5_K_M — хороший баланс скорость/качество на CPU)
|
| 6 |
-
REPO_ID = "bartowski/Qwen2.5-
|
| 7 |
-
FILENAME = "Qwen2.5-
|
| 8 |
|
| 9 |
# Директория кэша (в HF Spaces /tmp сохраняется между перезапусками, модель не скачивается заново)
|
| 10 |
CACHE_DIR = "/tmp/hf/models"
|
|
|
|
| 3 |
import os
|
| 4 |
|
| 5 |
# Параметры модели (Q5_K_M — хороший баланс скорость/качество на CPU)
|
| 6 |
+
REPO_ID = "bartowski/Qwen2.5-3B-Instruct-GGUF"
|
| 7 |
+
FILENAME = "Qwen2.5-3B-Instruct-Q5_K_M.gguf" # если хочешь другой квант — Q4_K_M (быстрее), Q6_K (лучше качество)
|
| 8 |
|
| 9 |
# Директория кэша (в HF Spaces /tmp сохраняется между перезапусками, модель не скачивается заново)
|
| 10 |
CACHE_DIR = "/tmp/hf/models"
|