ivanm151 commited on
Commit
f831d3d
·
1 Parent(s): 95b2f73
Files changed (1) hide show
  1. models.py +2 -2
models.py CHANGED
@@ -3,8 +3,8 @@ from huggingface_hub import hf_hub_download
3
  import os
4
 
5
  # Параметры модели (Q5_K_M — хороший баланс скорость/качество на CPU)
6
- REPO_ID = "bartowski/Qwen2.5-7B-Instruct-GGUF"
7
- FILENAME = "Qwen2.5-7B-Instruct-Q5_K_M.gguf" # если хочешь другой квант — Q4_K_M (быстрее), Q6_K (лучше качество)
8
 
9
  # Директория кэша (в HF Spaces /tmp сохраняется между перезапусками, модель не скачивается заново)
10
  CACHE_DIR = "/tmp/hf/models"
 
3
  import os
4
 
5
  # Параметры модели (Q5_K_M — хороший баланс скорость/качество на CPU)
6
+ REPO_ID = "bartowski/Qwen2.5-3B-Instruct-GGUF"
7
+ FILENAME = "Qwen2.5-3B-Instruct-Q5_K_M.gguf" # если хочешь другой квант — Q4_K_M (быстрее), Q6_K (лучше качество)
8
 
9
  # Директория кэша (в HF Spaces /tmp сохраняется между перезапусками, модель не скачивается заново)
10
  CACHE_DIR = "/tmp/hf/models"