Spaces:
Sleeping
Sleeping
Update app.py
Browse files
app.py
CHANGED
|
@@ -21,14 +21,14 @@ model_dosya_adi = "FitTurkAI-Cosmos-Q8.gguf"
|
|
| 21 |
if not os.path.exists(model_dosya_adi):
|
| 22 |
from huggingface_hub import hf_hub_download
|
| 23 |
model_dosya_adi = hf_hub_download(
|
| 24 |
-
repo_id="
|
| 25 |
filename=model_dosya_adi
|
| 26 |
)
|
| 27 |
|
| 28 |
# LLM modeli yükleniyor
|
| 29 |
llm = Llama(
|
| 30 |
model_path=model_dosya_adi,
|
| 31 |
-
n_ctx=
|
| 32 |
n_threads=4
|
| 33 |
)
|
| 34 |
|
|
@@ -112,7 +112,7 @@ FitTürkAI:"""
|
|
| 112 |
|
| 113 |
yanit = llm(
|
| 114 |
prompt=prompt,
|
| 115 |
-
max_tokens=
|
| 116 |
stop=["Kullanıcı:", "FitTürkAI:"]
|
| 117 |
)
|
| 118 |
return yanit["choices"][0]["text"].strip()
|
|
|
|
| 21 |
if not os.path.exists(model_dosya_adi):
|
| 22 |
from huggingface_hub import hf_hub_download
|
| 23 |
model_dosya_adi = hf_hub_download(
|
| 24 |
+
repo_id="AIYildiz/AIYildiz-FitTurkAI-Q8",
|
| 25 |
filename=model_dosya_adi
|
| 26 |
)
|
| 27 |
|
| 28 |
# LLM modeli yükleniyor
|
| 29 |
llm = Llama(
|
| 30 |
model_path=model_dosya_adi,
|
| 31 |
+
n_ctx=2048,
|
| 32 |
n_threads=4
|
| 33 |
)
|
| 34 |
|
|
|
|
| 112 |
|
| 113 |
yanit = llm(
|
| 114 |
prompt=prompt,
|
| 115 |
+
max_tokens=512,
|
| 116 |
stop=["Kullanıcı:", "FitTürkAI:"]
|
| 117 |
)
|
| 118 |
return yanit["choices"][0]["text"].strip()
|