sudenurozturk commited on
Commit
b0c2e08
·
verified ·
1 Parent(s): 7ed5251

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -21,14 +21,14 @@ model_dosya_adi = "FitTurkAI-Cosmos-Q8.gguf"
21
  if not os.path.exists(model_dosya_adi):
22
  from huggingface_hub import hf_hub_download
23
  model_dosya_adi = hf_hub_download(
24
- repo_id="sudenurozturk/AIYildiz-FitTurkAI",
25
  filename=model_dosya_adi
26
  )
27
 
28
  # LLM modeli yükleniyor
29
  llm = Llama(
30
  model_path=model_dosya_adi,
31
- n_ctx=3072,
32
  n_threads=4
33
  )
34
 
@@ -112,7 +112,7 @@ FitTürkAI:"""
112
 
113
  yanit = llm(
114
  prompt=prompt,
115
- max_tokens=1024,
116
  stop=["Kullanıcı:", "FitTürkAI:"]
117
  )
118
  return yanit["choices"][0]["text"].strip()
 
21
  if not os.path.exists(model_dosya_adi):
22
  from huggingface_hub import hf_hub_download
23
  model_dosya_adi = hf_hub_download(
24
+ repo_id="AIYildiz/AIYildiz-FitTurkAI-Q8",
25
  filename=model_dosya_adi
26
  )
27
 
28
  # LLM modeli yükleniyor
29
  llm = Llama(
30
  model_path=model_dosya_adi,
31
+ n_ctx=2048,
32
  n_threads=4
33
  )
34
 
 
112
 
113
  yanit = llm(
114
  prompt=prompt,
115
+ max_tokens=512,
116
  stop=["Kullanıcı:", "FitTürkAI:"]
117
  )
118
  return yanit["choices"][0]["text"].strip()