aysemutluay commited on
Commit
841a1ea
·
verified ·
1 Parent(s): 03e44d4

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -8
app.py CHANGED
@@ -11,8 +11,8 @@ import torch
11
  PDF_PATH = "mevzuat.pdf"
12
  CHUNK_SIZE = 1000
13
  CHUNK_OVERLAP = 150
14
- EMBEDDING_MODEL_NAME = "intfloat/multilingual-e5-base"
15
- LLM_MODEL_NAME = "google/flan-t5-base"
16
 
17
  MAX_NEW_TOKENS = 256
18
  DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
@@ -95,12 +95,7 @@ def get_answer_from_llm(question):
95
 
96
  # DÜZELTME 2: Prompt'u daha basit ve net hale getirdik.
97
  # Modelin kafasını karıştıracak "Soru:", "Bağlam:" gibi kelimeleri sadeleştirdik.
98
- prompt = (
99
- "Verilen metne dayanarak aşağıdaki soruyu cevaplayın.\n\n"
100
- f"Metin: \"{context}\"\n\n"
101
- f"Soru: \"{question}\"\n\n"
102
- "Cevap:"
103
- )
104
 
105
  print("LLM'e gönderilen prompt'un başlangıcı:", prompt[:500])
106
 
 
11
  PDF_PATH = "mevzuat.pdf"
12
  CHUNK_SIZE = 1000
13
  CHUNK_OVERLAP = 150
14
+ EMBEDDING_MODEL_NAME = "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2"
15
+ LLM_MODEL_NAME = "mrm8488/bert2bert_shared-turkish-summarization"
16
 
17
  MAX_NEW_TOKENS = 256
18
  DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
 
95
 
96
  # DÜZELTME 2: Prompt'u daha basit ve net hale getirdik.
97
  # Modelin kafasını karıştıracak "Soru:", "Bağlam:" gibi kelimeleri sadeleştirdik.
98
+ prompt = f"Answer the question based on the following context:\n{context}\n\nQuestion: {question}\nAnswer:"
 
 
 
 
 
99
 
100
  print("LLM'e gönderilen prompt'un başlangıcı:", prompt[:500])
101