Spaces:
Sleeping
Sleeping
Update app.py
Browse files
app.py
CHANGED
|
@@ -11,8 +11,8 @@ import torch
|
|
| 11 |
PDF_PATH = "mevzuat.pdf"
|
| 12 |
CHUNK_SIZE = 1000
|
| 13 |
CHUNK_OVERLAP = 150
|
| 14 |
-
EMBEDDING_MODEL_NAME = "
|
| 15 |
-
LLM_MODEL_NAME = "
|
| 16 |
|
| 17 |
MAX_NEW_TOKENS = 256
|
| 18 |
DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
|
|
@@ -95,12 +95,7 @@ def get_answer_from_llm(question):
|
|
| 95 |
|
| 96 |
# DÜZELTME 2: Prompt'u daha basit ve net hale getirdik.
|
| 97 |
# Modelin kafasını karıştıracak "Soru:", "Bağlam:" gibi kelimeleri sadeleştirdik.
|
| 98 |
-
prompt =
|
| 99 |
-
"Verilen metne dayanarak aşağıdaki soruyu cevaplayın.\n\n"
|
| 100 |
-
f"Metin: \"{context}\"\n\n"
|
| 101 |
-
f"Soru: \"{question}\"\n\n"
|
| 102 |
-
"Cevap:"
|
| 103 |
-
)
|
| 104 |
|
| 105 |
print("LLM'e gönderilen prompt'un başlangıcı:", prompt[:500])
|
| 106 |
|
|
|
|
| 11 |
PDF_PATH = "mevzuat.pdf"
|
| 12 |
CHUNK_SIZE = 1000
|
| 13 |
CHUNK_OVERLAP = 150
|
| 14 |
+
EMBEDDING_MODEL_NAME = "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2"
|
| 15 |
+
LLM_MODEL_NAME = "mrm8488/bert2bert_shared-turkish-summarization"
|
| 16 |
|
| 17 |
MAX_NEW_TOKENS = 256
|
| 18 |
DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
|
|
|
|
| 95 |
|
| 96 |
# DÜZELTME 2: Prompt'u daha basit ve net hale getirdik.
|
| 97 |
# Modelin kafasını karıştıracak "Soru:", "Bağlam:" gibi kelimeleri sadeleştirdik.
|
| 98 |
+
prompt = f"Answer the question based on the following context:\n{context}\n\nQuestion: {question}\nAnswer:"
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 99 |
|
| 100 |
print("LLM'e gönderilen prompt'un başlangıcı:", prompt[:500])
|
| 101 |
|