flamedell commited on
Commit
8873267
·
verified ·
1 Parent(s): f7695b5

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +7 -3
app.py CHANGED
@@ -2,14 +2,18 @@ import gradio as gr
2
  import torch
3
  from transformers import AutoTokenizer, AutoModelForCausalLM
4
 
5
- # Kullanacağımız modelin adı\ nMODEL_NAME = "gorkemgoknar/gpt2-small-turkish"
 
6
 
 
7
  device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
 
8
  # Tokenizer ve modeli yükle, cihaza taşı
9
  tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
10
- model = AutoModelForCausalLM.from_pretrained(MODEL_NAME).to(device)
11
 
12
- # Sistem mesajı ile asistanın tonunu belirle\ nSYSTEM_PROMPT = (
 
13
  "Sen Türkçe konuşan, nazik ve açıklayıcı bir yapay zeka asistanısın. "
14
  "Kullanıcının sorusuna kısaca ve anlaşılır şekilde cevap ver.\n\n"
15
  )
 
2
  import torch
3
  from transformers import AutoTokenizer, AutoModelForCausalLM
4
 
5
+ # Kullanacağımız modelin adı
6
+ MODEL_NAME = "gorkemgoknar/gpt2-small-turkish"
7
 
8
+ # Cihaz ayarı: GPU varsa cuda, yoksa CPU
9
  device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
10
+
11
  # Tokenizer ve modeli yükle, cihaza taşı
12
  tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
13
+ model = AutoModelForCausalLM.from_pretrained(MODEL_NAME).to(device)
14
 
15
+ # Sistem mesajı ile asistanın tonunu belirle
16
+ SYSTEM_PROMPT = (
17
  "Sen Türkçe konuşan, nazik ve açıklayıcı bir yapay zeka asistanısın. "
18
  "Kullanıcının sorusuna kısaca ve anlaşılır şekilde cevap ver.\n\n"
19
  )