burak commited on
Commit
a45569a
·
verified ·
1 Parent(s): e1de432

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +35 -1
README.md CHANGED
@@ -40,4 +40,38 @@ Modeli Hugging Face `transformers` kütüphanesi ile saniyeler içinde projene d
40
 
41
  Öncelikle gerekli kütüphaneleri kurduğundan emin ol:
42
  ```bash
43
- pip install transformers torch
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
40
 
41
  Öncelikle gerekli kütüphaneleri kurduğundan emin ol:
42
  ```bash
43
+ pip install transformers torch
44
+
45
+ Ardırdan aşağıdaki kodla birlikte modeli çalıştırabilirsiniz:
46
+
47
+ ```bash
48
+ from transformers import AutoModelForCausalLM, AutoTokenizer
49
+ import torch
50
+
51
+ # Modelin repo adı
52
+ model_id = "syko818121/SykoLLM-V4.4"
53
+
54
+ # Tokenizer ve Modeli yükleme
55
+ tokenizer = AutoTokenizer.from_pretrained(model_id)
56
+ model = AutoModelForCausalLM.from_pretrained(
57
+ model_id,
58
+ torch_dtype=torch.bfloat16,
59
+ device_map="auto"
60
+ )
61
+
62
+ # Test metni
63
+ prompt = "Merhaba, bana biraz kendinden bahseder misin?"
64
+ inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
65
+
66
+ # Metin üretimi
67
+ outputs = model.generate(
68
+ **inputs,
69
+ max_new_tokens=100,
70
+ temperature=0.15,
71
+ top_p=0.9,
72
+ repetition_penalty=1.16,
73
+ do_sample=False
74
+ )
75
+
76
+ response = tokenizer.decode(outputs[0], skip_special_tokens=True)
77
+ print(response)