SunX45 commited on
Commit
e12b8c1
·
1 Parent(s): 6dcbb41

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +16 -0
app.py ADDED
@@ -0,0 +1,16 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import torch
2
+ from transformers import GPTNeoForSequenceClassification
3
+
4
+ # Загружаем модель GPT
5
+ model = GPTNeoForSequenceClassification.from_pretrained("EleutherAI/gpt-neo-1.3B")
6
+ with open("data.txt", "r") as f:
7
+ data = f.read()
8
+
9
+ # Преобразуем данные в токенизированную последовательность
10
+ encoded_data = torch.tensor(data.split(), dtype=torch.long)
11
+
12
+ # Обучаем модель
13
+ model.train()
14
+ model.fit(encoded_data, epochs=10
15
+ # Сохраняем модель
16
+ model.save("model.pt")