ajkndfjsdfasdf commited on
Commit
2613f82
·
verified ·
1 Parent(s): ff2f4fe

Update save.py

Browse files
Files changed (1) hide show
  1. save.py +33 -44
save.py CHANGED
@@ -1,45 +1,34 @@
1
- from huggingface_hub import upload_folder
 
2
  import os
3
- import tempfile
4
- import shutil
5
-
6
- hf_token = ""***HIDDEN_TOKEN***""
7
- repo_id = "ajkndfjsdfasdf/mt5-small-bigdataset"
8
- folder_path = "."
9
-
10
- ignored = {".git", "__pycache__", ".ipynb_checkpoints", "wandb", "logs", "temp_hf_repo"}
11
-
12
- # 🧼 Временная папка
13
- clean_dir = tempfile.mkdtemp()
14
-
15
- # Копируем все файлы, кроме игнорируемых
16
- for item in os.listdir(folder_path):
17
- if item in ignored:
18
- continue
19
- src = os.path.join(folder_path, item)
20
- dst = os.path.join(clean_dir, item)
21
-
22
- if os.path.isdir(src):
23
- shutil.copytree(src, dst, dirs_exist_ok=True)
24
- elif os.path.isfile(src):
25
- # Если файл .py и содержит токензаменим токен на "***"
26
- if src.endswith(".py"):
27
- with open(src, "r") as f:
28
- content = f.read()
29
- # Маскируем токен в коде
30
- content = content.replace(hf_token, '"***HIDDEN_TOKEN***"')
31
- with open(dst, "w") as f:
32
- f.write(content)
33
- else:
34
- shutil.copy2(src, dst)
35
-
36
- # 🚀 Загружаем на Hugging Face
37
- upload_folder(
38
- repo_id=repo_id,
39
- folder_path=clean_dir,
40
- repo_type="model",
41
- token=hf_token,
42
- commit_message="🚀 Full upload with token redacted"
43
- )
44
-
45
- print(f"✅ Всё загружено на: https://huggingface.co/{repo_id}")
 
1
+ from transformers import AutoTokenizer, T5ForConditionalGeneration
2
+ from huggingface_hub import HfApi, HfFolder
3
  import os
4
+
5
+ # 🔐 Токен из переменной окружения
6
+ hf_token = os.environ["huggingface"]
7
+
8
+ # 📁 Локальная директория с моделью
9
+ local_model_dir = "./flan-t5-autobatch"
10
+
11
+ # 🏷️ Репозиторий (ВАЖНО: должен быть в формате 'username/repo_name')
12
+ repo_id = "ajkndfjsdfasdf/flan-5-small-bigdataset"
13
+
14
+ # 🔐 Авторизация
15
+ api = HfApi()
16
+ HfFolder.save_token(hf_token)
17
+
18
+ # 🔍 Проверяем наличие репозитория
19
+ try:
20
+ api.repo_info(repo_id, token=hf_token)
21
+ print(f"📦 Репозиторий {repo_id} уже существует.")
22
+ except:
23
+ print(f"📦 Репозиторий {repo_id} не найден. Создаём...")
24
+ api.create_repo(repo_id=repo_id, token=hf_token, repo_type="model", exist_ok=True)
25
+
26
+ # 📦 Загружаем модель и токенизатор
27
+ model = T5ForConditionalGeneration.from_pretrained(local_model_dir)
28
+ tokenizer = AutoTokenizer.from_pretrained(local_model_dir)
29
+
30
+ # 🚀 Пушим в корень репозитория
31
+ model.push_to_hub(repo_id, token=hf_token, commit_message="🚀 Push latest model to root")
32
+ tokenizer.push_to_hub(repo_id, token=hf_token, commit_message="🚀 Push latest tokenizer to root")
33
+
34
+ print(f"✅ Модель загружена в: https://huggingface.co/{repo_id}")