Update server.py

server.py

@@ -42,6 +42,7 @@ import pexpect
 import glob  # 导入 glob 模块
 from requests.adapters import HTTPAdapter
 from requests.packages.urllib3.util.retry import Retry
+
 # 更新软件包列表
 def update():
     print('-----------更新软件包列表开始-------------')
@@ -127,6 +128,80 @@ def ssh():
 # ssh()
 clear_output()
 
+
+
+# 创建一个锁
+lock = threading.Lock()
+data_folder = '/sillytavern/*'
+zip_file_path = '/a/sillytavern.zip'
+metadata_file_path = '/a/dataset-metadata.json'
+last_uploaded_size = -1
+
+def update_last_uploaded_size(size):
+    global last_uploaded_size
+    last_uploaded_size = size
+
+def compress_folder():
+    global last_uploaded_size  # 声明使用全局变量
+
+    # 清理并创建目录
+    if os.path.exists('/a'):
+        subprocess.run(['rm', '-r', '/a'])
+
+    os.makedirs('/a', exist_ok=True)
+
+    with lock:  # 使用锁
+        if os.path.exists(zip_file_path):
+            print(f"压缩文件 {zip_file_path} 已存在，跳过本次压缩。")
+            return
+        print('开始压缩数据')
+        subprocess.run(['7z', 'a', '-tzip', '-mx=1','-mmt=2', zip_file_path, data_folder])
+            # 重命名压缩后的文件
+        file_path = '/a/sillytavern.zip1'
+        subprocess.run(['mv', zip_file_path, file_path])
+        print(f"Data compressed into {zip_file_path}")
+        file_size = os.path.getsize(file_path)  # 获取压缩包的大小
+        print('文件大小:', file_size,'上次文件大小：',last_uploaded_size)
+        # 判断是否大于1GB (1GB = 1024 * 1024 * 1024 字节)
+        if file_size < (1024 ** 3):  
+            print("文件小于1GB，不进行上传。")
+            return
+        if last_uploaded_size == -1 or file_size > last_uploaded_size:
+
+            # 判断是否为首次运行或上次上传大小为0
+            if last_uploaded_size == -1:
+                print("首次运行，正在执行上传...")
+                update_last_uploaded_size(file_size)  # 更新为当前文件大小
+
+                with open(metadata_file_path, 'w') as json_fid:
+                    json.dump(kaggle_metadata, json_fid)
+
+                subprocess.run(['kaggle', 'datasets', 'version', '-m', 'new version message', '-p', '/a'])
+                last_uploaded_size = file_size
+
+            elif file_size > last_uploaded_size:
+                print(f"新文件 {file_path} 大于上次上传的大小，正在执行上传...")
+                update_last_uploaded_size(file_size)  # 更新元数据中的最后一次上传大小
+
+                with open(metadata_file_path, 'w') as json_fid:
+                    json.dump(kaggle_metadata, json_fid)
+
+                subprocess.run(['kaggle', 'datasets', 'version', '-m', 'new version message', '-p', '/a'])
+                last_uploaded_size = file_size
+
+        else:
+            print(f"新文件 {file_path} 不大于上次上传的大小，跳过")
+
+
+def repeat_task():
+    while True:
+        time.sleep(600)
+        print('等待打包')
+        compress_folder()
+
+# repeat_task()
+# compress_folder()
+
 def generate_ssh_key():
     # 生成 SSH 密钥对，并捕获输出和错误信息
     os.system("rm -f ~/.ssh/id_rsa ~/.ssh/id_rsa.pub")