Update server2.py

server2.py

@@ -230,79 +230,78 @@ zip_file_path = '/a/sillytavern.tar.gz'  # 输出的 tar.gz 文件路径
 metadata_file_path = '/a/dataset-metadata.json'
 last_uploaded_size = -1
 
+
 def update_last_uploaded_size(size):
     global last_uploaded_size
     last_uploaded_size = size
 
+def get_folder_size(folder):
+    """使用 du 命令获取文件夹的总大小（字节数）"""
+    result = subprocess.run(['du', '-sb', folder], stdout=subprocess.PIPE, stderr=subprocess.PIPE)
+    if result.returncode == 0:
+        size = result.stdout.split()[0]  # 获取大小
+        return int(size)
+    else:
+        print(f"Error calculating size: {result.stderr.decode()}")
+        return 0
+
 def compress_folder():
     global last_uploaded_size  # 声明使用全局变量
-
     # 清理并创建目录 /a
     if os.path.exists('/a'):
         subprocess.run(['rm', '-r', '/a/'])
-
     os.makedirs('/a', exist_ok=True)
-
     with lock:  # 使用锁
-        if os.path.exists(zip_file_path):
-            print(f"压缩文件 {zip_file_path} 已存在，跳过本次压缩。")
-            return
-        
-        print('开始压缩数据')
-        #result = subprocess.run(['7z', 'a', '-tzip', '-mx=1','-mmt=2', zip_file_path, data_folder])
-        # 7z a -tzip -mx=1 -mmt=2 /a/sillytavern.zip /sillytavern/*
-        # tar -cvf - /sillytavern | pigz -p 6 -1 > /a/sillytavern.tar.gz
-        # result = subprocess.run(
-        # f'tar -cvf - {data_folder} | pigz -p 6 -1 > {zip_file_path} > /dev/null',
-        # shell=True,
-        # check=True
-        # )
-        try:
-            result = subprocess.run(
-            f'tar -cvf - {data_folder} | pigz -p 2 -1 > {zip_file_path} 2> /dev/null',
-            shell=True,
-            check=True,
-            stdout=subprocess.DEVNULL,  # 将标准输出重定向到 /dev/null
-            stderr=subprocess.DEVNULL   # 将标准错误也重定向到 /dev/null
-            )
-        except subprocess.CalledProcessError as e:
-            print(f"Command failed with return code {e.returncode}")
+        # 获取当前文件夹的大小
+        current_folder_size = get_folder_size(data_folder)
+        print(f"当前文件夹大小: {current_folder_size} 字节")
 
-        print('重命名压缩后的文件')
-        file_path = "/a/sillytavern.ctk"
-        print(zip_file_path)
-        
-        subprocess.run(['mv', zip_file_path,file_path])
-        if result.returncode != 0:
-            print("压缩失败，请检查7z命令是否正确")
+        # 判断文件夹大小是否大于 800MB (800MB = 800 * 1024 * 1024 字节)
+        if current_folder_size < (800 * 1024 ** 2):
+            print("文件夹小于800MB，不进行上传和压缩。")
             return
 
-        print(f"Data compressed into {file_path}")
-        
-        file_size = os.path.getsize(file_path)  # 获取压缩包的大小
-        print('文件大小:', file_size, '上次文件大小：', last_uploaded_size,file_size * 1024 ** 2)
-        
-        # 判断是否大于800MB (800MB = 800 * 1024 * 1024 字节)
-        if file_size < (400 * 1024 ** 2):  
-            print("文件小于800MB，不进行上传。")
-            return
-        
-        if last_uploaded_size == -1 or file_size != last_uploaded_size:
-            # 判断是否为首次运行或上次上传大小为0
+        # 如果是首次运行或者文件夹大小不同于上次上传，进行压缩
+        if last_uploaded_size == -1 or current_folder_size != last_uploaded_size:
+            print('开始压缩数据')
+            try:
+                # 执行压缩
+                result = subprocess.run(
+                    f'tar -cvf - {data_folder} | pigz -p 2 -1 > {zip_file_path} 2> /dev/null',
+                    shell=True,
+                    check=True,
+                    stdout=subprocess.DEVNULL,  # 将标准输出重定向到 /dev/null
+                    stderr=subprocess.DEVNULL   # 将标准错误也重定向到 /dev/null
+                )
+            except subprocess.CalledProcessError as e:
+                print(f"命令失败，返回代码: {e.returncode}")
+                return
+
+            print('压缩完成')
+            file_path = "/a/sillytavern.ctk"
+            subprocess.run(['mv', zip_file_path, file_path])
+            print(f"数据压缩为 {file_path}")
+
+            file_size = os.path.getsize(file_path)  # 获取压缩包的大小
+            print('文件大小:', file_size)
+
+            if file_size < (800 * 1024 ** 2):  # 判断压缩后的大小是否小于 800MB
+                print("压缩文件小于800MB，不进行上传。")
+                return
+
+            # 执行上传
             if last_uploaded_size == -1:
                 print("首次运行，正在执行上传...")
-                update_last_uploaded_size(file_size)  # 更新为当前文件大小
+                update_last_uploaded_size(file_size)
 
                 with open(metadata_file_path, 'w') as json_fid:
                     json.dump(kaggle_metadata, json_fid)
-                os.system("kaggle datasets version -m 'new version message' -p /a")
-                #subprocess.run(['kaggle', 'datasets', 'version', '-m', 'new version message', '-p', '/a'])
-                # kaggle datasets version -m 'new version message' -p /a
+
+                subprocess.run(['kaggle', 'datasets', 'version', '-m', 'new version message', '-p', '/a'])
                 last_uploaded_size = file_size
-            
-            elif file_size > last_uploaded_size:
-                print(f"新文件 {zip_file_path} 大于上次上传的大小，正在执行上传...")
-                update_last_uploaded_size(file_size)  # 更新元数据中的最后一次上传大小
+            else:
+                print(f"新文件大小 {file_size} 大于上次上传的大小，正在执行上传...")
+                update_last_uploaded_size(file_size)
 
                 with open(metadata_file_path, 'w') as json_fid:
                     json.dump(kaggle_metadata, json_fid)
@@ -311,14 +310,13 @@ def compress_folder():
                 last_uploaded_size = file_size
             
         else:
-            print(f"新文件 {zip_file_path} 不大于上次上传的大小，跳过")
-
+            print(f"新文件夹大小 {current_folder_size} 不大于上次上传的大小，跳过")
 
 def repeat_task():
     print('------打包线程启动-------------')
     while True:
         print('等待打包')
-        time.sleep(1200)
+        time.sleep(3600)
         compress_folder()
     print('------打包线程结束-------------')
 # repeat_task()