Upload clean_data.py

sentence_data/clean_data.py

@@ -0,0 +1,64 @@
+# 把该py文件的 ./transcript 文件夹下面的所有文件依次取出来，
+# 看看是否包含（）这个符号，付过包含，打印出来，并且把（）和他里面的内容删除，把处理好的文本放回原文件之中
+
+import os
+import re
+
+def clean_line(line):
+    result = []  # 用于存储清洗后的字符
+    in_brackets = False  # 标记是否在括号内
+
+    for char in line:
+        if char == '（':
+            # 遇到左括号，标记为在括号内
+            in_brackets = True
+        elif char == '）':
+            # 遇到右括号，标记为不在括号内
+            in_brackets = False
+        elif not in_brackets:
+            # 如果不在括号内，保留字符
+            result.append(char)
+
+    # 将字符列表拼接成字符串并返回
+    return ''.join(result)
+
+
+def process_files(folder_path):
+    """
+    遍历指定文件夹中的所有文件，逐行清洗包含括号的文本，并将结果写回原文件。
+    """
+    # 检查文件夹是否存在
+    if not os.path.exists(folder_path):
+        print(f"文件夹 {folder_path} 不存在！")
+        return
+
+    # 遍历文件夹中的所有文件
+    for file_name in os.listdir(folder_path):
+        file_path = os.path.join(folder_path, file_name)
+
+        # 确保是文件而不是子文件夹
+        if os.path.isfile(file_path):
+            try:
+                # 创建临时文件
+                temp_file_path = file_path + ".tmp"
+                with open(file_path, 'r', encoding='utf-8') as infile, open(temp_file_path, 'w', encoding='utf-8') as outfile:
+                    # 逐行读取文件
+                    for line in infile:
+                        # 清洗当前行
+                        cleaned_line = clean_line(line)
+                        # 写入清洗后的行到临时文件
+                        outfile.write(cleaned_line)
+
+                # 替换原文件
+                os.replace(temp_file_path, file_path)
+                print(f"已清洗并保存到: {file_name}")
+
+            except Exception as e:
+                print(f"处理文件 {file_name} 时出错: {e}")
+
+if __name__ == "__main__":
+    # 指定文件夹路径
+    transcript_folder = "./transcript"
+
+    # 调用函数处理文件
+    process_files(transcript_folder)