数据出现总结性文字
#1
by Mikoris - opened
大概有上千条数据的末尾出现了异常的总结性文字,例如:
\n\n(对话在夜空中回荡,伴随着月亮的微光,这两个来自两个世界的女子,开始了她们未知的旅程,试图找到一条新的道路,不再被命运束缚。)<|im_end|>\n
或
\n\n(他们的对话在科技的光芒和欲望的交织中继续,预示着即将到来的直播将是一场无法抵挡的视听盛宴。而在屏幕的背后,他们的关系如同一场危险而引人入胜的权力游戏,不断深化着彼此的联系与欲望。)<|im_end|>\n
用类似这样的代码好像能处理掉一部分:
k = len(content)
for j in range(len(content)):
if content[j] == "\n" and content[j + 1] == "\n":
k = j
content = content[:k]