update readme

README.md

@@ -13,7 +13,7 @@ size_categories:
 
 ## 简介
 
-搜集网络上的网文小说，清洗，分割后，用于训练大语言模型，共计9000本左右，大约5B左右token。
+搜集网络上的网文小说，清洗，分割后，用于训练大语言模型，共计9000本左右，大约9B左右token。
 
 ## 使用
 
@@ -32,34 +32,6 @@ size_categories:
 
 ```
 
-### 示例代码
-
-```python
-def process_webnovel(input_dir, tokenizer):
-    for subdir, dirs, files in os.walk(input_dir):
-        all_tokens = []
-        for idx, file in enumerate(files):
-            # 只处理txt文件
-            if file.endswith('.jsonl'):
-                # 获取当前文件的绝对路径
-                file_path = os.path.join(subdir, file)
-                # 读取jsonl文件
-                with open(file_path, 'r', encoding='utf-8') as infile:
-                    lines = infile.readlines()
-                    
-                for line in lines:
-                    json_obj = json.loads(line)  # 解析json字符串为python对象
-                    text = json_obj['text']
-                    tokens = tokenizer.encode(text, add_special_tokens=False)
-                    tokens.append(tokenizer.special_tokens['<eos>'])
-                    if len(tokens) > 5:
-                        all_tokens += tokens
-    
-        arr = np.array(all_tokens, dtype = np.uint16)
-        with open('./data/webnovel_{idx}.bin','wb') as f:
-            f.write(arr.tobytes())
-```
-