OLMo3-190M-zh-v2-continue-data

这是 Nwna/olmo3-190m-zh-v2-continue 使用的继续预训练数据说明卡。

出于上传成本和课程作业提交体积考虑，本仓库当前只保存数据说明和 meta.json， 不上传 2.4GB 的 tokenized.bin。完整 tokenized 数据保存在 Modal Volume：

/data/v2/continue_full/tokenized.bin
/data/v2/continue_full/meta.json

数据配方

数据源	tokens
base replay	300,000,000
Wikipedia-zh	394,000,000
Cosmopedia-Chinese	500,000,000
合计	1,194,000,000

编码方式

• Tokenizer: Nwna/olmo3-190m-zh-v2-tokenizer
• vocab size: 48,000
• dtype: uint16
• eos token id: 0

注意：这份数据必须使用 v2 tokenizer 编码，不能直接复用其他 tokenizer 产出的 .bin，否则 token id 语义会和模型 embedding / lm_head 错位。

meta 摘要

{
  "generated_at": "2026-05-08 16:37:44 UTC",
  "kind": "continue_pretrain_tokenized",
  "tokenizer_dir": "/data/v2/tokenizer",
  "output_dir": "/data/v2/continue_full",
  "tokenized_bin": "/data/v2/continue_full/tokenized.bin",
  "dtype": "uint16",
  "target_tokens": 1194000000,
  "actual_tokens": 1194000000,
  "file_size_bytes": 2388000000,
  "vocab_size": 48000,
  "max_token_id": 47999,
  "eos_token_id": 0,
  "documents": 1203778,
  "source_targets": {
    "replay": 300000000,
    "wikipedia_zh": 394000000,
    "cosmopedia_chinese": 500000000
  },
  "source_stats": {
    "replay": {
      "target_tokens": 300000000,
      "raw_docs_seen": 390470,
      "kept_docs": 390470,
      "dropped_docs": 0,
      "clean_chars": 522475091,
      "tokens": 300000000,
      "eos_count": 390469,
      "samples": [
        {
          "id": null,
          "title": null,
          "tokens": 576,
          "chars": 847,
          "preview": "中光学TL 805是一款工程投影机,标准分辨率为1024*768.光学参数 显示芯片 1×0.79英寸DMD芯片 亮度均匀值 85% 对比度 800:1 光源类型 超高压汞灯 灯泡功率 330W 灯泡寿命 正常模式:3000小时,经济模式:4000小时 投影参数 变焦方式 手动变焦 变焦比 1.2倍 光圈范围 F=1.7-1.91 实际焦距 f=24.00-28.8mm 投影比 100英寸@3.06m 投影距离 1.24-11.04m 屏幕比例 4:316:10 色彩数目 10.7亿色 梯形校正 垂直:±30度 投影方式 正投,背投,桌上,吊顶 电脑兼容性 480ip,576ip,720p,1080,VGA,SVGA,XGA,SXGA,WXGA,UXGA 视频兼容性 标准分辨率:标准 Nat",
          "meta": {
            "raw_source": "ultra_fineweb_zh",
            "path": "/data/v2/raw/base_3p4b_chars6p5b/ultra_fineweb_zh/part-00045.jsonl.gz"
          }
        },
        {
          "id": null,
          "title": null,
          "tokens": 231,
          "chars": 298,
          "preview": "莫桑比克从2006年1月开始使用新货币美提卡(MTN),1美提卡=1000梅蒂卡尔. 莫桑比克梅蒂卡尔(复数: meticais)是莫桑比克的流通货币.纸币的正面头像均为莫桑比克第一任总统萨莫拉·马谢尔(1933-1986)货币编号MZN.100梅蒂卡尔换算成人民币大约0.03元左右.莫桑比克梅蒂卡尔(复数: meticais)是莫桑比克的流通货币.纸币的正面头像均为莫桑比克第一任总统萨莫拉·马谢尔(1933-1986)货币编号MZN.100梅蒂卡尔换算成人民币大约0.03元左右1梅蒂卡尔=100分币值: 1,2,5,10,20,50,100,200,500,1000梅蒂卡尔辅币名称: 分",
          "meta": {
            "raw_source": "ultra_fineweb_zh",
            "path": "/data/v2/raw/base_3p4b_chars6p5b/ultra_fineweb_zh/part-00045.jsonl.gz"
          }
        },
        {
          "id": null,
          "title": null,
          "tokens": 167,
          "chars": 274,
          "preview": "中文名称 下孔型头骨 英文名称 synapsid skull 定 义 眼眶之后具一对侧(下)颞孔的爬行类头骨.眶后骨和鳞骨在孔的上方连接,组成侧(下)颞孔的上缘. 应用学科 古生物学(一级学科),古脊椎动物学与古人类学(二级学科),爬行类(三级学科).中文名称 下孔型头骨 英文名称 synapsid skull 定 义 眼眶之后具一对侧(下)颞孔的爬行类头骨.眶后骨和鳞骨在孔的上方连接,组成侧(下)颞孔的上缘. 应用学科 古生物学(一级学科),古脊椎动物学与古人类学(二级学科),爬行类(三级学科) 以上内容由全国科学技术名词审定委员会审定公布",
          "meta": {
            "raw_source": "ultra_fineweb_zh",
            "path": "/data/v2/raw/base_3p4b_chars6p5b/ultra_fineweb_zh/part-00045.jsonl.gz"
          }
        },
        {
          "id": null,
          "title": null,
          "tokens": 520,
          "chars": 860,
          "preview": "西藏拉鲁湿地国家级自然保护区物种繁多 随着环保意识的逐渐觉醒,越来越多的普通人意识到生物多样性的重要,意识到保护环境的重要性和必要性.在我国,为了给野生动植物一个好的生存环境,设立了很多自然保护区.今天给大家介绍的是西藏拉鲁湿地国家级自然保护区. 事实上,这样的自然保护区还有很多,这些自然保护区保护着我国70%的陆地生态系统种类,80%的野生动物和60%的高等植物,也保护着约2000万公顷的原始天然林,天然次生林和约1200万公顷的各种典型湿地. 拉鲁湿地国家级自然保护区阳光充足日照长,空气干燥蒸发大,降雨量少气压低;雨旱两季分明,全年降雨的80%~90%集中在6至9月,年均降水量444.8毫米,多为夜雨;气温低,年均温7.5 °C,年温差小,日温差大,年均湿度45%. 保护区内,国家一级重",
          "meta": {
            "raw_source": "ultra_fineweb_zh",
            "path": "/data/v2/raw/base_3p4b_chars6p5b/ultra_fineweb_zh/part-00045.jsonl.gz"
          }
        },
        {
          "id": null,
          "title": null,
          "tokens": 354,
          "chars": 481,
          "preview": "奶香莜面花形馒头是一道美食,由白面等原料制作而成.奶香莜面花形馒头简介 做这一锅馒头主要是为了处理冰箱里的牛奶! 白面300克,莜面150克,糖20克,酵母5克,牛奶400克左右(牛奶根据自己的需要适量调节) 用餐人数:5-6人 奶香莜面花形馒头食材 奶香莜面花形馒头主料 300g白面 150g莜面 400g牛奶 4g酵母 20糖 奶香莜面花形馒头配料 适量枸杞 奶香莜面花形馒头制作步骤 1 [1] 所有的材料混合揉成光滑的面团,盖上保鲜膜放温暖处进行发酵 2 发酵好的面团 3 把面团滚圆排气后搓成长条 4 切成像包饺子一样开关的小剂子 5 把小剂子滚圆搓成长条,三个一组 6 编成三股辫子 7 把三股辫翻面,从一头卷起来,整理成花形 8 中间插上一颗枸杞点缀!别的可以根据自己喜欢做成不同的形",
          "meta": {
            "raw_source": "ultra_fineweb_zh",
            "path": "/data/v2/raw/base_3p4b_chars6p5b/ultra_fineweb_zh/part-00045.jsonl.gz"
          }
        }
      ],
      "drop_reasons": {},
      "token_ratio": 0.25125628140703515,
      "target_ratio": 0.25125628140703515,
      "tokens_per_char": 0.5741900526316192,
      "keep_ratio_docs": 1.0
    },
    "wikipedia_zh": {
      "target_tokens": 394000000,
      "raw_docs_seen": 1158469,
      "kept_docs": 486048,
      "dropped_docs": 672421,
      "clean_chars": 598504117,
      "tokens": 394000000,
      "eos_count": 486047,
      "samples": [
        {
          "id": "13",
          "title": "数学",
          "tokens": 3923,
          "chars": 7242,
          "preview": "数学，是研究数量、结构以及空间等概念及其变化的一门学科，属于形式科学的一种。数学利用抽象化和逻辑推理，从计数、计算、量度、对物体形状及运动的观察发展而成。数学家们拓展这些概念，以公式化新的猜想，以及从选定的公理及定义出发，严谨地推导出一些定理。 基础数学的知识与运用是生活中不可或缺的一环。对数学基本概念的完善，早在古埃及、美索不达米亚及古印度历史上的古代数学文本便可观见，而在古希腊那里有更为严谨的处理。从那时开始，数学的发展便持续不断地小幅进展，至16世纪的文艺复兴时期，因为新的科学发现和数学革新两者的交互，致使数学的加速发展，直至今日。数学并成为许多国家及地区的教育中的一部分。 数学在许多领域都有应用，包括科学、工程、医学、经济学和金融学等。数学对这些领域的应用通常被称为应用数学，有时亦会",
          "meta": {
            "url": "https://zh.wikipedia.org/wiki/%E6%95%B0%E5%AD%A6"
          }
        },
        {
          "id": "18",
          "title": "哲学",
          "tokens": 7368,
          "chars": 14093,
          "preview": "哲学是研究普遍的、基本问题的学科，包括存在、知识、价值、理智、心灵、语言等领域。哲学与其他学科不同之处在于哲学有独特之思考方式，例如批判的方式、通常是系统化的方法，并以理性论证为基础。在日常用语中，哲学可被引申为个人或团体的最基本信仰、概念或态度，不过此处并非此定义。 简介 词源 英语词语（）源于古希腊语中的，意思为「爱智慧」，有时也译为「智慧的朋友」，该词由（philos，爱）的派生词（philein，去爱）和（sophia，智慧）组合而成。一般认为，古希腊思想家毕达哥拉斯最先在著作中引入“哲学家”和“哲学”这两个术语。 “哲”一词在中国古代指那些善于思辨、学问精深者，如“孔门十哲”、“古圣先哲”等，“哲”或“哲人”意义类似西方近世所谓“哲学家”、“思想家”。1874年，日本启蒙家西周，在",
          "meta": {
            "url": "https://zh.wikipedia.org/wiki/%E5%93%B2%E5%AD%A6"
          }
        },
        {
          "id": "22",
          "title": "历史",
          "tokens": 4859,
          "chars": 9331,
          "preview": "历史（现代汉语词汇，古典文言文称之为史），指人类社会过去的事件和行动，以及对这些事件行为有系统的记录、诠释和研究。历史可提供今人理解过去，作为未来行事的参考依据，与伦理、哲学和艺术同属人类精神文明的重要成果。历史的第二个含义，即对过去事件的记录和研究，又称历史学”，或简称“史学”。隶属于历史学或与其密切相关的学科有年代学、编纂学、家谱学、古文字学、计量历史学、考古学、社会学和新闻学等，参见历史学。记录和研究历史的人称为历史学家，简称“史学家”，中国古代称