{
  "completed_sources": [
    "fineweb_main",
    "fineweb_edu",
    "openwebtext"
  ],
  "current_source": "fineweb_main_2",
  "docs_processed_in_current": 9838534,
  "total_unique_docs": 9928404,
  "total_chars": 29522228504,
  "output_shards_pushed": [
    "fineweb_main_shard_0000",
    "fineweb_main_shard_0001",
    "fineweb_main_shard_0002",
    "fineweb_main_shard_0003",
    "fineweb_main_shard_0004",
    "fineweb_main_2_shard_0005",
    "fineweb_main_2_shard_0006",
    "fineweb_main_2_shard_0007",
    "fineweb_main_2_shard_0008",
    "fineweb_main_2_shard_0009",
    "fineweb_main_2_shard_0010",
    "fineweb_main_2_shard_0011",
    "fineweb_main_2_shard_0012",
    "fineweb_main_2_shard_0013",
    "fineweb_main_2_shard_0014",
    "fineweb_main_2_shard_0015",
    "fineweb_main_2_shard_0016",
    "fineweb_main_2_shard_0017",
    "fineweb_main_2_shard_0018",
    "fineweb_main_2_shard_0019",
    "fineweb_main_2_shard_0020",
    "fineweb_main_2_shard_0021",
    "fineweb_main_2_shard_0022",
    "fineweb_main_2_shard_0023",
    "fineweb_main_2_shard_0024",
    "fineweb_main_2_shard_0025",
    "fineweb_main_2_shard_0026",
    "fineweb_main_2_shard_0027",
    "fineweb_main_2_shard_0028",
    "fineweb_main_2_shard_0029",
    "fineweb_main_2_shard_0030",
    "fineweb_main_2_shard_0031",
    "fineweb_main_2_shard_0032",
    "fineweb_main_2_shard_0033",
    "fineweb_main_2_shard_0034",
    "fineweb_main_2_shard_0035",
    "fineweb_main_2_shard_0036",
    "fineweb_main_2_shard_0037",
    "fineweb_main_2_shard_0038",
    "fineweb_main_2_shard_0039",
    "fineweb_main_2_shard_0040",
    "fineweb_main_2_shard_0041"
  ],
  "next_shard_index": 42,
  "docs_in_current_shard": 0
}