{
  "source_repo": "BLIP3o/BLIP3o-Pretrain-Long-Caption",
  "source_revision": "e4d07091a466d1a1e35a9b0c61caddc78d14a059",
  "num_pairs": 1000000,
  "num_shards": 98,
  "groups": {
    "sa": {
      "shards": 36,
      "pairs": 402626
    },
    "webdataset_shard": {
      "shards": 52,
      "pairs": 498922
    },
    "webdataset_JDB": {
      "shards": 10,
      "pairs": 98452
    }
  },
  "dropped_source_shards": [
    "webdataset_JDB_300.tar",
    "webdataset_JDB_330.tar",
    "webdataset_JDB_360.tar",
    "webdataset_JDB_390.tar"
  ],
  "shards": [
    {
      "file": "sa_000000.tar",
      "pairs": 11183,
      "source_file": "sa_000000.tar",
      "mode": "full"
    },
    {
      "file": "sa_000027.tar",
      "pairs": 11186,
      "source_file": "sa_000027.tar",
      "mode": "full"
    },
    {
      "file": "sa_000055.tar",
      "pairs": 11185,
      "source_file": "sa_000055.tar",
      "mode": "full"
    },
    {
      "file": "sa_000083.tar",
      "pairs": 11183,
      "source_file": "sa_000083.tar",
      "mode": "full"
    },
    {
      "file": "sa_000111.tar",
      "pairs": 11184,
      "source_file": "sa_000111.tar",
      "mode": "full"
    },
    {
      "file": "sa_000138.tar",
      "pairs": 11186,
      "source_file": "sa_000138.tar",
      "mode": "full"
    },
    {
      "file": "sa_000166.tar",
      "pairs": 11184,
      "source_file": "sa_000166.tar",
      "mode": "full"
    },
    {
      "file": "sa_000194.tar",
      "pairs": 11185,
      "source_file": "sa_000194.tar",
      "mode": "full"
    },
    {
      "file": "sa_000222.tar",
      "pairs": 11183,
      "source_file": "sa_000222.tar",
      "mode": "full"
    },
    {
      "file": "sa_000250.tar",
      "pairs": 11182,
      "source_file": "sa_000250.tar",
      "mode": "full"
    },
    {
      "file": "sa_000277.tar",
      "pairs": 11185,
      "source_file": "sa_000277.tar",
      "mode": "full"
    },
    {
      "file": "sa_000305.tar",
      "pairs": 11183,
      "source_file": "sa_000305.tar",
      "mode": "full"
    },
    {
      "file": "sa_000333.tar",
      "pairs": 11183,
      "source_file": "sa_000333.tar",
      "mode": "full"
    },
    {
      "file": "sa_000361.tar",
      "pairs": 11185,
      "source_file": "sa_000361.tar",
      "mode": "full"
    },
    {
      "file": "sa_000388.tar",
      "pairs": 11184,
      "source_file": "sa_000388.tar",
      "mode": "full"
    },
    {
      "file": "sa_000416.tar",
      "pairs": 11184,
      "source_file": "sa_000416.tar",
      "mode": "full"
    },
    {
      "file": "sa_000444.tar",
      "pairs": 11183,
      "source_file": "sa_000444.tar",
      "mode": "full"
    },
    {
      "file": "sa_000472.tar",
      "pairs": 11183,
      "source_file": "sa_000472.tar",
      "mode": "full"
    },
    {
      "file": "sa_000500.tar",
      "pairs": 11184,
      "source_file": "sa_000500.tar",
      "mode": "full"
    },
    {
      "file": "sa_000527.tar",
      "pairs": 11186,
      "source_file": "sa_000527.tar",
      "mode": "full"
    },
    {
      "file": "sa_000555.tar",
      "pairs": 11185,
      "source_file": "sa_000555.tar",
      "mode": "full"
    },
    {
      "file": "sa_000583.tar",
      "pairs": 11185,
      "source_file": "sa_000583.tar",
      "mode": "full"
    },
    {
      "file": "sa_000611.tar",
      "pairs": 11184,
      "source_file": "sa_000611.tar",
      "mode": "full"
    },
    {
      "file": "sa_000638.tar",
      "pairs": 11183,
      "source_file": "sa_000638.tar",
      "mode": "full"
    },
    {
      "file": "sa_000666.tar",
      "pairs": 11183,
      "source_file": "sa_000666.tar",
      "mode": "full"
    },
    {
      "file": "sa_000694.tar",
      "pairs": 11184,
      "source_file": "sa_000694.tar",
      "mode": "full"
    },
    {
      "file": "sa_000722.tar",
      "pairs": 11184,
      "source_file": "sa_000722.tar",
      "mode": "full"
    },
    {
      "file": "sa_000750.tar",
      "pairs": 11186,
      "source_file": "sa_000750.tar",
      "mode": "full"
    },
    {
      "file": "sa_000777.tar",
      "pairs": 11186,
      "source_file": "sa_000777.tar",
      "mode": "full"
    },
    {
      "file": "sa_000805.tar",
      "pairs": 11184,
      "source_file": "sa_000805.tar",
      "mode": "full"
    },
    {
      "file": "sa_000833.tar",
      "pairs": 11182,
      "source_file": "sa_000833.tar",
      "mode": "full"
    },
    {
      "file": "sa_000861.tar",
      "pairs": 11183,
      "source_file": "sa_000861.tar",
      "mode": "full"
    },
    {
      "file": "sa_000888.tar",
      "pairs": 11185,
      "source_file": "sa_000888.tar",
      "mode": "full"
    },
    {
      "file": "sa_000916.tar",
      "pairs": 11184,
      "source_file": "sa_000916.tar",
      "mode": "full"
    },
    {
      "file": "sa_000944.tar",
      "pairs": 11183,
      "source_file": "sa_000944.tar",
      "mode": "full"
    },
    {
      "file": "sa_000972.tar",
      "pairs": 11184,
      "source_file": "sa_000972.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_000.tar",
      "pairs": 9827,
      "source_file": "webdataset_shard_000.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_032.tar",
      "pairs": 9809,
      "source_file": "webdataset_shard_032.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_063.tar",
      "pairs": 9799,
      "source_file": "webdataset_shard_063.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_094.tar",
      "pairs": 9799,
      "source_file": "webdataset_shard_094.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_126.tar",
      "pairs": 9811,
      "source_file": "webdataset_shard_126.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_159.tar",
      "pairs": 9839,
      "source_file": "webdataset_shard_159.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_190.tar",
      "pairs": 9803,
      "source_file": "webdataset_shard_190.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_222.tar",
      "pairs": 9802,
      "source_file": "webdataset_shard_222.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_255.tar",
      "pairs": 9797,
      "source_file": "webdataset_shard_255.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_289.tar",
      "pairs": 9812,
      "source_file": "webdataset_shard_289.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_318.tar",
      "pairs": 9782,
      "source_file": "webdataset_shard_318.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_352.tar",
      "pairs": 9795,
      "source_file": "webdataset_shard_352.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_383.tar",
      "pairs": 9811,
      "source_file": "webdataset_shard_383.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_412.tar",
      "pairs": 9811,
      "source_file": "webdataset_shard_412.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_440.tar",
      "pairs": 9806,
      "source_file": "webdataset_shard_440.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_474.tar",
      "pairs": 9805,
      "source_file": "webdataset_shard_474.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_502.tar",
      "pairs": 9811,
      "source_file": "webdataset_shard_502.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_543.tar",
      "pairs": 9798,
      "source_file": "webdataset_shard_543.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_576.tar",
      "pairs": 9795,
      "source_file": "webdataset_shard_576.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_609.tar",
      "pairs": 9766,
      "source_file": "webdataset_shard_609.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_643.tar",
      "pairs": 9804,
      "source_file": "webdataset_shard_643.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_674.tar",
      "pairs": 3334,
      "source_file": "webdataset_shard_674.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_708.tar",
      "pairs": 9814,
      "source_file": "webdataset_shard_708.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_740.tar",
      "pairs": 9821,
      "source_file": "webdataset_shard_740.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_769.tar",
      "pairs": 9806,
      "source_file": "webdataset_shard_769.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_804.tar",
      "pairs": 9775,
      "source_file": "webdataset_shard_804.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_835.tar",
      "pairs": 9823,
      "source_file": "webdataset_shard_835.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_863.tar",
      "pairs": 9845,
      "source_file": "webdataset_shard_863.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_893.tar",
      "pairs": 2039,
      "source_file": "webdataset_shard_893.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_927.tar",
      "pairs": 9802,
      "source_file": "webdataset_shard_927.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_959.tar",
      "pairs": 9800,
      "source_file": "webdataset_shard_959.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_987.tar",
      "pairs": 9773,
      "source_file": "webdataset_shard_987.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1016.tar",
      "pairs": 9790,
      "source_file": "webdataset_shard_1016.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1050.tar",
      "pairs": 9826,
      "source_file": "webdataset_shard_1050.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1085.tar",
      "pairs": 9813,
      "source_file": "webdataset_shard_1085.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1116.tar",
      "pairs": 10000,
      "source_file": "webdataset_shard_1116.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1145.tar",
      "pairs": 9997,
      "source_file": "webdataset_shard_1145.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1173.tar",
      "pairs": 10000,
      "source_file": "webdataset_shard_1173.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1201.tar",
      "pairs": 9995,
      "source_file": "webdataset_shard_1201.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1230.tar",
      "pairs": 9998,
      "source_file": "webdataset_shard_1230.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1258.tar",
      "pairs": 9998,
      "source_file": "webdataset_shard_1258.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1286.tar",
      "pairs": 9999,
      "source_file": "webdataset_shard_1286.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1314.tar",
      "pairs": 9999,
      "source_file": "webdataset_shard_1314.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1343.tar",
      "pairs": 9999,
      "source_file": "webdataset_shard_1343.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1371.tar",
      "pairs": 10000,
      "source_file": "webdataset_shard_1371.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1399.tar",
      "pairs": 9999,
      "source_file": "webdataset_shard_1399.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1428.tar",
      "pairs": 9998,
      "source_file": "webdataset_shard_1428.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1456.tar",
      "pairs": 9998,
      "source_file": "webdataset_shard_1456.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1484.tar",
      "pairs": 9999,
      "source_file": "webdataset_shard_1484.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1513.tar",
      "pairs": 10000,
      "source_file": "webdataset_shard_1513.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1541.tar",
      "pairs": 10000,
      "source_file": "webdataset_shard_1541.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_shard_1569.tar",
      "pairs": 10000,
      "source_file": "webdataset_shard_1569.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_1.tar",
      "pairs": 9996,
      "source_file": "webdataset_JDB_1.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_30.tar",
      "pairs": 9997,
      "source_file": "webdataset_JDB_30.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_60.tar",
      "pairs": 10000,
      "source_file": "webdataset_JDB_60.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_90.tar",
      "pairs": 9999,
      "source_file": "webdataset_JDB_90.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_120.tar",
      "pairs": 9999,
      "source_file": "webdataset_JDB_120.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_150.tar",
      "pairs": 9999,
      "source_file": "webdataset_JDB_150.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_180.tar",
      "pairs": 9997,
      "source_file": "webdataset_JDB_180.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_210.tar",
      "pairs": 9998,
      "source_file": "webdataset_JDB_210.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_240.tar",
      "pairs": 9998,
      "source_file": "webdataset_JDB_240.tar",
      "mode": "full"
    },
    {
      "file": "webdataset_JDB_270_part.tar",
      "pairs": 8469,
      "source_file": "webdataset_JDB_270.tar",
      "mode": "partial",
      "source_pairs": 9999
    }
  ]
}