| { |
| "source_repo": "BLIP3o/BLIP3o-Pretrain-Long-Caption", |
| "source_revision": "e4d07091a466d1a1e35a9b0c61caddc78d14a059", |
| "num_pairs": 1000000, |
| "num_shards": 98, |
| "groups": { |
| "sa": { |
| "shards": 36, |
| "pairs": 402626 |
| }, |
| "webdataset_shard": { |
| "shards": 52, |
| "pairs": 498922 |
| }, |
| "webdataset_JDB": { |
| "shards": 10, |
| "pairs": 98452 |
| } |
| }, |
| "dropped_source_shards": [ |
| "webdataset_JDB_300.tar", |
| "webdataset_JDB_330.tar", |
| "webdataset_JDB_360.tar", |
| "webdataset_JDB_390.tar" |
| ], |
| "shards": [ |
| { |
| "file": "sa_000000.tar", |
| "pairs": 11183, |
| "source_file": "sa_000000.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000027.tar", |
| "pairs": 11186, |
| "source_file": "sa_000027.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000055.tar", |
| "pairs": 11185, |
| "source_file": "sa_000055.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000083.tar", |
| "pairs": 11183, |
| "source_file": "sa_000083.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000111.tar", |
| "pairs": 11184, |
| "source_file": "sa_000111.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000138.tar", |
| "pairs": 11186, |
| "source_file": "sa_000138.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000166.tar", |
| "pairs": 11184, |
| "source_file": "sa_000166.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000194.tar", |
| "pairs": 11185, |
| "source_file": "sa_000194.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000222.tar", |
| "pairs": 11183, |
| "source_file": "sa_000222.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000250.tar", |
| "pairs": 11182, |
| "source_file": "sa_000250.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000277.tar", |
| "pairs": 11185, |
| "source_file": "sa_000277.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000305.tar", |
| "pairs": 11183, |
| "source_file": "sa_000305.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000333.tar", |
| "pairs": 11183, |
| "source_file": "sa_000333.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000361.tar", |
| "pairs": 11185, |
| "source_file": "sa_000361.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000388.tar", |
| "pairs": 11184, |
| "source_file": "sa_000388.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000416.tar", |
| "pairs": 11184, |
| "source_file": "sa_000416.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000444.tar", |
| "pairs": 11183, |
| "source_file": "sa_000444.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000472.tar", |
| "pairs": 11183, |
| "source_file": "sa_000472.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000500.tar", |
| "pairs": 11184, |
| "source_file": "sa_000500.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000527.tar", |
| "pairs": 11186, |
| "source_file": "sa_000527.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000555.tar", |
| "pairs": 11185, |
| "source_file": "sa_000555.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000583.tar", |
| "pairs": 11185, |
| "source_file": "sa_000583.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000611.tar", |
| "pairs": 11184, |
| "source_file": "sa_000611.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000638.tar", |
| "pairs": 11183, |
| "source_file": "sa_000638.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000666.tar", |
| "pairs": 11183, |
| "source_file": "sa_000666.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000694.tar", |
| "pairs": 11184, |
| "source_file": "sa_000694.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000722.tar", |
| "pairs": 11184, |
| "source_file": "sa_000722.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000750.tar", |
| "pairs": 11186, |
| "source_file": "sa_000750.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000777.tar", |
| "pairs": 11186, |
| "source_file": "sa_000777.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000805.tar", |
| "pairs": 11184, |
| "source_file": "sa_000805.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000833.tar", |
| "pairs": 11182, |
| "source_file": "sa_000833.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000861.tar", |
| "pairs": 11183, |
| "source_file": "sa_000861.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000888.tar", |
| "pairs": 11185, |
| "source_file": "sa_000888.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000916.tar", |
| "pairs": 11184, |
| "source_file": "sa_000916.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000944.tar", |
| "pairs": 11183, |
| "source_file": "sa_000944.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "sa_000972.tar", |
| "pairs": 11184, |
| "source_file": "sa_000972.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_000.tar", |
| "pairs": 9827, |
| "source_file": "webdataset_shard_000.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_032.tar", |
| "pairs": 9809, |
| "source_file": "webdataset_shard_032.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_063.tar", |
| "pairs": 9799, |
| "source_file": "webdataset_shard_063.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_094.tar", |
| "pairs": 9799, |
| "source_file": "webdataset_shard_094.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_126.tar", |
| "pairs": 9811, |
| "source_file": "webdataset_shard_126.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_159.tar", |
| "pairs": 9839, |
| "source_file": "webdataset_shard_159.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_190.tar", |
| "pairs": 9803, |
| "source_file": "webdataset_shard_190.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_222.tar", |
| "pairs": 9802, |
| "source_file": "webdataset_shard_222.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_255.tar", |
| "pairs": 9797, |
| "source_file": "webdataset_shard_255.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_289.tar", |
| "pairs": 9812, |
| "source_file": "webdataset_shard_289.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_318.tar", |
| "pairs": 9782, |
| "source_file": "webdataset_shard_318.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_352.tar", |
| "pairs": 9795, |
| "source_file": "webdataset_shard_352.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_383.tar", |
| "pairs": 9811, |
| "source_file": "webdataset_shard_383.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_412.tar", |
| "pairs": 9811, |
| "source_file": "webdataset_shard_412.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_440.tar", |
| "pairs": 9806, |
| "source_file": "webdataset_shard_440.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_474.tar", |
| "pairs": 9805, |
| "source_file": "webdataset_shard_474.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_502.tar", |
| "pairs": 9811, |
| "source_file": "webdataset_shard_502.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_543.tar", |
| "pairs": 9798, |
| "source_file": "webdataset_shard_543.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_576.tar", |
| "pairs": 9795, |
| "source_file": "webdataset_shard_576.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_609.tar", |
| "pairs": 9766, |
| "source_file": "webdataset_shard_609.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_643.tar", |
| "pairs": 9804, |
| "source_file": "webdataset_shard_643.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_674.tar", |
| "pairs": 3334, |
| "source_file": "webdataset_shard_674.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_708.tar", |
| "pairs": 9814, |
| "source_file": "webdataset_shard_708.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_740.tar", |
| "pairs": 9821, |
| "source_file": "webdataset_shard_740.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_769.tar", |
| "pairs": 9806, |
| "source_file": "webdataset_shard_769.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_804.tar", |
| "pairs": 9775, |
| "source_file": "webdataset_shard_804.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_835.tar", |
| "pairs": 9823, |
| "source_file": "webdataset_shard_835.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_863.tar", |
| "pairs": 9845, |
| "source_file": "webdataset_shard_863.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_893.tar", |
| "pairs": 2039, |
| "source_file": "webdataset_shard_893.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_927.tar", |
| "pairs": 9802, |
| "source_file": "webdataset_shard_927.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_959.tar", |
| "pairs": 9800, |
| "source_file": "webdataset_shard_959.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_987.tar", |
| "pairs": 9773, |
| "source_file": "webdataset_shard_987.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1016.tar", |
| "pairs": 9790, |
| "source_file": "webdataset_shard_1016.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1050.tar", |
| "pairs": 9826, |
| "source_file": "webdataset_shard_1050.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1085.tar", |
| "pairs": 9813, |
| "source_file": "webdataset_shard_1085.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1116.tar", |
| "pairs": 10000, |
| "source_file": "webdataset_shard_1116.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1145.tar", |
| "pairs": 9997, |
| "source_file": "webdataset_shard_1145.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1173.tar", |
| "pairs": 10000, |
| "source_file": "webdataset_shard_1173.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1201.tar", |
| "pairs": 9995, |
| "source_file": "webdataset_shard_1201.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1230.tar", |
| "pairs": 9998, |
| "source_file": "webdataset_shard_1230.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1258.tar", |
| "pairs": 9998, |
| "source_file": "webdataset_shard_1258.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1286.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_shard_1286.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1314.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_shard_1314.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1343.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_shard_1343.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1371.tar", |
| "pairs": 10000, |
| "source_file": "webdataset_shard_1371.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1399.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_shard_1399.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1428.tar", |
| "pairs": 9998, |
| "source_file": "webdataset_shard_1428.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1456.tar", |
| "pairs": 9998, |
| "source_file": "webdataset_shard_1456.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1484.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_shard_1484.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1513.tar", |
| "pairs": 10000, |
| "source_file": "webdataset_shard_1513.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1541.tar", |
| "pairs": 10000, |
| "source_file": "webdataset_shard_1541.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_shard_1569.tar", |
| "pairs": 10000, |
| "source_file": "webdataset_shard_1569.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_1.tar", |
| "pairs": 9996, |
| "source_file": "webdataset_JDB_1.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_30.tar", |
| "pairs": 9997, |
| "source_file": "webdataset_JDB_30.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_60.tar", |
| "pairs": 10000, |
| "source_file": "webdataset_JDB_60.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_90.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_JDB_90.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_120.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_JDB_120.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_150.tar", |
| "pairs": 9999, |
| "source_file": "webdataset_JDB_150.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_180.tar", |
| "pairs": 9997, |
| "source_file": "webdataset_JDB_180.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_210.tar", |
| "pairs": 9998, |
| "source_file": "webdataset_JDB_210.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_240.tar", |
| "pairs": 9998, |
| "source_file": "webdataset_JDB_240.tar", |
| "mode": "full" |
| }, |
| { |
| "file": "webdataset_JDB_270_part.tar", |
| "pairs": 8469, |
| "source_file": "webdataset_JDB_270.tar", |
| "mode": "partial", |
| "source_pairs": 9999 |
| } |
| ] |
| } |
