Datasets:
commoncrawl
/
statistics

Dataset card Data Studio Files
xet
Community
2
crawl
stringclasses
120 values
charset
stringclasses
51 values
pages
int64
1
3.83B
urls
int64
1
3.83B
%pages/crawl
float64
0
100
CC-MAIN-2019-04
IBM500
16
16
0
CC-MAIN-2019-04
IBM855
6,424
6,409
0.0002
CC-MAIN-2019-04
IBM866
28,380
28,250
0.001
CC-MAIN-2019-04
ISO-2022-JP
29,239
29,129
0.001
CC-MAIN-2019-04
ISO-8859-1
136,386,399
135,497,182
4.7197
CC-MAIN-2019-04
ISO-8859-13
10,370
10,364
0.0004
CC-MAIN-2019-04
ISO-8859-15
6,704,567
6,663,103
0.232
CC-MAIN-2019-04
ISO-8859-2
8,600,526
8,572,722
0.2976
CC-MAIN-2019-04
ISO-8859-3
7,482
7,454
0.0003
CC-MAIN-2019-04
ISO-8859-4
31,424
31,155
0.0011
CC-MAIN-2019-04
ISO-8859-5
52,251
52,151
0.0018
CC-MAIN-2019-04
ISO-8859-6
5,390
5,333
0.0002
CC-MAIN-2019-04
ISO-8859-7
612,931
611,640
0.0212
CC-MAIN-2019-04
ISO-8859-8
33,345
33,179
0.0012
CC-MAIN-2019-04
ISO-8859-9
1,762,983
1,750,864
0.061
CC-MAIN-2019-04
KOI8-R
462,591
461,567
0.016
CC-MAIN-2019-04
KOI8-U
6,379
6,366
0.0002
CC-MAIN-2019-04
Shift_JIS
13,894,174
13,782,816
0.4808
CC-MAIN-2019-04
TIS-620
497,731
495,783
0.0172
CC-MAIN-2019-04
US-ASCII
911,526
908,432
0.0315
CC-MAIN-2019-04
UTF-16
96,192
95,614
0.0033
CC-MAIN-2019-04
UTF-16BE
3,482
3,470
0.0001
CC-MAIN-2019-04
UTF-16LE
78,727
78,283
0.0027
CC-MAIN-2019-04
UTF-32
1,752
1,747
0.0001
CC-MAIN-2019-04
UTF-32LE
2
2
0
CC-MAIN-2019-04
UTF-8
2,513,543,714
2,488,208,780
86.9821
CC-MAIN-2019-04
windows-1250
4,940,236
4,902,965
0.171
CC-MAIN-2019-04
windows-1251
52,540,303
52,361,966
1.8182
CC-MAIN-2019-04
windows-1252
23,687,194
23,512,000
0.8197
CC-MAIN-2019-04
windows-1253
160,253
159,449
0.0055
CC-MAIN-2019-04
windows-1254
1,056,744
1,048,268
0.0366
CC-MAIN-2019-04
windows-1255
577,473
573,752
0.02
CC-MAIN-2019-04
windows-1256
5,091,584
5,084,020
0.1762
CC-MAIN-2019-04
windows-1257
313,376
312,112
0.0108
CC-MAIN-2019-04
windows-31j
34,902
34,751
0.0012
CC-MAIN-2019-04
x-MacCyrillic
155,159
154,951
0.0054
CC-MAIN-2019-04
x-iso-8859-11
1,823
1,818
0.0001
CC-MAIN-2019-04
x-windows-874
489,725
488,206
0.0169
CC-MAIN-2019-04
x-windows-949
1,530
1,527
0.0001
CC-MAIN-2019-09
<other>
5,224
5,204
0.0002
CC-MAIN-2019-09
<unknown>
73,070,673
73,070,673
2.5078
CC-MAIN-2019-09
Big5
2,309,155
2,304,493
0.0793
CC-MAIN-2019-09
Big5-HKSCS
10,904
10,902
0.0004
CC-MAIN-2019-09
EUC-JP
10,037,847
9,987,065
0.3445
CC-MAIN-2019-09
EUC-KR
5,151,976
5,144,548
0.1768
CC-MAIN-2019-09
GB18030
2,492,998
2,487,624
0.0856
CC-MAIN-2019-09
GB2312
31,674,710
31,561,548
1.0871
CC-MAIN-2019-09
GBK
14,497,541
14,438,247
0.4976
CC-MAIN-2019-09
IBM500
12
12
0
CC-MAIN-2019-09
IBM855
8,107
8,090
0.0003
CC-MAIN-2019-09
IBM866
38,197
38,113
0.0013
CC-MAIN-2019-09
ISO-2022-JP
52,718
52,570
0.0018
CC-MAIN-2019-09
ISO-8859-1
138,321,842
137,383,366
4.7472
CC-MAIN-2019-09
ISO-8859-13
12,181
12,173
0.0004
CC-MAIN-2019-09
ISO-8859-15
5,747,873
5,699,996
0.1973
CC-MAIN-2019-09
ISO-8859-2
6,815,550
6,787,862
0.2339
CC-MAIN-2019-09
ISO-8859-3
7,879
7,861
0.0003
CC-MAIN-2019-09
ISO-8859-4
36,292
36,120
0.0012
CC-MAIN-2019-09
ISO-8859-5
39,640
39,473
0.0014
CC-MAIN-2019-09
ISO-8859-6
7,344
7,289
0.0003
CC-MAIN-2019-09
ISO-8859-7
478,358
476,736
0.0164
CC-MAIN-2019-09
ISO-8859-8
40,576
40,433
0.0014
CC-MAIN-2019-09
ISO-8859-9
1,736,351
1,728,776
0.0596
CC-MAIN-2019-09
KOI8-R
444,018
442,834
0.0152
CC-MAIN-2019-09
KOI8-U
9,516
9,466
0.0003
CC-MAIN-2019-09
Shift_JIS
16,108,058
16,021,754
0.5528
CC-MAIN-2019-09
TIS-620
508,480
504,974
0.0175
CC-MAIN-2019-09
US-ASCII
1,346,025
1,341,118
0.0462
CC-MAIN-2019-09
UTF-16
88,134
87,577
0.003
CC-MAIN-2019-09
UTF-16BE
1,883
1,871
0.0001
CC-MAIN-2019-09
UTF-16LE
72,702
71,939
0.0025
CC-MAIN-2019-09
UTF-32
2,404
2,399
0.0001
CC-MAIN-2019-09
UTF-32LE
5
5
0
CC-MAIN-2019-09
UTF-8
2,509,946,310
2,483,068,828
86.1419
CC-MAIN-2019-09
windows-1250
5,160,717
5,124,276
0.1771
CC-MAIN-2019-09
windows-1251
53,727,061
53,506,185
1.8439
CC-MAIN-2019-09
windows-1252
26,780,002
26,613,572
0.9191
CC-MAIN-2019-09
windows-1253
201,865
201,148
0.0069
CC-MAIN-2019-09
windows-1254
1,108,301
1,103,985
0.038
CC-MAIN-2019-09
windows-1255
589,639
587,888
0.0202
CC-MAIN-2019-09
windows-1256
3,915,782
3,904,965
0.1344
CC-MAIN-2019-09
windows-1257
311,587
310,223
0.0107
CC-MAIN-2019-09
windows-31j
37,304
37,078
0.0013
CC-MAIN-2019-09
x-MacCyrillic
171,504
171,205
0.0059
CC-MAIN-2019-09
x-iso-8859-11
1,665
1,661
0.0001
CC-MAIN-2019-09
x-windows-874
605,446
603,414
0.0208
CC-MAIN-2019-09
x-windows-949
1,066
1,065
0
CC-MAIN-2019-13
<other>
4,750
4,726
0.0002
CC-MAIN-2019-13
<unknown>
51,039,369
51,039,369
1.9862
CC-MAIN-2019-13
Big5
2,275,470
2,270,015
0.0886
CC-MAIN-2019-13
Big5-HKSCS
9,866
9,855
0.0004
CC-MAIN-2019-13
EUC-JP
8,374,619
8,328,170
0.3259
CC-MAIN-2019-13
EUC-KR
4,121,011
4,115,401
0.1604
CC-MAIN-2019-13
GB18030
1,690,480
1,681,689
0.0658
CC-MAIN-2019-13
GB2312
29,370,741
29,115,261
1.143
CC-MAIN-2019-13
GBK
15,298,597
15,210,826
0.5953
CC-MAIN-2019-13
IBM500
14
14
0
CC-MAIN-2019-13
IBM855
7,419
7,402
0.0003
CC-MAIN-2019-13
IBM866
23,682
23,623
0.0009
CC-MAIN-2019-13
ISO-2022-JP
57,461
57,321
0.0022