eokayakca commited on
Commit
6dd8e54
·
verified ·
1 Parent(s): a46d561

Add dataset card

Browse files
Files changed (1) hide show
  1. README.md +59 -864
README.md CHANGED
@@ -1,866 +1,61 @@
1
  ---
2
- dataset_info:
3
- features:
4
- - name: text
5
- dtype: string
6
- - name: lang
7
- dtype: string
8
- - name: source
9
- dtype: string
10
- splits:
11
- - name: fineweb_tuk_001
12
- num_bytes: 742385426
13
- num_examples: 238155
14
- - name: fineweb_uzb_001
15
- num_bytes: 380995020
16
- num_examples: 100000
17
- - name: fineweb_uzb_002
18
- num_bytes: 380259356
19
- num_examples: 100000
20
- - name: fineweb_uzb_003
21
- num_bytes: 377462388
22
- num_examples: 100000
23
- - name: fineweb_uzb_004
24
- num_bytes: 380350389
25
- num_examples: 100000
26
- - name: fineweb_uzb_005
27
- num_bytes: 378640271
28
- num_examples: 100000
29
- - name: fineweb_uzb_006
30
- num_bytes: 388568917
31
- num_examples: 100000
32
- - name: fineweb_uzb_007
33
- num_bytes: 395276035
34
- num_examples: 100000
35
- - name: fineweb_uzb_008
36
- num_bytes: 396575921
37
- num_examples: 100000
38
- - name: fineweb_uzb_009
39
- num_bytes: 397779231
40
- num_examples: 100000
41
- - name: fineweb_uzb_010
42
- num_bytes: 395500390
43
- num_examples: 100000
44
- - name: fineweb_uzb_011
45
- num_bytes: 396539100
46
- num_examples: 100000
47
- - name: fineweb_uzb_012
48
- num_bytes: 403672602
49
- num_examples: 100000
50
- - name: fineweb_uzb_013
51
- num_bytes: 136386262
52
- num_examples: 33463
53
- - name: fineweb_aze_001
54
- num_bytes: 348096933
55
- num_examples: 100000
56
- - name: fineweb_aze_002
57
- num_bytes: 357639324
58
- num_examples: 100000
59
- - name: fineweb_aze_003
60
- num_bytes: 345734142
61
- num_examples: 100000
62
- - name: fineweb_aze_004
63
- num_bytes: 346966838
64
- num_examples: 100000
65
- - name: fineweb_aze_005
66
- num_bytes: 343926554
67
- num_examples: 100000
68
- - name: fineweb_aze_006
69
- num_bytes: 340632850
70
- num_examples: 100000
71
- - name: fineweb_aze_007
72
- num_bytes: 347262644
73
- num_examples: 100000
74
- - name: fineweb_aze_008
75
- num_bytes: 347167241
76
- num_examples: 100000
77
- - name: fineweb_aze_009
78
- num_bytes: 329171642
79
- num_examples: 100000
80
- - name: fineweb_aze_010
81
- num_bytes: 340908549
82
- num_examples: 100000
83
- - name: fineweb_aze_011
84
- num_bytes: 343362826
85
- num_examples: 100000
86
- - name: fineweb_aze_012
87
- num_bytes: 342802944
88
- num_examples: 100000
89
- - name: fineweb_aze_013
90
- num_bytes: 341404684
91
- num_examples: 100000
92
- - name: fineweb_aze_014
93
- num_bytes: 346529757
94
- num_examples: 100000
95
- - name: fineweb_aze_015
96
- num_bytes: 342581232
97
- num_examples: 100000
98
- - name: fineweb_aze_016
99
- num_bytes: 342172659
100
- num_examples: 100000
101
- - name: fineweb_aze_017
102
- num_bytes: 342784690
103
- num_examples: 100000
104
- - name: fineweb_aze_018
105
- num_bytes: 344465023
106
- num_examples: 100000
107
- - name: fineweb_aze_019
108
- num_bytes: 352449028
109
- num_examples: 100000
110
- - name: fineweb_aze_020
111
- num_bytes: 351270353
112
- num_examples: 100000
113
- - name: fineweb_aze_021
114
- num_bytes: 348798313
115
- num_examples: 100000
116
- - name: fineweb_aze_022
117
- num_bytes: 351111250
118
- num_examples: 100000
119
- - name: fineweb_aze_023
120
- num_bytes: 348108343
121
- num_examples: 100000
122
- - name: fineweb_aze_024
123
- num_bytes: 354429568
124
- num_examples: 100000
125
- - name: fineweb_aze_025
126
- num_bytes: 353438648
127
- num_examples: 100000
128
- - name: fineweb_aze_026
129
- num_bytes: 354415200
130
- num_examples: 100000
131
- - name: fineweb_aze_027
132
- num_bytes: 362890384
133
- num_examples: 100000
134
- - name: fineweb_aze_028
135
- num_bytes: 355994663
136
- num_examples: 100000
137
- - name: fineweb_aze_029
138
- num_bytes: 362039120
139
- num_examples: 100000
140
- - name: fineweb_aze_030
141
- num_bytes: 361363808
142
- num_examples: 100000
143
- - name: fineweb_aze_031
144
- num_bytes: 369326408
145
- num_examples: 100000
146
- - name: fineweb_aze_032
147
- num_bytes: 370371262
148
- num_examples: 100000
149
- - name: fineweb_aze_033
150
- num_bytes: 370523459
151
- num_examples: 100000
152
- - name: fineweb_aze_034
153
- num_bytes: 373768467
154
- num_examples: 100000
155
- - name: fineweb_aze_035
156
- num_bytes: 379440584
157
- num_examples: 100000
158
- - name: fineweb_aze_036
159
- num_bytes: 375821683
160
- num_examples: 100000
161
- - name: fineweb_aze_037
162
- num_bytes: 381821130
163
- num_examples: 100000
164
- - name: fineweb_aze_038
165
- num_bytes: 379648748
166
- num_examples: 100000
167
- - name: fineweb_aze_039
168
- num_bytes: 387277066
169
- num_examples: 100000
170
- - name: fineweb_aze_040
171
- num_bytes: 391498081
172
- num_examples: 100000
173
- - name: fineweb_aze_041
174
- num_bytes: 397303595
175
- num_examples: 100000
176
- - name: fineweb_aze_042
177
- num_bytes: 390570494
178
- num_examples: 100000
179
- - name: fineweb_aze_043
180
- num_bytes: 398537714
181
- num_examples: 100000
182
- - name: fineweb_aze_044
183
- num_bytes: 397308203
184
- num_examples: 100000
185
- - name: fineweb_aze_045
186
- num_bytes: 407404822
187
- num_examples: 100000
188
- - name: fineweb_aze_046
189
- num_bytes: 405362470
190
- num_examples: 100000
191
- - name: fineweb_aze_047
192
- num_bytes: 413742934
193
- num_examples: 100000
194
- - name: fineweb_aze_048
195
- num_bytes: 411969580
196
- num_examples: 100000
197
- - name: fineweb_aze_049
198
- num_bytes: 414328319
199
- num_examples: 100000
200
- - name: fineweb_aze_050
201
- num_bytes: 423937587
202
- num_examples: 100000
203
- - name: fineweb_aze_051
204
- num_bytes: 431606108
205
- num_examples: 100000
206
- - name: fineweb_aze_052
207
- num_bytes: 434124013
208
- num_examples: 100000
209
- - name: fineweb_aze_053
210
- num_bytes: 433025923
211
- num_examples: 100000
212
- - name: fineweb_aze_054
213
- num_bytes: 437859692
214
- num_examples: 100000
215
- - name: fineweb_aze_055
216
- num_bytes: 445317831
217
- num_examples: 100000
218
- - name: fineweb_aze_056
219
- num_bytes: 442661499
220
- num_examples: 100000
221
- - name: fineweb_aze_057
222
- num_bytes: 456290027
223
- num_examples: 100000
224
- - name: fineweb_aze_058
225
- num_bytes: 450066953
226
- num_examples: 100000
227
- - name: fineweb_aze_059
228
- num_bytes: 456869792
229
- num_examples: 100000
230
- - name: fineweb_aze_060
231
- num_bytes: 463613495
232
- num_examples: 100000
233
- - name: fineweb_aze_061
234
- num_bytes: 461874232
235
- num_examples: 100000
236
- - name: fineweb_aze_062
237
- num_bytes: 469141823
238
- num_examples: 100000
239
- - name: fineweb_aze_063
240
- num_bytes: 471303132
241
- num_examples: 100000
242
- - name: fineweb_aze_064
243
- num_bytes: 472872129
244
- num_examples: 100000
245
- - name: fineweb_aze_065
246
- num_bytes: 476114210
247
- num_examples: 100000
248
- - name: fineweb_aze_066
249
- num_bytes: 481329009
250
- num_examples: 100000
251
- - name: fineweb_aze_067
252
- num_bytes: 488061477
253
- num_examples: 100000
254
- - name: fineweb_aze_068
255
- num_bytes: 496399782
256
- num_examples: 100000
257
- - name: fineweb_aze_069
258
- num_bytes: 502307472
259
- num_examples: 100000
260
- - name: fineweb_aze_070
261
- num_bytes: 503186240
262
- num_examples: 100000
263
- - name: fineweb_aze_071
264
- num_bytes: 498940056
265
- num_examples: 100000
266
- - name: fineweb_aze_072
267
- num_bytes: 507234112
268
- num_examples: 100000
269
- - name: fineweb_aze_073
270
- num_bytes: 472748608
271
- num_examples: 91231
272
- - name: fineweb_fin_001
273
- num_bytes: 321629795
274
- num_examples: 100000
275
- - name: fineweb_fin_002
276
- num_bytes: 391062316
277
- num_examples: 100000
278
- - name: fineweb_fin_003
279
- num_bytes: 362102486
280
- num_examples: 100000
281
- - name: fineweb_fin_004
282
- num_bytes: 336651705
283
- num_examples: 100000
284
- - name: fineweb_fin_005
285
- num_bytes: 383485374
286
- num_examples: 100000
287
- - name: fineweb_fin_006
288
- num_bytes: 327333473
289
- num_examples: 100000
290
- - name: fineweb_fin_007
291
- num_bytes: 371457088
292
- num_examples: 100000
293
- - name: fineweb_fin_008
294
- num_bytes: 377479751
295
- num_examples: 100000
296
- - name: fineweb_fin_009
297
- num_bytes: 345290594
298
- num_examples: 100000
299
- - name: fineweb_fin_010
300
- num_bytes: 342137968
301
- num_examples: 100000
302
- - name: fineweb_fin_011
303
- num_bytes: 378125612
304
- num_examples: 100000
305
- - name: fineweb_fin_012
306
- num_bytes: 373729061
307
- num_examples: 100000
308
- - name: fineweb_fin_013
309
- num_bytes: 349041037
310
- num_examples: 100000
311
- - name: fineweb_fin_014
312
- num_bytes: 346296551
313
- num_examples: 100000
314
- - name: fineweb_fin_015
315
- num_bytes: 378050032
316
- num_examples: 100000
317
- - name: fineweb_fin_016
318
- num_bytes: 373161526
319
- num_examples: 100000
320
- - name: fineweb_fin_017
321
- num_bytes: 368909269
322
- num_examples: 100000
323
- - name: fineweb_fin_018
324
- num_bytes: 364890715
325
- num_examples: 100000
326
- - name: fineweb_fin_019
327
- num_bytes: 358398613
328
- num_examples: 100000
329
- - name: fineweb_fin_020
330
- num_bytes: 342986411
331
- num_examples: 100000
332
- - name: fineweb_fin_021
333
- num_bytes: 356522290
334
- num_examples: 100000
335
- - name: fineweb_fin_022
336
- num_bytes: 368598892
337
- num_examples: 100000
338
- - name: fineweb_fin_023
339
- num_bytes: 368066109
340
- num_examples: 100000
341
- - name: fineweb_fin_024
342
- num_bytes: 370098516
343
- num_examples: 100000
344
- - name: fineweb_fin_025
345
- num_bytes: 369247911
346
- num_examples: 100000
347
- - name: fineweb_fin_026
348
- num_bytes: 363839181
349
- num_examples: 100000
350
- - name: fineweb_fin_027
351
- num_bytes: 369821733
352
- num_examples: 100000
353
- - name: fineweb_fin_028
354
- num_bytes: 385021725
355
- num_examples: 100000
356
- - name: fineweb_fin_029
357
- num_bytes: 398503312
358
- num_examples: 100000
359
- - name: fineweb_fin_030
360
- num_bytes: 372341585
361
- num_examples: 100000
362
- - name: fineweb_fin_031
363
- num_bytes: 322638706
364
- num_examples: 100000
365
- - name: fineweb_fin_032
366
- num_bytes: 380177531
367
- num_examples: 100000
368
- - name: fineweb_fin_033
369
- num_bytes: 369580200
370
- num_examples: 100000
371
- - name: fineweb_fin_034
372
- num_bytes: 328067782
373
- num_examples: 100000
374
- - name: fineweb_fin_035
375
- num_bytes: 384853384
376
- num_examples: 100000
377
- - name: fineweb_fin_036
378
- num_bytes: 365985785
379
- num_examples: 100000
380
- - name: fineweb_fin_037
381
- num_bytes: 332744628
382
- num_examples: 100000
383
- - name: fineweb_fin_038
384
- num_bytes: 378507599
385
- num_examples: 100000
386
- - name: fineweb_fin_039
387
- num_bytes: 370832786
388
- num_examples: 100000
389
- - name: fineweb_fin_040
390
- num_bytes: 325238466
391
- num_examples: 100000
392
- - name: fineweb_fin_041
393
- num_bytes: 377302165
394
- num_examples: 100000
395
- - name: fineweb_fin_042
396
- num_bytes: 378090480
397
- num_examples: 100000
398
- - name: fineweb_fin_043
399
- num_bytes: 364797136
400
- num_examples: 100000
401
- - name: fineweb_fin_044
402
- num_bytes: 355259585
403
- num_examples: 100000
404
- - name: fineweb_fin_045
405
- num_bytes: 337627084
406
- num_examples: 100000
407
- - name: fineweb_fin_046
408
- num_bytes: 372727956
409
- num_examples: 100000
410
- - name: fineweb_fin_047
411
- num_bytes: 375398885
412
- num_examples: 100000
413
- - name: fineweb_fin_048
414
- num_bytes: 377458597
415
- num_examples: 100000
416
- - name: fineweb_fin_049
417
- num_bytes: 370331531
418
- num_examples: 100000
419
- - name: fineweb_fin_050
420
- num_bytes: 369230359
421
- num_examples: 100000
422
- - name: fineweb_fin_051
423
- num_bytes: 365298432
424
- num_examples: 100000
425
- - name: fineweb_fin_052
426
- num_bytes: 367970404
427
- num_examples: 100000
428
- - name: fineweb_fin_053
429
- num_bytes: 367602098
430
- num_examples: 100000
431
- - name: fineweb_fin_054
432
- num_bytes: 370226925
433
- num_examples: 100000
434
- - name: fineweb_fin_055
435
- num_bytes: 375959684
436
- num_examples: 100000
437
- - name: fineweb_fin_056
438
- num_bytes: 373201850
439
- num_examples: 100000
440
- - name: fineweb_fin_057
441
- num_bytes: 367572791
442
- num_examples: 100000
443
- - name: fineweb_fin_058
444
- num_bytes: 368470833
445
- num_examples: 100000
446
- - name: fineweb_fin_059
447
- num_bytes: 368202717
448
- num_examples: 100000
449
- - name: fineweb_fin_060
450
- num_bytes: 370193834
451
- num_examples: 100000
452
- - name: fineweb_fin_061
453
- num_bytes: 347730605
454
- num_examples: 100000
455
- - name: fineweb_fin_062
456
- num_bytes: 350783142
457
- num_examples: 100000
458
- - name: fineweb_fin_063
459
- num_bytes: 373032919
460
- num_examples: 100000
461
- - name: fineweb_fin_064
462
- num_bytes: 322523163
463
- num_examples: 100000
464
- - name: fineweb_fin_065
465
- num_bytes: 384369521
466
- num_examples: 100000
467
- - name: fineweb_fin_066
468
- num_bytes: 372926463
469
- num_examples: 100000
470
- - name: fineweb_fin_067
471
- num_bytes: 323438062
472
- num_examples: 100000
473
- - name: fineweb_fin_068
474
- num_bytes: 381996173
475
- num_examples: 100000
476
- - name: fineweb_fin_069
477
- num_bytes: 378291078
478
- num_examples: 100000
479
- - name: fineweb_fin_070
480
- num_bytes: 361007426
481
- num_examples: 100000
482
- - name: fineweb_fin_071
483
- num_bytes: 328257568
484
- num_examples: 100000
485
- - name: fineweb_fin_072
486
- num_bytes: 372834939
487
- num_examples: 100000
488
- - name: fineweb_fin_073
489
- num_bytes: 375479140
490
- num_examples: 100000
491
- - name: fineweb_fin_074
492
- num_bytes: 369626634
493
- num_examples: 100000
494
- - name: fineweb_fin_075
495
- num_bytes: 364568894
496
- num_examples: 100000
497
- - name: fineweb_fin_076
498
- num_bytes: 337122661
499
- num_examples: 100000
500
- - name: fineweb_fin_077
501
- num_bytes: 360274890
502
- num_examples: 100000
503
- - name: fineweb_fin_078
504
- num_bytes: 369083336
505
- num_examples: 100000
506
- - name: fineweb_fin_079
507
- num_bytes: 371410894
508
- num_examples: 100000
509
- - name: fineweb_fin_080
510
- num_bytes: 370512348
511
- num_examples: 100000
512
- - name: fineweb_fin_081
513
- num_bytes: 373962237
514
- num_examples: 100000
515
- - name: fineweb_fin_082
516
- num_bytes: 375863509
517
- num_examples: 100000
518
- - name: fineweb_fin_083
519
- num_bytes: 371170476
520
- num_examples: 100000
521
- download_size: 37994381279
522
- dataset_size: 64775317661
523
- configs:
524
- - config_name: default
525
- data_files:
526
- - split: fineweb_tuk_001
527
- path: data/fineweb_tuk_001-*
528
- - split: fineweb_aze_001
529
- path: data/fineweb_aze_001-*
530
- - split: fineweb_uzb_001
531
- path: data/fineweb_uzb_001-*
532
- - split: fineweb_aze_002
533
- path: data/fineweb_aze_002-*
534
- - split: fineweb_uzb_002
535
- path: data/fineweb_uzb_002-*
536
- - split: fineweb_aze_003
537
- path: data/fineweb_aze_003-*
538
- - split: fineweb_uzb_003
539
- path: data/fineweb_uzb_003-*
540
- - split: fineweb_uzb_004
541
- path: data/fineweb_uzb_004-*
542
- - split: fineweb_uzb_005
543
- path: data/fineweb_uzb_005-*
544
- - split: fineweb_uzb_006
545
- path: data/fineweb_uzb_006-*
546
- - split: fineweb_uzb_007
547
- path: data/fineweb_uzb_007-*
548
- - split: fineweb_uzb_008
549
- path: data/fineweb_uzb_008-*
550
- - split: fineweb_uzb_009
551
- path: data/fineweb_uzb_009-*
552
- - split: fineweb_uzb_010
553
- path: data/fineweb_uzb_010-*
554
- - split: fineweb_uzb_011
555
- path: data/fineweb_uzb_011-*
556
- - split: fineweb_uzb_012
557
- path: data/fineweb_uzb_012-*
558
- - split: fineweb_uzb_013
559
- path: data/fineweb_uzb_013-*
560
- - split: fineweb_aze_004
561
- path: data/fineweb_aze_004-*
562
- - split: fineweb_aze_005
563
- path: data/fineweb_aze_005-*
564
- - split: fineweb_aze_006
565
- path: data/fineweb_aze_006-*
566
- - split: fineweb_aze_007
567
- path: data/fineweb_aze_007-*
568
- - split: fineweb_aze_008
569
- path: data/fineweb_aze_008-*
570
- - split: fineweb_aze_009
571
- path: data/fineweb_aze_009-*
572
- - split: fineweb_aze_010
573
- path: data/fineweb_aze_010-*
574
- - split: fineweb_aze_011
575
- path: data/fineweb_aze_011-*
576
- - split: fineweb_aze_012
577
- path: data/fineweb_aze_012-*
578
- - split: fineweb_aze_013
579
- path: data/fineweb_aze_013-*
580
- - split: fineweb_aze_014
581
- path: data/fineweb_aze_014-*
582
- - split: fineweb_aze_015
583
- path: data/fineweb_aze_015-*
584
- - split: fineweb_aze_016
585
- path: data/fineweb_aze_016-*
586
- - split: fineweb_aze_017
587
- path: data/fineweb_aze_017-*
588
- - split: fineweb_aze_018
589
- path: data/fineweb_aze_018-*
590
- - split: fineweb_aze_019
591
- path: data/fineweb_aze_019-*
592
- - split: fineweb_aze_020
593
- path: data/fineweb_aze_020-*
594
- - split: fineweb_aze_021
595
- path: data/fineweb_aze_021-*
596
- - split: fineweb_aze_022
597
- path: data/fineweb_aze_022-*
598
- - split: fineweb_aze_023
599
- path: data/fineweb_aze_023-*
600
- - split: fineweb_aze_024
601
- path: data/fineweb_aze_024-*
602
- - split: fineweb_aze_025
603
- path: data/fineweb_aze_025-*
604
- - split: fineweb_aze_026
605
- path: data/fineweb_aze_026-*
606
- - split: fineweb_aze_027
607
- path: data/fineweb_aze_027-*
608
- - split: fineweb_aze_028
609
- path: data/fineweb_aze_028-*
610
- - split: fineweb_aze_029
611
- path: data/fineweb_aze_029-*
612
- - split: fineweb_aze_030
613
- path: data/fineweb_aze_030-*
614
- - split: fineweb_aze_031
615
- path: data/fineweb_aze_031-*
616
- - split: fineweb_aze_032
617
- path: data/fineweb_aze_032-*
618
- - split: fineweb_aze_033
619
- path: data/fineweb_aze_033-*
620
- - split: fineweb_aze_034
621
- path: data/fineweb_aze_034-*
622
- - split: fineweb_aze_035
623
- path: data/fineweb_aze_035-*
624
- - split: fineweb_aze_036
625
- path: data/fineweb_aze_036-*
626
- - split: fineweb_aze_037
627
- path: data/fineweb_aze_037-*
628
- - split: fineweb_aze_038
629
- path: data/fineweb_aze_038-*
630
- - split: fineweb_aze_039
631
- path: data/fineweb_aze_039-*
632
- - split: fineweb_aze_040
633
- path: data/fineweb_aze_040-*
634
- - split: fineweb_aze_041
635
- path: data/fineweb_aze_041-*
636
- - split: fineweb_aze_042
637
- path: data/fineweb_aze_042-*
638
- - split: fineweb_aze_043
639
- path: data/fineweb_aze_043-*
640
- - split: fineweb_aze_044
641
- path: data/fineweb_aze_044-*
642
- - split: fineweb_aze_045
643
- path: data/fineweb_aze_045-*
644
- - split: fineweb_aze_046
645
- path: data/fineweb_aze_046-*
646
- - split: fineweb_aze_047
647
- path: data/fineweb_aze_047-*
648
- - split: fineweb_aze_048
649
- path: data/fineweb_aze_048-*
650
- - split: fineweb_aze_049
651
- path: data/fineweb_aze_049-*
652
- - split: fineweb_aze_050
653
- path: data/fineweb_aze_050-*
654
- - split: fineweb_aze_051
655
- path: data/fineweb_aze_051-*
656
- - split: fineweb_aze_052
657
- path: data/fineweb_aze_052-*
658
- - split: fineweb_aze_053
659
- path: data/fineweb_aze_053-*
660
- - split: fineweb_aze_054
661
- path: data/fineweb_aze_054-*
662
- - split: fineweb_aze_055
663
- path: data/fineweb_aze_055-*
664
- - split: fineweb_aze_056
665
- path: data/fineweb_aze_056-*
666
- - split: fineweb_aze_057
667
- path: data/fineweb_aze_057-*
668
- - split: fineweb_aze_058
669
- path: data/fineweb_aze_058-*
670
- - split: fineweb_aze_059
671
- path: data/fineweb_aze_059-*
672
- - split: fineweb_aze_060
673
- path: data/fineweb_aze_060-*
674
- - split: fineweb_aze_061
675
- path: data/fineweb_aze_061-*
676
- - split: fineweb_aze_062
677
- path: data/fineweb_aze_062-*
678
- - split: fineweb_aze_063
679
- path: data/fineweb_aze_063-*
680
- - split: fineweb_aze_064
681
- path: data/fineweb_aze_064-*
682
- - split: fineweb_aze_065
683
- path: data/fineweb_aze_065-*
684
- - split: fineweb_aze_066
685
- path: data/fineweb_aze_066-*
686
- - split: fineweb_aze_067
687
- path: data/fineweb_aze_067-*
688
- - split: fineweb_aze_068
689
- path: data/fineweb_aze_068-*
690
- - split: fineweb_aze_069
691
- path: data/fineweb_aze_069-*
692
- - split: fineweb_aze_070
693
- path: data/fineweb_aze_070-*
694
- - split: fineweb_aze_071
695
- path: data/fineweb_aze_071-*
696
- - split: fineweb_aze_072
697
- path: data/fineweb_aze_072-*
698
- - split: fineweb_aze_073
699
- path: data/fineweb_aze_073-*
700
- - split: fineweb_fin_001
701
- path: data/fineweb_fin_001-*
702
- - split: fineweb_fin_002
703
- path: data/fineweb_fin_002-*
704
- - split: fineweb_fin_003
705
- path: data/fineweb_fin_003-*
706
- - split: fineweb_fin_004
707
- path: data/fineweb_fin_004-*
708
- - split: fineweb_fin_005
709
- path: data/fineweb_fin_005-*
710
- - split: fineweb_fin_006
711
- path: data/fineweb_fin_006-*
712
- - split: fineweb_fin_007
713
- path: data/fineweb_fin_007-*
714
- - split: fineweb_fin_008
715
- path: data/fineweb_fin_008-*
716
- - split: fineweb_fin_009
717
- path: data/fineweb_fin_009-*
718
- - split: fineweb_fin_010
719
- path: data/fineweb_fin_010-*
720
- - split: fineweb_fin_011
721
- path: data/fineweb_fin_011-*
722
- - split: fineweb_fin_012
723
- path: data/fineweb_fin_012-*
724
- - split: fineweb_fin_013
725
- path: data/fineweb_fin_013-*
726
- - split: fineweb_fin_014
727
- path: data/fineweb_fin_014-*
728
- - split: fineweb_fin_015
729
- path: data/fineweb_fin_015-*
730
- - split: fineweb_fin_016
731
- path: data/fineweb_fin_016-*
732
- - split: fineweb_fin_017
733
- path: data/fineweb_fin_017-*
734
- - split: fineweb_fin_018
735
- path: data/fineweb_fin_018-*
736
- - split: fineweb_fin_019
737
- path: data/fineweb_fin_019-*
738
- - split: fineweb_fin_020
739
- path: data/fineweb_fin_020-*
740
- - split: fineweb_fin_021
741
- path: data/fineweb_fin_021-*
742
- - split: fineweb_fin_022
743
- path: data/fineweb_fin_022-*
744
- - split: fineweb_fin_023
745
- path: data/fineweb_fin_023-*
746
- - split: fineweb_fin_024
747
- path: data/fineweb_fin_024-*
748
- - split: fineweb_fin_025
749
- path: data/fineweb_fin_025-*
750
- - split: fineweb_fin_026
751
- path: data/fineweb_fin_026-*
752
- - split: fineweb_fin_027
753
- path: data/fineweb_fin_027-*
754
- - split: fineweb_fin_028
755
- path: data/fineweb_fin_028-*
756
- - split: fineweb_fin_029
757
- path: data/fineweb_fin_029-*
758
- - split: fineweb_fin_030
759
- path: data/fineweb_fin_030-*
760
- - split: fineweb_fin_031
761
- path: data/fineweb_fin_031-*
762
- - split: fineweb_fin_032
763
- path: data/fineweb_fin_032-*
764
- - split: fineweb_fin_033
765
- path: data/fineweb_fin_033-*
766
- - split: fineweb_fin_034
767
- path: data/fineweb_fin_034-*
768
- - split: fineweb_fin_035
769
- path: data/fineweb_fin_035-*
770
- - split: fineweb_fin_036
771
- path: data/fineweb_fin_036-*
772
- - split: fineweb_fin_037
773
- path: data/fineweb_fin_037-*
774
- - split: fineweb_fin_038
775
- path: data/fineweb_fin_038-*
776
- - split: fineweb_fin_039
777
- path: data/fineweb_fin_039-*
778
- - split: fineweb_fin_040
779
- path: data/fineweb_fin_040-*
780
- - split: fineweb_fin_041
781
- path: data/fineweb_fin_041-*
782
- - split: fineweb_fin_042
783
- path: data/fineweb_fin_042-*
784
- - split: fineweb_fin_043
785
- path: data/fineweb_fin_043-*
786
- - split: fineweb_fin_044
787
- path: data/fineweb_fin_044-*
788
- - split: fineweb_fin_045
789
- path: data/fineweb_fin_045-*
790
- - split: fineweb_fin_046
791
- path: data/fineweb_fin_046-*
792
- - split: fineweb_fin_047
793
- path: data/fineweb_fin_047-*
794
- - split: fineweb_fin_048
795
- path: data/fineweb_fin_048-*
796
- - split: fineweb_fin_049
797
- path: data/fineweb_fin_049-*
798
- - split: fineweb_fin_050
799
- path: data/fineweb_fin_050-*
800
- - split: fineweb_fin_051
801
- path: data/fineweb_fin_051-*
802
- - split: fineweb_fin_052
803
- path: data/fineweb_fin_052-*
804
- - split: fineweb_fin_053
805
- path: data/fineweb_fin_053-*
806
- - split: fineweb_fin_054
807
- path: data/fineweb_fin_054-*
808
- - split: fineweb_fin_055
809
- path: data/fineweb_fin_055-*
810
- - split: fineweb_fin_056
811
- path: data/fineweb_fin_056-*
812
- - split: fineweb_fin_057
813
- path: data/fineweb_fin_057-*
814
- - split: fineweb_fin_058
815
- path: data/fineweb_fin_058-*
816
- - split: fineweb_fin_059
817
- path: data/fineweb_fin_059-*
818
- - split: fineweb_fin_060
819
- path: data/fineweb_fin_060-*
820
- - split: fineweb_fin_061
821
- path: data/fineweb_fin_061-*
822
- - split: fineweb_fin_062
823
- path: data/fineweb_fin_062-*
824
- - split: fineweb_fin_063
825
- path: data/fineweb_fin_063-*
826
- - split: fineweb_fin_064
827
- path: data/fineweb_fin_064-*
828
- - split: fineweb_fin_065
829
- path: data/fineweb_fin_065-*
830
- - split: fineweb_fin_066
831
- path: data/fineweb_fin_066-*
832
- - split: fineweb_fin_067
833
- path: data/fineweb_fin_067-*
834
- - split: fineweb_fin_068
835
- path: data/fineweb_fin_068-*
836
- - split: fineweb_fin_069
837
- path: data/fineweb_fin_069-*
838
- - split: fineweb_fin_070
839
- path: data/fineweb_fin_070-*
840
- - split: fineweb_fin_071
841
- path: data/fineweb_fin_071-*
842
- - split: fineweb_fin_072
843
- path: data/fineweb_fin_072-*
844
- - split: fineweb_fin_073
845
- path: data/fineweb_fin_073-*
846
- - split: fineweb_fin_074
847
- path: data/fineweb_fin_074-*
848
- - split: fineweb_fin_075
849
- path: data/fineweb_fin_075-*
850
- - split: fineweb_fin_076
851
- path: data/fineweb_fin_076-*
852
- - split: fineweb_fin_077
853
- path: data/fineweb_fin_077-*
854
- - split: fineweb_fin_078
855
- path: data/fineweb_fin_078-*
856
- - split: fineweb_fin_079
857
- path: data/fineweb_fin_079-*
858
- - split: fineweb_fin_080
859
- path: data/fineweb_fin_080-*
860
- - split: fineweb_fin_081
861
- path: data/fineweb_fin_081-*
862
- - split: fineweb_fin_082
863
- path: data/fineweb_fin_082-*
864
- - split: fineweb_fin_083
865
- path: data/fineweb_fin_083-*
866
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ language:
3
+ - tr
4
+ - az
5
+ - tk
6
+ - uz
7
+ - ja
8
+ - ko
9
+ - fi
10
+ license: odc-by
11
+ task_categories:
12
+ - text-generation
13
+ - fill-mask
14
+ tags:
15
+ - fineweb
16
+ - multilingual
17
+ - raw-text
18
+ - pretraining
19
+ pretty_name: Morfa Raw Data
20
+ size_categories:
21
+ - 10B<n<100B
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
22
  ---
23
+
24
+ # Morfa Raw Data
25
+
26
+ Raw multilingual text corpus extracted from [FineWeb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) for language model pretraining.
27
+
28
+ ## Languages
29
+
30
+ | Language | Code | Split prefix |
31
+ |----------|------|-------------|
32
+ | Turkish | `tur` | `fineweb_tur_*` |
33
+ | Azerbaijani | `aze` | `fineweb_aze_*` |
34
+ | Turkmen | `tuk` | `fineweb_tuk_*` |
35
+ | Uzbek | `uzb` | `fineweb_uzb_*` |
36
+ | Japanese | `jpn` | `fineweb_jpn_*` |
37
+ | Korean | `kor` | `fineweb_kor_*` |
38
+ | Finnish | `fin` | `fineweb_fin_*` |
39
+
40
+ ## Schema
41
+
42
+ Each row contains:
43
+
44
+ | Field | Type | Description |
45
+ |-------|------|-------------|
46
+ | `text` | `string` | Raw document text |
47
+ | `lang` | `string` | Language code |
48
+ | `source` | `string` | Source dataset identifier |
49
+
50
+ ## Usage
51
+
52
+ ```python
53
+ from datasets import load_dataset
54
+
55
+ # Load a specific language split
56
+ ds = load_dataset("eokayakca/morfa-raw-data", split="fineweb_tur_001")
57
+ ```
58
+
59
+ ## Source
60
+
61
+ All data is sourced from [HuggingFaceFW/fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) and redistributed under the same license.