eokayakca commited on
Commit
7f845aa
·
verified ·
1 Parent(s): 4283e6c

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +350 -362
README.md CHANGED
@@ -22,6 +22,318 @@ size_categories:
22
  configs:
23
  - config_name: default
24
  data_files:
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
25
  - split: fineweb_fin_084
26
  path: data/fineweb_fin_084-*
27
  - split: fineweb_fin_085
@@ -252,6 +564,34 @@ configs:
252
  path: data/fineweb_fin_197-*
253
  - split: fineweb_fin_198
254
  path: data/fineweb_fin_198-*
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
255
  dataset_info:
256
  features:
257
  - name: text
@@ -260,354 +600,6 @@ dataset_info:
260
  dtype: string
261
  - name: source
262
  dtype: string
263
- splits:
264
- - name: fineweb_fin_084
265
- num_bytes: 367000198
266
- num_examples: 100000
267
- - name: fineweb_fin_085
268
- num_bytes: 372329673
269
- num_examples: 100000
270
- - name: fineweb_fin_086
271
- num_bytes: 365283597
272
- num_examples: 100000
273
- - name: fineweb_fin_087
274
- num_bytes: 364509539
275
- num_examples: 100000
276
- - name: fineweb_fin_088
277
- num_bytes: 366358415
278
- num_examples: 100000
279
- - name: fineweb_fin_089
280
- num_bytes: 372488231
281
- num_examples: 100000
282
- - name: fineweb_fin_090
283
- num_bytes: 370308892
284
- num_examples: 100000
285
- - name: fineweb_fin_091
286
- num_bytes: 370337115
287
- num_examples: 100000
288
- - name: fineweb_fin_092
289
- num_bytes: 362936690
290
- num_examples: 100000
291
- - name: fineweb_fin_093
292
- num_bytes: 366698382
293
- num_examples: 100000
294
- - name: fineweb_fin_094
295
- num_bytes: 393679065
296
- num_examples: 100000
297
- - name: fineweb_fin_095
298
- num_bytes: 384563401
299
- num_examples: 100000
300
- - name: fineweb_fin_096
301
- num_bytes: 365156614
302
- num_examples: 100000
303
- - name: fineweb_fin_097
304
- num_bytes: 367462506
305
- num_examples: 100000
306
- - name: fineweb_fin_098
307
- num_bytes: 414665617
308
- num_examples: 100000
309
- - name: fineweb_fin_099
310
- num_bytes: 368546778
311
- num_examples: 100000
312
- - name: fineweb_fin_100
313
- num_bytes: 366474295
314
- num_examples: 100000
315
- - name: fineweb_fin_101
316
- num_bytes: 410621544
317
- num_examples: 100000
318
- - name: fineweb_fin_102
319
- num_bytes: 364758154
320
- num_examples: 100000
321
- - name: fineweb_fin_103
322
- num_bytes: 419565433
323
- num_examples: 100000
324
- - name: fineweb_fin_104
325
- num_bytes: 363463577
326
- num_examples: 100000
327
- - name: fineweb_fin_105
328
- num_bytes: 414700887
329
- num_examples: 100000
330
- - name: fineweb_fin_106
331
- num_bytes: 375896679
332
- num_examples: 100000
333
- - name: fineweb_fin_107
334
- num_bytes: 399816193
335
- num_examples: 100000
336
- - name: fineweb_fin_108
337
- num_bytes: 409285050
338
- num_examples: 100000
339
- - name: fineweb_fin_109
340
- num_bytes: 361269233
341
- num_examples: 100000
342
- - name: fineweb_fin_110
343
- num_bytes: 411198822
344
- num_examples: 100000
345
- - name: fineweb_fin_111
346
- num_bytes: 416916770
347
- num_examples: 100000
348
- - name: fineweb_fin_112
349
- num_bytes: 400470660
350
- num_examples: 100000
351
- - name: fineweb_fin_113
352
- num_bytes: 377761469
353
- num_examples: 100000
354
- - name: fineweb_fin_114
355
- num_bytes: 402723683
356
- num_examples: 100000
357
- - name: fineweb_fin_115
358
- num_bytes: 409780122
359
- num_examples: 100000
360
- - name: fineweb_fin_116
361
- num_bytes: 407051861
362
- num_examples: 100000
363
- - name: fineweb_fin_117
364
- num_bytes: 408185210
365
- num_examples: 100000
366
- - name: fineweb_fin_118
367
- num_bytes: 407551713
368
- num_examples: 100000
369
- - name: fineweb_fin_119
370
- num_bytes: 378082708
371
- num_examples: 100000
372
- - name: fineweb_fin_120
373
- num_bytes: 366989053
374
- num_examples: 100000
375
- - name: fineweb_fin_121
376
- num_bytes: 363344519
377
- num_examples: 100000
378
- - name: fineweb_fin_122
379
- num_bytes: 381072642
380
- num_examples: 100000
381
- - name: fineweb_fin_123
382
- num_bytes: 398207878
383
- num_examples: 100000
384
- - name: fineweb_fin_124
385
- num_bytes: 369710588
386
- num_examples: 100000
387
- - name: fineweb_fin_125
388
- num_bytes: 360929286
389
- num_examples: 100000
390
- - name: fineweb_fin_126
391
- num_bytes: 407911019
392
- num_examples: 100000
393
- - name: fineweb_fin_127
394
- num_bytes: 369260666
395
- num_examples: 100000
396
- - name: fineweb_fin_128
397
- num_bytes: 373955668
398
- num_examples: 100000
399
- - name: fineweb_fin_129
400
- num_bytes: 405865003
401
- num_examples: 100000
402
- - name: fineweb_fin_130
403
- num_bytes: 360483056
404
- num_examples: 100000
405
- - name: fineweb_fin_131
406
- num_bytes: 416650498
407
- num_examples: 100000
408
- - name: fineweb_fin_132
409
- num_bytes: 361610680
410
- num_examples: 100000
411
- - name: fineweb_fin_133
412
- num_bytes: 416897590
413
- num_examples: 100000
414
- - name: fineweb_fin_134
415
- num_bytes: 392110171
416
- num_examples: 100000
417
- - name: fineweb_fin_135
418
- num_bytes: 378651708
419
- num_examples: 100000
420
- - name: fineweb_fin_136
421
- num_bytes: 408069204
422
- num_examples: 100000
423
- - name: fineweb_fin_137
424
- num_bytes: 387366539
425
- num_examples: 100000
426
- - name: fineweb_fin_138
427
- num_bytes: 387111102
428
- num_examples: 100000
429
- - name: fineweb_fin_139
430
- num_bytes: 410947284
431
- num_examples: 100000
432
- - name: fineweb_fin_140
433
- num_bytes: 403642701
434
- num_examples: 100000
435
- - name: fineweb_fin_141
436
- num_bytes: 397742893
437
- num_examples: 100000
438
- - name: fineweb_fin_142
439
- num_bytes: 379263983
440
- num_examples: 100000
441
- - name: fineweb_fin_143
442
- num_bytes: 400218720
443
- num_examples: 100000
444
- - name: fineweb_fin_144
445
- num_bytes: 405302080
446
- num_examples: 100000
447
- - name: fineweb_fin_145
448
- num_bytes: 411539787
449
- num_examples: 100000
450
- - name: fineweb_fin_146
451
- num_bytes: 407460669
452
- num_examples: 100000
453
- - name: fineweb_fin_147
454
- num_bytes: 416418587
455
- num_examples: 100000
456
- - name: fineweb_fin_148
457
- num_bytes: 365736986
458
- num_examples: 100000
459
- - name: fineweb_fin_149
460
- num_bytes: 361637487
461
- num_examples: 100000
462
- - name: fineweb_fin_150
463
- num_bytes: 410511961
464
- num_examples: 100000
465
- - name: fineweb_fin_151
466
- num_bytes: 377646717
467
- num_examples: 100000
468
- - name: fineweb_fin_152
469
- num_bytes: 362915112
470
- num_examples: 100000
471
- - name: fineweb_fin_153
472
- num_bytes: 387802573
473
- num_examples: 100000
474
- - name: fineweb_fin_154
475
- num_bytes: 393477473
476
- num_examples: 100000
477
- - name: fineweb_fin_155
478
- num_bytes: 358527276
479
- num_examples: 100000
480
- - name: fineweb_fin_156
481
- num_bytes: 410882215
482
- num_examples: 100000
483
- - name: fineweb_fin_157
484
- num_bytes: 371823586
485
- num_examples: 100000
486
- - name: fineweb_fin_158
487
- num_bytes: 400465557
488
- num_examples: 100000
489
- - name: fineweb_fin_159
490
- num_bytes: 374284162
491
- num_examples: 100000
492
- - name: fineweb_fin_160
493
- num_bytes: 404640865
494
- num_examples: 100000
495
- - name: fineweb_fin_161
496
- num_bytes: 367449623
497
- num_examples: 100000
498
- - name: fineweb_fin_162
499
- num_bytes: 411175139
500
- num_examples: 100000
501
- - name: fineweb_fin_163
502
- num_bytes: 366222957
503
- num_examples: 100000
504
- - name: fineweb_fin_164
505
- num_bytes: 410996889
506
- num_examples: 100000
507
- - name: fineweb_fin_165
508
- num_bytes: 404558133
509
- num_examples: 100000
510
- - name: fineweb_fin_166
511
- num_bytes: 390109127
512
- num_examples: 100000
513
- - name: fineweb_fin_167
514
- num_bytes: 383309593
515
- num_examples: 100000
516
- - name: fineweb_fin_168
517
- num_bytes: 415264739
518
- num_examples: 100000
519
- - name: fineweb_fin_169
520
- num_bytes: 410695137
521
- num_examples: 100000
522
- - name: fineweb_fin_170
523
- num_bytes: 408690936
524
- num_examples: 100000
525
- - name: fineweb_fin_171
526
- num_bytes: 406985658
527
- num_examples: 100000
528
- - name: fineweb_fin_172
529
- num_bytes: 405190791
530
- num_examples: 100000
531
- - name: fineweb_fin_173
532
- num_bytes: 407844576
533
- num_examples: 100000
534
- - name: fineweb_fin_174
535
- num_bytes: 414218663
536
- num_examples: 100000
537
- - name: fineweb_fin_175
538
- num_bytes: 405048928
539
- num_examples: 100000
540
- - name: fineweb_fin_176
541
- num_bytes: 411470028
542
- num_examples: 100000
543
- - name: fineweb_fin_177
544
- num_bytes: 412913637
545
- num_examples: 100000
546
- - name: fineweb_fin_178
547
- num_bytes: 435098763
548
- num_examples: 100000
549
- - name: fineweb_fin_179
550
- num_bytes: 410851614
551
- num_examples: 100000
552
- - name: fineweb_fin_180
553
- num_bytes: 410680580
554
- num_examples: 100000
555
- - name: fineweb_fin_181
556
- num_bytes: 402909095
557
- num_examples: 100000
558
- - name: fineweb_fin_182
559
- num_bytes: 440330771
560
- num_examples: 100000
561
- - name: fineweb_fin_183
562
- num_bytes: 403011695
563
- num_examples: 100000
564
- - name: fineweb_fin_184
565
- num_bytes: 423974821
566
- num_examples: 100000
567
- - name: fineweb_fin_185
568
- num_bytes: 427471166
569
- num_examples: 100000
570
- - name: fineweb_fin_186
571
- num_bytes: 424722274
572
- num_examples: 100000
573
- - name: fineweb_fin_187
574
- num_bytes: 421842246
575
- num_examples: 100000
576
- - name: fineweb_fin_188
577
- num_bytes: 440180689
578
- num_examples: 100000
579
- - name: fineweb_fin_189
580
- num_bytes: 410962015
581
- num_examples: 100000
582
- - name: fineweb_fin_190
583
- num_bytes: 436301543
584
- num_examples: 100000
585
- - name: fineweb_fin_191
586
- num_bytes: 441196012
587
- num_examples: 100000
588
- - name: fineweb_fin_192
589
- num_bytes: 442812412
590
- num_examples: 100000
591
- - name: fineweb_fin_193
592
- num_bytes: 438027948
593
- num_examples: 100000
594
- - name: fineweb_fin_194
595
- num_bytes: 436216867
596
- num_examples: 100000
597
- - name: fineweb_fin_195
598
- num_bytes: 436627208
599
- num_examples: 100000
600
- - name: fineweb_fin_196
601
- num_bytes: 433971319
602
- num_examples: 100000
603
- - name: fineweb_fin_197
604
- num_bytes: 433988688
605
- num_examples: 100000
606
- - name: fineweb_fin_198
607
- num_bytes: 439122744
608
- num_examples: 100000
609
- download_size: 27800176874
610
- dataset_size: 45619429344
611
  ---
612
 
613
  # Morfa Raw Data
@@ -616,20 +608,15 @@ Raw multilingual text corpus extracted from [FineWeb-2](https://huggingface.co/d
616
 
617
  ## Languages
618
 
619
- | Language | Code | Split prefix |
620
- |----------|------|-------------|
621
- | Turkish | `tur` | `fineweb_tur_*` |
622
- | Azerbaijani | `aze` | `fineweb_aze_*` |
623
- | Turkmen | `tuk` | `fineweb_tuk_*` |
624
- | Uzbek | `uzb` | `fineweb_uzb_*` |
625
- | Japanese | `jpn` | `fineweb_jpn_*` |
626
- | Korean | `kor` | `fineweb_kor_*` |
627
- | Finnish | `fin` | `fineweb_fin_*` |
628
 
629
  ## Schema
630
 
631
- Each row contains:
632
-
633
  | Field | Type | Description |
634
  |-------|------|-------------|
635
  | `text` | `string` | Raw document text |
@@ -641,10 +628,11 @@ Each row contains:
641
  ```python
642
  from datasets import load_dataset
643
 
644
- # Load a specific language split
645
- ds = load_dataset("eokayakca/morfa-raw-data", split="fineweb_tur_001")
 
646
  ```
647
 
648
  ## Source
649
 
650
- All data is sourced from [HuggingFaceFW/fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) and redistributed under the same license.
 
22
  configs:
23
  - config_name: default
24
  data_files:
25
+ - split: fineweb_aze_001
26
+ path: data/fineweb_aze_001-*
27
+ - split: fineweb_aze_002
28
+ path: data/fineweb_aze_002-*
29
+ - split: fineweb_aze_003
30
+ path: data/fineweb_aze_003-*
31
+ - split: fineweb_aze_004
32
+ path: data/fineweb_aze_004-*
33
+ - split: fineweb_aze_005
34
+ path: data/fineweb_aze_005-*
35
+ - split: fineweb_aze_006
36
+ path: data/fineweb_aze_006-*
37
+ - split: fineweb_aze_007
38
+ path: data/fineweb_aze_007-*
39
+ - split: fineweb_aze_008
40
+ path: data/fineweb_aze_008-*
41
+ - split: fineweb_aze_009
42
+ path: data/fineweb_aze_009-*
43
+ - split: fineweb_aze_010
44
+ path: data/fineweb_aze_010-*
45
+ - split: fineweb_aze_011
46
+ path: data/fineweb_aze_011-*
47
+ - split: fineweb_aze_012
48
+ path: data/fineweb_aze_012-*
49
+ - split: fineweb_aze_013
50
+ path: data/fineweb_aze_013-*
51
+ - split: fineweb_aze_014
52
+ path: data/fineweb_aze_014-*
53
+ - split: fineweb_aze_015
54
+ path: data/fineweb_aze_015-*
55
+ - split: fineweb_aze_016
56
+ path: data/fineweb_aze_016-*
57
+ - split: fineweb_aze_017
58
+ path: data/fineweb_aze_017-*
59
+ - split: fineweb_aze_018
60
+ path: data/fineweb_aze_018-*
61
+ - split: fineweb_aze_019
62
+ path: data/fineweb_aze_019-*
63
+ - split: fineweb_aze_020
64
+ path: data/fineweb_aze_020-*
65
+ - split: fineweb_aze_021
66
+ path: data/fineweb_aze_021-*
67
+ - split: fineweb_aze_022
68
+ path: data/fineweb_aze_022-*
69
+ - split: fineweb_aze_023
70
+ path: data/fineweb_aze_023-*
71
+ - split: fineweb_aze_024
72
+ path: data/fineweb_aze_024-*
73
+ - split: fineweb_aze_025
74
+ path: data/fineweb_aze_025-*
75
+ - split: fineweb_aze_026
76
+ path: data/fineweb_aze_026-*
77
+ - split: fineweb_aze_027
78
+ path: data/fineweb_aze_027-*
79
+ - split: fineweb_aze_028
80
+ path: data/fineweb_aze_028-*
81
+ - split: fineweb_aze_029
82
+ path: data/fineweb_aze_029-*
83
+ - split: fineweb_aze_030
84
+ path: data/fineweb_aze_030-*
85
+ - split: fineweb_aze_031
86
+ path: data/fineweb_aze_031-*
87
+ - split: fineweb_aze_032
88
+ path: data/fineweb_aze_032-*
89
+ - split: fineweb_aze_033
90
+ path: data/fineweb_aze_033-*
91
+ - split: fineweb_aze_034
92
+ path: data/fineweb_aze_034-*
93
+ - split: fineweb_aze_035
94
+ path: data/fineweb_aze_035-*
95
+ - split: fineweb_aze_036
96
+ path: data/fineweb_aze_036-*
97
+ - split: fineweb_aze_037
98
+ path: data/fineweb_aze_037-*
99
+ - split: fineweb_aze_038
100
+ path: data/fineweb_aze_038-*
101
+ - split: fineweb_aze_039
102
+ path: data/fineweb_aze_039-*
103
+ - split: fineweb_aze_040
104
+ path: data/fineweb_aze_040-*
105
+ - split: fineweb_aze_041
106
+ path: data/fineweb_aze_041-*
107
+ - split: fineweb_aze_042
108
+ path: data/fineweb_aze_042-*
109
+ - split: fineweb_aze_043
110
+ path: data/fineweb_aze_043-*
111
+ - split: fineweb_aze_044
112
+ path: data/fineweb_aze_044-*
113
+ - split: fineweb_aze_045
114
+ path: data/fineweb_aze_045-*
115
+ - split: fineweb_aze_046
116
+ path: data/fineweb_aze_046-*
117
+ - split: fineweb_aze_047
118
+ path: data/fineweb_aze_047-*
119
+ - split: fineweb_aze_048
120
+ path: data/fineweb_aze_048-*
121
+ - split: fineweb_aze_049
122
+ path: data/fineweb_aze_049-*
123
+ - split: fineweb_aze_050
124
+ path: data/fineweb_aze_050-*
125
+ - split: fineweb_aze_051
126
+ path: data/fineweb_aze_051-*
127
+ - split: fineweb_aze_052
128
+ path: data/fineweb_aze_052-*
129
+ - split: fineweb_aze_053
130
+ path: data/fineweb_aze_053-*
131
+ - split: fineweb_aze_054
132
+ path: data/fineweb_aze_054-*
133
+ - split: fineweb_aze_055
134
+ path: data/fineweb_aze_055-*
135
+ - split: fineweb_aze_056
136
+ path: data/fineweb_aze_056-*
137
+ - split: fineweb_aze_057
138
+ path: data/fineweb_aze_057-*
139
+ - split: fineweb_aze_058
140
+ path: data/fineweb_aze_058-*
141
+ - split: fineweb_aze_059
142
+ path: data/fineweb_aze_059-*
143
+ - split: fineweb_aze_060
144
+ path: data/fineweb_aze_060-*
145
+ - split: fineweb_aze_061
146
+ path: data/fineweb_aze_061-*
147
+ - split: fineweb_aze_062
148
+ path: data/fineweb_aze_062-*
149
+ - split: fineweb_aze_063
150
+ path: data/fineweb_aze_063-*
151
+ - split: fineweb_aze_064
152
+ path: data/fineweb_aze_064-*
153
+ - split: fineweb_aze_065
154
+ path: data/fineweb_aze_065-*
155
+ - split: fineweb_aze_066
156
+ path: data/fineweb_aze_066-*
157
+ - split: fineweb_aze_067
158
+ path: data/fineweb_aze_067-*
159
+ - split: fineweb_aze_068
160
+ path: data/fineweb_aze_068-*
161
+ - split: fineweb_aze_069
162
+ path: data/fineweb_aze_069-*
163
+ - split: fineweb_aze_070
164
+ path: data/fineweb_aze_070-*
165
+ - split: fineweb_aze_071
166
+ path: data/fineweb_aze_071-*
167
+ - split: fineweb_aze_072
168
+ path: data/fineweb_aze_072-*
169
+ - split: fineweb_aze_073
170
+ path: data/fineweb_aze_073-*
171
+ - split: fineweb_fin_001
172
+ path: data/fineweb_fin_001-*
173
+ - split: fineweb_fin_002
174
+ path: data/fineweb_fin_002-*
175
+ - split: fineweb_fin_003
176
+ path: data/fineweb_fin_003-*
177
+ - split: fineweb_fin_004
178
+ path: data/fineweb_fin_004-*
179
+ - split: fineweb_fin_005
180
+ path: data/fineweb_fin_005-*
181
+ - split: fineweb_fin_006
182
+ path: data/fineweb_fin_006-*
183
+ - split: fineweb_fin_007
184
+ path: data/fineweb_fin_007-*
185
+ - split: fineweb_fin_008
186
+ path: data/fineweb_fin_008-*
187
+ - split: fineweb_fin_009
188
+ path: data/fineweb_fin_009-*
189
+ - split: fineweb_fin_010
190
+ path: data/fineweb_fin_010-*
191
+ - split: fineweb_fin_011
192
+ path: data/fineweb_fin_011-*
193
+ - split: fineweb_fin_012
194
+ path: data/fineweb_fin_012-*
195
+ - split: fineweb_fin_013
196
+ path: data/fineweb_fin_013-*
197
+ - split: fineweb_fin_014
198
+ path: data/fineweb_fin_014-*
199
+ - split: fineweb_fin_015
200
+ path: data/fineweb_fin_015-*
201
+ - split: fineweb_fin_016
202
+ path: data/fineweb_fin_016-*
203
+ - split: fineweb_fin_017
204
+ path: data/fineweb_fin_017-*
205
+ - split: fineweb_fin_018
206
+ path: data/fineweb_fin_018-*
207
+ - split: fineweb_fin_019
208
+ path: data/fineweb_fin_019-*
209
+ - split: fineweb_fin_020
210
+ path: data/fineweb_fin_020-*
211
+ - split: fineweb_fin_021
212
+ path: data/fineweb_fin_021-*
213
+ - split: fineweb_fin_022
214
+ path: data/fineweb_fin_022-*
215
+ - split: fineweb_fin_023
216
+ path: data/fineweb_fin_023-*
217
+ - split: fineweb_fin_024
218
+ path: data/fineweb_fin_024-*
219
+ - split: fineweb_fin_025
220
+ path: data/fineweb_fin_025-*
221
+ - split: fineweb_fin_026
222
+ path: data/fineweb_fin_026-*
223
+ - split: fineweb_fin_027
224
+ path: data/fineweb_fin_027-*
225
+ - split: fineweb_fin_028
226
+ path: data/fineweb_fin_028-*
227
+ - split: fineweb_fin_029
228
+ path: data/fineweb_fin_029-*
229
+ - split: fineweb_fin_030
230
+ path: data/fineweb_fin_030-*
231
+ - split: fineweb_fin_031
232
+ path: data/fineweb_fin_031-*
233
+ - split: fineweb_fin_032
234
+ path: data/fineweb_fin_032-*
235
+ - split: fineweb_fin_033
236
+ path: data/fineweb_fin_033-*
237
+ - split: fineweb_fin_034
238
+ path: data/fineweb_fin_034-*
239
+ - split: fineweb_fin_035
240
+ path: data/fineweb_fin_035-*
241
+ - split: fineweb_fin_036
242
+ path: data/fineweb_fin_036-*
243
+ - split: fineweb_fin_037
244
+ path: data/fineweb_fin_037-*
245
+ - split: fineweb_fin_038
246
+ path: data/fineweb_fin_038-*
247
+ - split: fineweb_fin_039
248
+ path: data/fineweb_fin_039-*
249
+ - split: fineweb_fin_040
250
+ path: data/fineweb_fin_040-*
251
+ - split: fineweb_fin_041
252
+ path: data/fineweb_fin_041-*
253
+ - split: fineweb_fin_042
254
+ path: data/fineweb_fin_042-*
255
+ - split: fineweb_fin_043
256
+ path: data/fineweb_fin_043-*
257
+ - split: fineweb_fin_044
258
+ path: data/fineweb_fin_044-*
259
+ - split: fineweb_fin_045
260
+ path: data/fineweb_fin_045-*
261
+ - split: fineweb_fin_046
262
+ path: data/fineweb_fin_046-*
263
+ - split: fineweb_fin_047
264
+ path: data/fineweb_fin_047-*
265
+ - split: fineweb_fin_048
266
+ path: data/fineweb_fin_048-*
267
+ - split: fineweb_fin_049
268
+ path: data/fineweb_fin_049-*
269
+ - split: fineweb_fin_050
270
+ path: data/fineweb_fin_050-*
271
+ - split: fineweb_fin_051
272
+ path: data/fineweb_fin_051-*
273
+ - split: fineweb_fin_052
274
+ path: data/fineweb_fin_052-*
275
+ - split: fineweb_fin_053
276
+ path: data/fineweb_fin_053-*
277
+ - split: fineweb_fin_054
278
+ path: data/fineweb_fin_054-*
279
+ - split: fineweb_fin_055
280
+ path: data/fineweb_fin_055-*
281
+ - split: fineweb_fin_056
282
+ path: data/fineweb_fin_056-*
283
+ - split: fineweb_fin_057
284
+ path: data/fineweb_fin_057-*
285
+ - split: fineweb_fin_058
286
+ path: data/fineweb_fin_058-*
287
+ - split: fineweb_fin_059
288
+ path: data/fineweb_fin_059-*
289
+ - split: fineweb_fin_060
290
+ path: data/fineweb_fin_060-*
291
+ - split: fineweb_fin_061
292
+ path: data/fineweb_fin_061-*
293
+ - split: fineweb_fin_062
294
+ path: data/fineweb_fin_062-*
295
+ - split: fineweb_fin_063
296
+ path: data/fineweb_fin_063-*
297
+ - split: fineweb_fin_064
298
+ path: data/fineweb_fin_064-*
299
+ - split: fineweb_fin_065
300
+ path: data/fineweb_fin_065-*
301
+ - split: fineweb_fin_066
302
+ path: data/fineweb_fin_066-*
303
+ - split: fineweb_fin_067
304
+ path: data/fineweb_fin_067-*
305
+ - split: fineweb_fin_068
306
+ path: data/fineweb_fin_068-*
307
+ - split: fineweb_fin_069
308
+ path: data/fineweb_fin_069-*
309
+ - split: fineweb_fin_070
310
+ path: data/fineweb_fin_070-*
311
+ - split: fineweb_fin_071
312
+ path: data/fineweb_fin_071-*
313
+ - split: fineweb_fin_072
314
+ path: data/fineweb_fin_072-*
315
+ - split: fineweb_fin_073
316
+ path: data/fineweb_fin_073-*
317
+ - split: fineweb_fin_074
318
+ path: data/fineweb_fin_074-*
319
+ - split: fineweb_fin_075
320
+ path: data/fineweb_fin_075-*
321
+ - split: fineweb_fin_076
322
+ path: data/fineweb_fin_076-*
323
+ - split: fineweb_fin_077
324
+ path: data/fineweb_fin_077-*
325
+ - split: fineweb_fin_078
326
+ path: data/fineweb_fin_078-*
327
+ - split: fineweb_fin_079
328
+ path: data/fineweb_fin_079-*
329
+ - split: fineweb_fin_080
330
+ path: data/fineweb_fin_080-*
331
+ - split: fineweb_fin_081
332
+ path: data/fineweb_fin_081-*
333
+ - split: fineweb_fin_082
334
+ path: data/fineweb_fin_082-*
335
+ - split: fineweb_fin_083
336
+ path: data/fineweb_fin_083-*
337
  - split: fineweb_fin_084
338
  path: data/fineweb_fin_084-*
339
  - split: fineweb_fin_085
 
564
  path: data/fineweb_fin_197-*
565
  - split: fineweb_fin_198
566
  path: data/fineweb_fin_198-*
567
+ - split: fineweb_tuk_001
568
+ path: data/fineweb_tuk_001-*
569
+ - split: fineweb_uzb_001
570
+ path: data/fineweb_uzb_001-*
571
+ - split: fineweb_uzb_002
572
+ path: data/fineweb_uzb_002-*
573
+ - split: fineweb_uzb_003
574
+ path: data/fineweb_uzb_003-*
575
+ - split: fineweb_uzb_004
576
+ path: data/fineweb_uzb_004-*
577
+ - split: fineweb_uzb_005
578
+ path: data/fineweb_uzb_005-*
579
+ - split: fineweb_uzb_006
580
+ path: data/fineweb_uzb_006-*
581
+ - split: fineweb_uzb_007
582
+ path: data/fineweb_uzb_007-*
583
+ - split: fineweb_uzb_008
584
+ path: data/fineweb_uzb_008-*
585
+ - split: fineweb_uzb_009
586
+ path: data/fineweb_uzb_009-*
587
+ - split: fineweb_uzb_010
588
+ path: data/fineweb_uzb_010-*
589
+ - split: fineweb_uzb_011
590
+ path: data/fineweb_uzb_011-*
591
+ - split: fineweb_uzb_012
592
+ path: data/fineweb_uzb_012-*
593
+ - split: fineweb_uzb_013
594
+ path: data/fineweb_uzb_013-*
595
  dataset_info:
596
  features:
597
  - name: text
 
600
  dtype: string
601
  - name: source
602
  dtype: string
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
603
  ---
604
 
605
  # Morfa Raw Data
 
608
 
609
  ## Languages
610
 
611
+ | Language | Code | Splits |
612
+ |----------|------|--------|
613
+ | Finnish | `fin` | 198 |
614
+ | Azerbaijani | `aze` | 73 |
615
+ | Uzbek | `uzb` | 13 |
616
+ | Turkmen | `tuk` | 1 |
 
 
 
617
 
618
  ## Schema
619
 
 
 
620
  | Field | Type | Description |
621
  |-------|------|-------------|
622
  | `text` | `string` | Raw document text |
 
628
  ```python
629
  from datasets import load_dataset
630
 
631
+ ds = load_dataset("eokayakca/morfa-raw-data", split="fineweb_aze_001", streaming=True)
632
+ for row in ds:
633
+ print(row["text"][:100], row["lang"])
634
  ```
635
 
636
  ## Source
637
 
638
+ All data from [HuggingFaceFW/fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2), redistributed under the same license.