Update README with dataset statistics

#2
by dhakar - opened
Files changed (1) hide show
  1. README.md +598 -1
README.md CHANGED
@@ -152,4 +152,601 @@ To load the dataset using the Hugging Face `datasets` library:
152
  ```python
153
  from datasets import load_dataset
154
 
155
- dataset = load_dataset("openpecha/OCR-Tibetan_line_to_text_benchmark")
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
152
  ```python
153
  from datasets import load_dataset
154
 
155
+ dataset = load_dataset("openpecha/OCR-Tibetan_line_to_text_benchmark")
156
+
157
+ ---
158
+
159
+ # Dataset Statistics
160
+
161
+ ## Configuration: `default`
162
+
163
+ ### Split: `Norbuketaka`
164
+
165
+ **Total Rows**: 223,080
166
+
167
+ #### `char_len`
168
+
169
+ - **Type**: numerical
170
+ - **Data Type**: `int64`
171
+ - **Sum**: 18,731,141.00
172
+ - **Average**: 83.97
173
+
174
+ #### `script`
175
+
176
+ - **Type**: categorical
177
+ - **Data Type**: `object`
178
+ - **Unique Values**: 3
179
+
180
+ **Value Distribution:**
181
+
182
+ | Value | Count | Percentage |
183
+ |-------|-------|------------|
184
+ | `ScriptTibt` | 182,580 | 81.85% |
185
+ | `ScriptDbuCan` | 39,133 | 17.54% |
186
+ | `ScriptHani' 'ScriptTibt` | 1,367 | 0.61% |
187
+
188
+ #### `writing_style`
189
+
190
+ - **Type**: categorical
191
+ - **Data Type**: `object`
192
+ - **Unique Values**: 1
193
+
194
+ **Value Distribution:**
195
+
196
+ | Value | Count | Percentage |
197
+ |-------|-------|------------|
198
+ | `` | 223,080 | 100.00% |
199
+
200
+ #### `print_method`
201
+
202
+ - **Type**: categorical
203
+ - **Data Type**: `object`
204
+ - **Unique Values**: 1
205
+
206
+ **Value Distribution:**
207
+
208
+ | Value | Count | Percentage |
209
+ |-------|-------|------------|
210
+ | `PrintMethod_Modern` | 223,080 | 100.00% |
211
+
212
+ ---
213
+
214
+ ### Split: `Lithang_Kanjur`
215
+
216
+ **Total Rows**: 41,784
217
+
218
+ #### `BDRC_work_id`
219
+
220
+ - **Type**: categorical
221
+ - **Data Type**: `object`
222
+ - **Unique Values**: 1
223
+
224
+ **Value Distribution:**
225
+
226
+ | Value | Count | Percentage |
227
+ |-------|-------|------------|
228
+ | `W4CZ7445` | 41,784 | 100.00% |
229
+
230
+ #### `char_len`
231
+
232
+ - **Type**: numerical
233
+ - **Data Type**: `int64`
234
+ - **Sum**: 7,562,127.00
235
+ - **Average**: 180.98
236
+
237
+ #### `script`
238
+
239
+ - **Type**: categorical
240
+ - **Data Type**: `object`
241
+ - **Unique Values**: 1
242
+
243
+ **Value Distribution:**
244
+
245
+ | Value | Count | Percentage |
246
+ |-------|-------|------------|
247
+ | `ScriptTibt` | 41,784 | 100.00% |
248
+
249
+ #### `writing_style`
250
+
251
+ - **Type**: categorical
252
+ - **Data Type**: `object`
253
+ - **Unique Values**: 1
254
+
255
+ **Value Distribution:**
256
+
257
+ | Value | Count | Percentage |
258
+ |-------|-------|------------|
259
+ | `Uchan` | 41,784 | 100.00% |
260
+
261
+ #### `print_method`
262
+
263
+ - **Type**: categorical
264
+ - **Data Type**: `object`
265
+ - **Unique Values**: 1
266
+
267
+ **Value Distribution:**
268
+
269
+ | Value | Count | Percentage |
270
+ |-------|-------|------------|
271
+ | `PrintMethod_Woodblock` | 41,784 | 100.00% |
272
+
273
+ ---
274
+
275
+ ### Split: `Lhasa_Kanjur`
276
+
277
+ **Total Rows**: 16,326
278
+
279
+ #### `BDRC_work_id`
280
+
281
+ - **Type**: categorical
282
+ - **Data Type**: `object`
283
+ - **Unique Values**: 1
284
+
285
+ **Value Distribution:**
286
+
287
+ | Value | Count | Percentage |
288
+ |-------|-------|------------|
289
+ | `W26071` | 16,326 | 100.00% |
290
+
291
+ #### `char_len`
292
+
293
+ - **Type**: numerical
294
+ - **Data Type**: `int64`
295
+ - **Sum**: 2,347,763.00
296
+ - **Average**: 143.81
297
+
298
+ #### `script`
299
+
300
+ - **Type**: categorical
301
+ - **Data Type**: `object`
302
+ - **Unique Values**: 1
303
+
304
+ **Value Distribution:**
305
+
306
+ | Value | Count | Percentage |
307
+ |-------|-------|------------|
308
+ | `ScriptTibt` | 16,326 | 100.00% |
309
+
310
+ #### `writing_style`
311
+
312
+ - **Type**: categorical
313
+ - **Data Type**: `object`
314
+ - **Unique Values**: 1
315
+
316
+ **Value Distribution:**
317
+
318
+ | Value | Count | Percentage |
319
+ |-------|-------|------------|
320
+ | `Uchan` | 16,326 | 100.00% |
321
+
322
+ #### `print_method`
323
+
324
+ - **Type**: categorical
325
+ - **Data Type**: `object`
326
+ - **Unique Values**: 1
327
+
328
+ **Value Distribution:**
329
+
330
+ | Value | Count | Percentage |
331
+ |-------|-------|------------|
332
+ | `PrintMethod_Woodblock` | 16,326 | 100.00% |
333
+
334
+ ---
335
+
336
+ ### Split: `Betsug`
337
+
338
+ **Total Rows**: 1,217
339
+
340
+ #### `BDRC_work_id`
341
+
342
+ - **Type**: categorical
343
+ - **Data Type**: `object`
344
+ - **Unique Values**: 1
345
+
346
+ **Value Distribution:**
347
+
348
+ | Value | Count | Percentage |
349
+ |-------|-------|------------|
350
+ | `` | 1,217 | 100.00% |
351
+
352
+ #### `char_len`
353
+
354
+ - **Type**: numerical
355
+ - **Data Type**: `int64`
356
+ - **Sum**: 191,691.00
357
+ - **Average**: 157.51
358
+
359
+ #### `script`
360
+
361
+ - **Type**: categorical
362
+ - **Data Type**: `object`
363
+ - **Unique Values**: 1
364
+
365
+ **Value Distribution:**
366
+
367
+ | Value | Count | Percentage |
368
+ |-------|-------|------------|
369
+ | `ScriptTibt` | 1,217 | 100.00% |
370
+
371
+ #### `writing_style`
372
+
373
+ - **Type**: categorical
374
+ - **Data Type**: `object`
375
+ - **Unique Values**: 1
376
+
377
+ **Value Distribution:**
378
+
379
+ | Value | Count | Percentage |
380
+ |-------|-------|------------|
381
+ | `Betsug` | 1,217 | 100.00% |
382
+
383
+ #### `print_method`
384
+
385
+ - **Type**: categorical
386
+ - **Data Type**: `object`
387
+ - **Unique Values**: 1
388
+
389
+ **Value Distribution:**
390
+
391
+ | Value | Count | Percentage |
392
+ |-------|-------|------------|
393
+ | `PrintMethod_Manuscript` | 1,217 | 100.00% |
394
+
395
+ ---
396
+
397
+ ### Split: `Google_Books`
398
+
399
+ **Total Rows**: 75,168
400
+
401
+ #### `char_len`
402
+
403
+ - **Type**: numerical
404
+ - **Data Type**: `int64`
405
+ - **Sum**: 4,666,128.00
406
+ - **Average**: 62.08
407
+
408
+ #### `script`
409
+
410
+ - **Type**: categorical
411
+ - **Data Type**: `object`
412
+ - **Unique Values**: 3
413
+
414
+ **Value Distribution:**
415
+
416
+ | Value | Count | Percentage |
417
+ |-------|-------|------------|
418
+ | `ScriptTibt` | 69,343 | 92.25% |
419
+ | `ScriptDbuCan` | 5,093 | 6.78% |
420
+ | `ScriptHani` | 546 | 0.73% |
421
+
422
+ #### `writing_style`
423
+
424
+ - **Type**: categorical
425
+ - **Data Type**: `object`
426
+ - **Unique Values**: 1
427
+
428
+ **Value Distribution:**
429
+
430
+ | Value | Count | Percentage |
431
+ |-------|-------|------------|
432
+ | `` | 75,168 | 100.00% |
433
+
434
+ #### `print_method`
435
+
436
+ - **Type**: categorical
437
+ - **Data Type**: `object`
438
+ - **Unique Values**: 2
439
+
440
+ **Value Distribution:**
441
+
442
+ | Value | Count | Percentage |
443
+ |-------|-------|------------|
444
+ | `PrintMethod_Modern` | 72,603 | 96.59% |
445
+ | `PrintMethod_Relief_WoodBlock` | 2,565 | 3.41% |
446
+
447
+ ---
448
+
449
+ ### Split: `Karmapa8`
450
+
451
+ **Total Rows**: 1,317
452
+
453
+ #### `BDRC_work_id`
454
+
455
+ - **Type**: categorical
456
+ - **Data Type**: `object`
457
+ - **Unique Values**: 1
458
+
459
+ **Value Distribution:**
460
+
461
+ | Value | Count | Percentage |
462
+ |-------|-------|------------|
463
+ | `` | 1,317 | 100.00% |
464
+
465
+ #### `char_len`
466
+
467
+ - **Type**: numerical
468
+ - **Data Type**: `int64`
469
+ - **Sum**: 278,120.00
470
+ - **Average**: 211.18
471
+
472
+ #### `script`
473
+
474
+ - **Type**: categorical
475
+ - **Data Type**: `object`
476
+ - **Unique Values**: 1
477
+
478
+ **Value Distribution:**
479
+
480
+ | Value | Count | Percentage |
481
+ |-------|-------|------------|
482
+ | `ScriptTibt` | 1,317 | 100.00% |
483
+
484
+ #### `writing_style`
485
+
486
+ - **Type**: categorical
487
+ - **Data Type**: `object`
488
+ - **Unique Values**: 1
489
+
490
+ **Value Distribution:**
491
+
492
+ | Value | Count | Percentage |
493
+ |-------|-------|------------|
494
+ | `Uchan` | 1,317 | 100.00% |
495
+
496
+ #### `print_method`
497
+
498
+ - **Type**: categorical
499
+ - **Data Type**: `object`
500
+ - **Unique Values**: 1
501
+
502
+ **Value Distribution:**
503
+
504
+ | Value | Count | Percentage |
505
+ |-------|-------|------------|
506
+ | `PrintMethod_Woodblock` | 1,317 | 100.00% |
507
+
508
+ ---
509
+
510
+ ### Split: `Drutsa`
511
+
512
+ **Total Rows**: 595
513
+
514
+ #### `BDRC_work_id`
515
+
516
+ - **Type**: categorical
517
+ - **Data Type**: `object`
518
+ - **Unique Values**: 1
519
+
520
+ **Value Distribution:**
521
+
522
+ | Value | Count | Percentage |
523
+ |-------|-------|------------|
524
+ | `` | 595 | 100.00% |
525
+
526
+ #### `char_len`
527
+
528
+ - **Type**: numerical
529
+ - **Data Type**: `int64`
530
+ - **Sum**: 60,923.00
531
+ - **Average**: 102.39
532
+
533
+ #### `script`
534
+
535
+ - **Type**: categorical
536
+ - **Data Type**: `object`
537
+ - **Unique Values**: 1
538
+
539
+ **Value Distribution:**
540
+
541
+ | Value | Count | Percentage |
542
+ |-------|-------|------------|
543
+ | `ScriptTibt` | 595 | 100.00% |
544
+
545
+ #### `writing_style`
546
+
547
+ - **Type**: categorical
548
+ - **Data Type**: `object`
549
+ - **Unique Values**: 1
550
+
551
+ **Value Distribution:**
552
+
553
+ | Value | Count | Percentage |
554
+ |-------|-------|------------|
555
+ | `Betsug` | 595 | 100.00% |
556
+
557
+ #### `print_method`
558
+
559
+ - **Type**: categorical
560
+ - **Data Type**: `object`
561
+ - **Unique Values**: 1
562
+
563
+ **Value Distribution:**
564
+
565
+ | Value | Count | Percentage |
566
+ |-------|-------|------------|
567
+ | `PrintMethod_Manuscript` | 595 | 100.00% |
568
+
569
+ ---
570
+
571
+ ### Split: `KhyentseWangpo`
572
+
573
+ **Total Rows**: 143
574
+
575
+ #### `BDRC_work_id`
576
+
577
+ - **Type**: categorical
578
+ - **Data Type**: `object`
579
+ - **Unique Values**: 1
580
+
581
+ **Value Distribution:**
582
+
583
+ | Value | Count | Percentage |
584
+ |-------|-------|------------|
585
+ | `` | 143 | 100.00% |
586
+
587
+ #### `char_len`
588
+
589
+ - **Type**: numerical
590
+ - **Data Type**: `int64`
591
+ - **Sum**: 21,227.00
592
+ - **Average**: 148.44
593
+
594
+ #### `script`
595
+
596
+ - **Type**: categorical
597
+ - **Data Type**: `object`
598
+ - **Unique Values**: 1
599
+
600
+ **Value Distribution:**
601
+
602
+ | Value | Count | Percentage |
603
+ |-------|-------|------------|
604
+ | `ScriptTibt` | 143 | 100.00% |
605
+
606
+ #### `writing_style`
607
+
608
+ - **Type**: categorical
609
+ - **Data Type**: `object`
610
+ - **Unique Values**: 1
611
+
612
+ **Value Distribution:**
613
+
614
+ | Value | Count | Percentage |
615
+ |-------|-------|------------|
616
+ | `Uchan` | 143 | 100.00% |
617
+
618
+ #### `print_method`
619
+
620
+ - **Type**: categorical
621
+ - **Data Type**: `object`
622
+ - **Unique Values**: 1
623
+
624
+ **Value Distribution:**
625
+
626
+ | Value | Count | Percentage |
627
+ |-------|-------|------------|
628
+ | `PrintMethod_Modern` | 143 | 100.00% |
629
+
630
+ ---
631
+
632
+ ### Split: `Derge_Tenjur`
633
+
634
+ **Total Rows**: 61,656
635
+
636
+ #### `BDRC_work_id`
637
+
638
+ - **Type**: categorical
639
+ - **Data Type**: `object`
640
+ - **Unique Values**: 1
641
+
642
+ **Value Distribution:**
643
+
644
+ | Value | Count | Percentage |
645
+ |-------|-------|------------|
646
+ | `W23703` | 61,656 | 100.00% |
647
+
648
+ #### `char_len`
649
+
650
+ - **Type**: numerical
651
+ - **Data Type**: `int64`
652
+ - **Sum**: 13,640,700.00
653
+ - **Average**: 221.24
654
+
655
+ #### `script`
656
+
657
+ - **Type**: categorical
658
+ - **Data Type**: `object`
659
+ - **Unique Values**: 1
660
+
661
+ **Value Distribution:**
662
+
663
+ | Value | Count | Percentage |
664
+ |-------|-------|------------|
665
+ | `ScriptTibt` | 61,656 | 100.00% |
666
+
667
+ #### `writing_style`
668
+
669
+ - **Type**: categorical
670
+ - **Data Type**: `object`
671
+ - **Unique Values**: 1
672
+
673
+ **Value Distribution:**
674
+
675
+ | Value | Count | Percentage |
676
+ |-------|-------|------------|
677
+ | `Uchan` | 61,656 | 100.00% |
678
+
679
+ #### `print_method`
680
+
681
+ - **Type**: categorical
682
+ - **Data Type**: `object`
683
+ - **Unique Values**: 1
684
+
685
+ **Value Distribution:**
686
+
687
+ | Value | Count | Percentage |
688
+ |-------|-------|------------|
689
+ | `PrintMethod_Woodblock` | 61,656 | 100.00% |
690
+
691
+ ---
692
+
693
+ ### Split: `NorbukatekaNumbers`
694
+
695
+ **Total Rows**: 317
696
+
697
+ #### `BDRC_work_id`
698
+
699
+ - **Type**: categorical
700
+ - **Data Type**: `object`
701
+ - **Unique Values**: 1
702
+
703
+ **Value Distribution:**
704
+
705
+ | Value | Count | Percentage |
706
+ |-------|-------|------------|
707
+ | `` | 317 | 100.00% |
708
+
709
+ #### `char_len`
710
+
711
+ - **Type**: numerical
712
+ - **Data Type**: `int64`
713
+ - **Sum**: 13,454.00
714
+ - **Average**: 42.44
715
+
716
+ #### `script`
717
+
718
+ - **Type**: categorical
719
+ - **Data Type**: `object`
720
+ - **Unique Values**: 1
721
+
722
+ **Value Distribution:**
723
+
724
+ | Value | Count | Percentage |
725
+ |-------|-------|------------|
726
+ | `ScriptTibt` | 317 | 100.00% |
727
+
728
+ #### `writing_style`
729
+
730
+ - **Type**: categorical
731
+ - **Data Type**: `object`
732
+ - **Unique Values**: 1
733
+
734
+ **Value Distribution:**
735
+
736
+ | Value | Count | Percentage |
737
+ |-------|-------|------------|
738
+ | `Uchan` | 317 | 100.00% |
739
+
740
+ #### `print_method`
741
+
742
+ - **Type**: categorical
743
+ - **Data Type**: `object`
744
+ - **Unique Values**: 1
745
+
746
+ **Value Distribution:**
747
+
748
+ | Value | Count | Percentage |
749
+ |-------|-------|------------|
750
+ | `PrintMethod_Modern` | 317 | 100.00% |
751
+
752
+ ---