polish-dynaword / pattern_frequency_report.md
kacperwikiel's picture
Release v0.2.3 with community HPLT contribution
79dc2b0
|
Raw
History Blame
7.03 kB
## Pattern frequency on corpus
- total tokens (tiktoken proxy): `6,878,676,161`
| pattern | count | share of all tokens |
|---|---:|---:|
| `w roku` | 460,140 | 0.0067% |
| `klasyfikacji` | 134,084 | 0.0019% |
| `ustawa` | 598,097 | 0.0087% |
| `artykuł` | 2,096,118 | 0.0305% |
| `parlament` | 1,216,592 | 0.0177% |
| `rozporządzenie` | 1,497,253 | 0.0218% |
| `w pobliżu` | 89,697 | 0.0013% |
| `mieszkańców` | 288,752 | 0.0042% |
| `Dz.U.` | 944,563 | 0.0137% |
| source | pattern | count | per-token share |
|---|---|---:|---:|
| 1000_novels | `w roku` | 659 | 0.00109% |
| 1000_novels | `klasyfikacji` | 14 | 0.00002% |
| 1000_novels | `ustawa` | 656 | 0.00108% |
| 1000_novels | `artykuł` | 729 | 0.00120% |
| 1000_novels | `parlament` | 240 | 0.00040% |
| 1000_novels | `rozporządzenie` | 65 | 0.00011% |
| 1000_novels | `w pobliżu` | 1,262 | 0.00209% |
| 1000_novels | `mieszkańców` | 868 | 0.00143% |
| 1000_novels | `Dz.U.` | 0 | 0.00000% |
| dziennik_ustaw | `w roku` | 33,096 | 0.00681% |
| dziennik_ustaw | `klasyfikacji` | 10,896 | 0.00224% |
| dziennik_ustaw | `ustawa` | 77,376 | 0.01592% |
| dziennik_ustaw | `artykuł` | 27,773 | 0.00571% |
| dziennik_ustaw | `parlament` | 42,338 | 0.00871% |
| dziennik_ustaw | `rozporządzenie` | 166,383 | 0.03423% |
| dziennik_ustaw | `w pobliżu` | 1,087 | 0.00022% |
| dziennik_ustaw | `mieszkańców` | 8,025 | 0.00165% |
| dziennik_ustaw | `Dz.U.` | 158 | 0.00003% |
| eltec_pol | `w roku` | 108 | 0.00050% |
| eltec_pol | `klasyfikacji` | 1 | 0.00000% |
| eltec_pol | `ustawa` | 153 | 0.00071% |
| eltec_pol | `artykuł` | 173 | 0.00081% |
| eltec_pol | `parlament` | 95 | 0.00044% |
| eltec_pol | `rozporządzenie` | 35 | 0.00016% |
| eltec_pol | `w pobliżu` | 246 | 0.00114% |
| eltec_pol | `mieszkańców` | 214 | 0.00100% |
| eltec_pol | `Dz.U.` | 0 | 0.00000% |
| eurlex | `w roku` | 40,009 | 0.00168% |
| eurlex | `klasyfikacji` | 59,428 | 0.00250% |
| eurlex | `ustawa` | 30,368 | 0.00128% |
| eurlex | `artykuł` | 1,774,958 | 0.07464% |
| eurlex | `parlament` | 780,286 | 0.03281% |
| eurlex | `rozporządzenie` | 1,202,658 | 0.05057% |
| eurlex | `w pobliżu` | 6,088 | 0.00026% |
| eurlex | `mieszkańców` | 9,441 | 0.00040% |
| eurlex | `Dz.U.` | 915,707 | 0.03851% |
| european_hplt_v3_pl | `w roku` | 21,067 | 0.00411% |
| european_hplt_v3_pl | `klasyfikacji` | 3,576 | 0.00070% |
| european_hplt_v3_pl | `ustawa` | 5,754 | 0.00112% |
| european_hplt_v3_pl | `artykuł` | 56,295 | 0.01099% |
| european_hplt_v3_pl | `parlament` | 10,618 | 0.00207% |
| european_hplt_v3_pl | `rozporządzenie` | 2,661 | 0.00052% |
| european_hplt_v3_pl | `w pobliżu` | 9,877 | 0.00193% |
| european_hplt_v3_pl | `mieszkańców` | 33,939 | 0.00662% |
| european_hplt_v3_pl | `Dz.U.` | 1,482 | 0.00029% |
| global_voices | `w roku` | 160 | 0.00431% |
| global_voices | `klasyfikacji` | 5 | 0.00013% |
| global_voices | `ustawa` | 157 | 0.00423% |
| global_voices | `artykuł` | 1,047 | 0.02818% |
| global_voices | `parlament` | 366 | 0.00985% |
| global_voices | `rozporządzenie` | 26 | 0.00070% |
| global_voices | `w pobliżu` | 105 | 0.00283% |
| global_voices | `mieszkańców` | 508 | 0.01367% |
| global_voices | `Dz.U.` | 1 | 0.00003% |
| govpl | `w roku` | 3,372 | 0.00418% |
| govpl | `klasyfikacji` | 526 | 0.00065% |
| govpl | `ustawa` | 4,727 | 0.00586% |
| govpl | `artykuł` | 2,417 | 0.00300% |
| govpl | `parlament` | 3,967 | 0.00492% |
| govpl | `rozporządzenie` | 4,102 | 0.00509% |
| govpl | `w pobliżu` | 892 | 0.00111% |
| govpl | `mieszkańców` | 13,105 | 0.01625% |
| govpl | `Dz.U.` | 3,114 | 0.00386% |
| parliamentary | `w roku` | 198,192 | 0.01203% |
| parliamentary | `klasyfikacji` | 12,637 | 0.00077% |
| parliamentary | `ustawa` | 459,179 | 0.02788% |
| parliamentary | `artykuł` | 182,038 | 0.01105% |
| parliamentary | `parlament` | 309,695 | 0.01881% |
| parliamentary | `rozporządzenie` | 113,547 | 0.00689% |
| parliamentary | `w pobliżu` | 4,964 | 0.00030% |
| parliamentary | `mieszkańców` | 78,048 | 0.00474% |
| parliamentary | `Dz.U.` | 23,809 | 0.00145% |
| wikibooks | `w roku` | 319 | 0.00205% |
| wikibooks | `klasyfikacji` | 37 | 0.00024% |
| wikibooks | `ustawa` | 165 | 0.00106% |
| wikibooks | `artykuł` | 732 | 0.00470% |
| wikibooks | `parlament` | 283 | 0.00182% |
| wikibooks | `rozporządzenie` | 131 | 0.00084% |
| wikibooks | `w pobliżu` | 125 | 0.00080% |
| wikibooks | `mieszkańców` | 204 | 0.00131% |
| wikibooks | `Dz.U.` | 16 | 0.00010% |
| wikinews | `w roku` | 449 | 0.00370% |
| wikinews | `klasyfikacji` | 639 | 0.00526% |
| wikinews | `ustawa` | 407 | 0.00335% |
| wikinews | `artykuł` | 2,474 | 0.02038% |
| wikinews | `parlament` | 2,530 | 0.02084% |
| wikinews | `rozporządzenie` | 168 | 0.00138% |
| wikinews | `w pobliżu` | 455 | 0.00375% |
| wikinews | `mieszkańców` | 1,014 | 0.00835% |
| wikinews | `Dz.U.` | 27 | 0.00022% |
| wikipedia | `w roku` | 143,023 | 0.02022% |
| wikipedia | `klasyfikacji` | 46,043 | 0.00651% |
| wikipedia | `ustawa` | 9,536 | 0.00135% |
| wikipedia | `artykuł` | 28,165 | 0.00398% |
| wikipedia | `parlament` | 57,863 | 0.00818% |
| wikipedia | `rozporządzenie` | 5,637 | 0.00080% |
| wikipedia | `w pobliżu` | 41,915 | 0.00593% |
| wikipedia | `mieszkańców` | 122,766 | 0.01736% |
| wikipedia | `Dz.U.` | 232 | 0.00003% |
| wikiquote | `w roku` | 608 | 0.00191% |
| wikiquote | `klasyfikacji` | 15 | 0.00005% |
| wikiquote | `ustawa` | 357 | 0.00112% |
| wikiquote | `artykuł` | 606 | 0.00190% |
| wikiquote | `parlament` | 1,271 | 0.00398% |
| wikiquote | `rozporządzenie` | 27 | 0.00008% |
| wikiquote | `w pobliżu` | 207 | 0.00065% |
| wikiquote | `mieszkańców` | 527 | 0.00165% |
| wikiquote | `Dz.U.` | 6 | 0.00002% |
| wikisource | `w roku` | 16,571 | 0.00207% |
| wikisource | `klasyfikacji` | 166 | 0.00002% |
| wikisource | `ustawa` | 8,156 | 0.00102% |
| wikisource | `artykuł` | 16,230 | 0.00202% |
| wikisource | `parlament` | 6,119 | 0.00076% |
| wikisource | `rozporządzenie` | 1,651 | 0.00021% |
| wikisource | `w pobliżu` | 13,921 | 0.00174% |
| wikisource | `mieszkańców` | 14,335 | 0.00179% |
| wikisource | `Dz.U.` | 5 | 0.00000% |
| wikivoyage | `w roku` | 609 | 0.00356% |
| wikivoyage | `klasyfikacji` | 21 | 0.00012% |
| wikivoyage | `ustawa` | 46 | 0.00027% |
| wikivoyage | `artykuł` | 657 | 0.00384% |
| wikivoyage | `parlament` | 249 | 0.00145% |
| wikivoyage | `rozporządzenie` | 34 | 0.00020% |
| wikivoyage | `w pobliżu` | 6,480 | 0.03783% |
| wikivoyage | `mieszkańców` | 4,100 | 0.02394% |
| wikivoyage | `Dz.U.` | 1 | 0.00001% |
| wolne_lektury | `w roku` | 1,898 | 0.00184% |
| wolne_lektury | `klasyfikacji` | 80 | 0.00008% |
| wolne_lektury | `ustawa` | 1,060 | 0.00103% |
| wolne_lektury | `artykuł` | 1,824 | 0.00177% |
| wolne_lektury | `parlament` | 672 | 0.00065% |
| wolne_lektury | `rozporządzenie` | 128 | 0.00012% |
| wolne_lektury | `w pobliżu` | 2,073 | 0.00201% |
| wolne_lektury | `mieszkańców` | 1,658 | 0.00161% |
| wolne_lektury | `Dz.U.` | 5 | 0.00000% |