polish-dynaword / artifacts /pattern_frequency_hf_snippet.md
kacperwikiel's picture
Add phrase frequency stats and HF card snippet for Polish DynaWord
0ea96e2
|
Raw
History Blame
6.01 kB
## Phrase frequency (token-normalized)
### Global corpus totals
Token counts are computed with the same tiktoken proxy used in source stats (`cl100k_base`).
| Pattern | Count | Share of total tokens |
|---|---:|---:|
| `w roku` | 434,882 | 0.0070% |
| `klasyfikacji` | 129,963 | 0.0021% |
| `ustawa` | 586,803 | 0.0094% |
| `artykuł` | 2,035,630 | 0.0327% |
| `parlament` | 1,201,401 | 0.0193% |
| `rozporządzenie` | 1,490,399 | 0.0240% |
| `w pobliżu` | 77,561 | 0.0012% |
| `mieszkańców` | 240,332 | 0.0039% |
| `Dz.U.` | 939,966 | 0.0151% |
![overall-pattern-frequency](artifacts/pattern_frequency_overall.png)
### Per-source token-normalized shares
Plots:
- [w roku](artifacts/pattern_frequency_w_roku.png)
- [klasyfikacji](artifacts/pattern_frequency_klasyfikacji.png)
- [ustawa](artifacts/pattern_frequency_ustawa.png)
- [artykuł](artifacts/pattern_frequency_artykul.png)
- [parlament](artifacts/pattern_frequency_parlament.png)
- [rozporządzenie](artifacts/pattern_frequency_rozporządzenie.png)
- [w pobliżu](artifacts/pattern_frequency_w_pobliżu.png)
- [mieszkańców](artifacts/pattern_frequency_mieszkańców.png)
- [Dz.U.](artifacts/pattern_frequency_dzu.png)
### Source-level full table
| source | pattern | count | share of source tokens |
|---|---|---:|---:|
| dziennik_ustaw | `w roku` | 33,096 | 0.00681% |
| dziennik_ustaw | `klasyfikacji` | 10,896 | 0.00224% |
| dziennik_ustaw | `ustawa` | 77,376 | 0.01592% |
| dziennik_ustaw | `artykuł` | 27,773 | 0.00571% |
| dziennik_ustaw | `parlament` | 42,338 | 0.00871% |
| dziennik_ustaw | `rozporządzenie` | 166,383 | 0.03423% |
| dziennik_ustaw | `w pobliżu` | 1,087 | 0.00022% |
| dziennik_ustaw | `mieszkańców` | 8,025 | 0.00165% |
| dziennik_ustaw | `Dz.U.` | 158 | 0.00003% |
| eltec_pol | `w roku` | 108 | 0.00050% |
| eltec_pol | `klasyfikacji` | 1 | 0.00000% |
| eltec_pol | `ustawa` | 153 | 0.00071% |
| eltec_pol | `artykuł` | 173 | 0.00081% |
| eltec_pol | `parlament` | 95 | 0.00044% |
| eltec_pol | `rozporządzenie` | 35 | 0.00016% |
| eltec_pol | `w pobliżu` | 246 | 0.00114% |
| eltec_pol | `mieszkańców` | 214 | 0.00100% |
| eltec_pol | `Dz.U.` | 0 | 0.00000% |
| eurlex | `w roku` | 40,009 | 0.00168% |
| eurlex | `klasyfikacji` | 59,428 | 0.00250% |
| eurlex | `ustawa` | 30,368 | 0.00128% |
| eurlex | `artykuł` | 1,774,958 | 0.07464% |
| eurlex | `parlament` | 780,286 | 0.03281% |
| eurlex | `rozporządzenie` | 1,202,658 | 0.05057% |
| eurlex | `w pobliżu` | 6,088 | 0.00026% |
| eurlex | `mieszkańców` | 9,441 | 0.00040% |
| eurlex | `Dz.U.` | 915,707 | 0.03851% |
| parliamentary | `w roku` | 198,192 | 0.01203% |
| parliamentary | `klasyfikacji` | 12,637 | 0.00077% |
| parliamentary | `ustawa` | 459,179 | 0.02788% |
| parliamentary | `artykuł` | 182,038 | 0.01105% |
| parliamentary | `parlament` | 309,695 | 0.01881% |
| parliamentary | `rozporządzenie` | 113,547 | 0.00689% |
| parliamentary | `w pobliżu` | 4,964 | 0.00030% |
| parliamentary | `mieszkańców` | 78,048 | 0.00474% |
| parliamentary | `Dz.U.` | 23,809 | 0.00145% |
| wikibooks | `w roku` | 319 | 0.00205% |
| wikibooks | `klasyfikacji` | 37 | 0.00024% |
| wikibooks | `ustawa` | 165 | 0.00106% |
| wikibooks | `artykuł` | 732 | 0.00470% |
| wikibooks | `parlament` | 283 | 0.00182% |
| wikibooks | `rozporządzenie` | 131 | 0.00084% |
| wikibooks | `w pobliżu` | 125 | 0.00080% |
| wikibooks | `mieszkańców` | 204 | 0.00131% |
| wikibooks | `Dz.U.` | 16 | 0.00010% |
| wikinews | `w roku` | 449 | 0.00370% |
| wikinews | `klasyfikacji` | 639 | 0.00526% |
| wikinews | `ustawa` | 407 | 0.00335% |
| wikinews | `artykuł` | 2,474 | 0.02038% |
| wikinews | `parlament` | 2,530 | 0.02084% |
| wikinews | `rozporządzenie` | 168 | 0.00138% |
| wikinews | `w pobliżu` | 455 | 0.00375% |
| wikinews | `mieszkańców` | 1,014 | 0.00835% |
| wikinews | `Dz.U.` | 27 | 0.00022% |
| wikipedia | `w roku` | 143,023 | 0.02022% |
| wikipedia | `klasyfikacji` | 46,043 | 0.00651% |
| wikipedia | `ustawa` | 9,536 | 0.00135% |
| wikipedia | `artykuł` | 28,165 | 0.00398% |
| wikipedia | `parlament` | 57,863 | 0.00818% |
| wikipedia | `rozporządzenie` | 5,637 | 0.00080% |
| wikipedia | `w pobliżu` | 41,915 | 0.00593% |
| wikipedia | `mieszkańców` | 122,766 | 0.01736% |
| wikipedia | `Dz.U.` | 232 | 0.00003% |
| wikiquote | `w roku` | 608 | 0.00191% |
| wikiquote | `klasyfikacji` | 15 | 0.00005% |
| wikiquote | `ustawa` | 357 | 0.00112% |
| wikiquote | `artykuł` | 606 | 0.00190% |
| wikiquote | `parlament` | 1,271 | 0.00398% |
| wikiquote | `rozporządzenie` | 27 | 0.00008% |
| wikiquote | `w pobliżu` | 207 | 0.00065% |
| wikiquote | `mieszkańców` | 527 | 0.00165% |
| wikiquote | `Dz.U.` | 6 | 0.00002% |
| wikisource | `w roku` | 16,571 | 0.00207% |
| wikisource | `klasyfikacji` | 166 | 0.00002% |
| wikisource | `ustawa` | 8,156 | 0.00102% |
| wikisource | `artykuł` | 16,230 | 0.00202% |
| wikisource | `parlament` | 6,119 | 0.00076% |
| wikisource | `rozporządzenie` | 1,651 | 0.00021% |
| wikisource | `w pobliżu` | 13,921 | 0.00174% |
| wikisource | `mieszkańców` | 14,335 | 0.00179% |
| wikisource | `Dz.U.` | 5 | 0.00000% |
| wikivoyage | `w roku` | 609 | 0.00356% |
| wikivoyage | `klasyfikacji` | 21 | 0.00012% |
| wikivoyage | `ustawa` | 46 | 0.00027% |
| wikivoyage | `artykuł` | 657 | 0.00384% |
| wikivoyage | `parlament` | 249 | 0.00145% |
| wikivoyage | `rozporządzenie` | 34 | 0.00020% |
| wikivoyage | `w pobliżu` | 6,480 | 0.03783% |
| wikivoyage | `mieszkańców` | 4,100 | 0.02394% |
| wikivoyage | `Dz.U.` | 1 | 0.00001% |
| wolne_lektury | `w roku` | 1,898 | 0.00184% |
| wolne_lektury | `klasyfikacji` | 80 | 0.00008% |
| wolne_lektury | `ustawa` | 1,060 | 0.00103% |
| wolne_lektury | `artykuł` | 1,824 | 0.00177% |
| wolne_lektury | `parlament` | 672 | 0.00065% |
| wolne_lektury | `rozporządzenie` | 128 | 0.00012% |
| wolne_lektury | `w pobliżu` | 2,073 | 0.00201% |
| wolne_lektury | `mieszkańców` | 1,658 | 0.00161% |
| wolne_lektury | `Dz.U.` | 5 | 0.00000% |