Datasets:
ArXiv:
License:
update
Browse files- README.md +122 -0
- docs/picture/nbnn_text_length.jpg +3 -0
- docs/picture/nordic_langid_text_length.jpg +3 -0
- examples/make_subset_details.py +1 -1
README.md
CHANGED
|
@@ -292,6 +292,128 @@ ru: 3216
|
|
| 292 |

|
| 293 |
|
| 294 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 295 |
### 参考来源
|
| 296 |
<details>
|
| 297 |
<summary>参考的数据来源,展开查看</summary>
|
|
|
|
| 292 |

|
| 293 |
|
| 294 |
|
| 295 |
+
#### nbnn
|
| 296 |
+
以下都是 train 训练集的信息
|
| 297 |
+
|
| 298 |
+
```text
|
| 299 |
+
语种数量:
|
| 300 |
+
no-n: 778247
|
| 301 |
+
no-b: 777965
|
| 302 |
+
```
|
| 303 |
+
|
| 304 |
+
样本示例:
|
| 305 |
+
|
| 306 |
+
| 数据 | 语种 | 样本 |
|
| 307 |
+
| :---: | :---: | :---: |
|
| 308 |
+
| nbnn | no-b | – Det har vært en glede og en ære å representere Telemark på Stortinget, men jeg har varslet valgkomiteen om at jeg ikke stiller meg til disposisjon for neste periode. |
|
| 309 |
+
| nbnn | no-b | To klassetrinn ved Hedrum barneskole er satt i ventekarantene |
|
| 310 |
+
| nbnn | no-b | Planen er at jeg skal være der til neste år også. |
|
| 311 |
+
| nbnn | no-n | Han seier til Adresseavisen |
|
| 312 |
+
| nbnn | no-n | Kvotane i 2014 er reduserte med vel 200.000 tonn frå 2013 på grunn av framleis svak rekruttering og små årsklasser etter 2004. |
|
| 313 |
+
| nbnn | no-n | Mistanken er basert på at det er oppdaga mange svake og døde fjørfe i besetninga |
|
| 314 |
+
|
| 315 |
+
|
| 316 |
+
<details>
|
| 317 |
+
<summary>文本长度</summary>
|
| 318 |
+
<pre><code>0-10: 5556
|
| 319 |
+
10-20: 25148
|
| 320 |
+
20-30: 46278
|
| 321 |
+
30-40: 79125
|
| 322 |
+
40-50: 112309
|
| 323 |
+
50-60: 123719
|
| 324 |
+
60-70: 125569
|
| 325 |
+
70-80: 126520
|
| 326 |
+
80-90: 122251
|
| 327 |
+
90-100: 115816
|
| 328 |
+
100-110: 108365
|
| 329 |
+
110-120: 97733
|
| 330 |
+
120-130: 86840
|
| 331 |
+
130-140: 75411
|
| 332 |
+
140-150: 65692
|
| 333 |
+
150-160: 55824
|
| 334 |
+
160-170: 40693
|
| 335 |
+
170-180: 32009
|
| 336 |
+
180-190: 25787
|
| 337 |
+
190-200: 20289
|
| 338 |
+
200-210: 65278
|
| 339 |
+
</code></pre>
|
| 340 |
+
</details>
|
| 341 |
+
|
| 342 |
+
文本长度统计图像:
|
| 343 |
+
|
| 344 |
+

|
| 345 |
+
|
| 346 |
+
|
| 347 |
+
#### nordic_langid
|
| 348 |
+
以下都是 train 训练集的信息
|
| 349 |
+
|
| 350 |
+
```text
|
| 351 |
+
语种数量:
|
| 352 |
+
no-b: 44542
|
| 353 |
+
no-n: 43244
|
| 354 |
+
sv: 43074
|
| 355 |
+
da: 37544
|
| 356 |
+
is: 33948
|
| 357 |
+
fo: 23807
|
| 358 |
+
```
|
| 359 |
+
|
| 360 |
+
|
| 361 |
+
样本示例:
|
| 362 |
+
|
| 363 |
+
| 数据 | 语种 | 样本 |
|
| 364 |
+
| :---: | :---: | :---: |
|
| 365 |
+
| nordic_langid | no-n | jackson er anerkjent som den mest suksessrike artisten gjennom tidene av guinness world records og er blitt betegnet som kongen av pop |
|
| 366 |
+
| nordic_langid | no-n | selv om forjekslene ikke har den samme kompliserte bygningen som jekslene har de vanligvis flere spisser og kan ha doble røtter |
|
| 367 |
+
| nordic_langid | no-n | yagua har fem distinksjoner i fortid og to i framtid fjern fortid ett år siden en måned siden ei uke siden i dag i går nå umiddelbar framtid framtid norsk har et tredelt system som skiller mellom presens nåtid preteritum fortid og futurum framtid |
|
| 368 |
+
| nordic_langid | sv | gróa var den norrøne gro den gammaldanske og groa den gammalsvenske forma av namnet |
|
| 369 |
+
| nordic_langid | sv | i klarte sjakkstormeister vladimir kramnik å slå kasparov i vm kamp i london med sigrar og remisar garri kasparov var rekna som den sterkaste sjakkspelaren i verda også etter at han miste vm tittelen |
|
| 370 |
+
| nordic_langid | sv | gentrifisering sett søkelyset på prisen på husvære særleg husleiga når prisane gjer at folk med låge inntekter må flytta |
|
| 371 |
+
| nordic_langid | fo | tváttarbjørn dugir væl at klintra í trøum og er kvik á føti |
|
| 372 |
+
| nordic_langid | fo | smith er giftur við jada pinkett smith og er pápi willow smith og jaden smith |
|
| 373 |
+
| nordic_langid | fo | hann var kendastur fyri sítt arbeiði í it s garry shandling s show og the larry sanders show ushuaia er tann syðsti býurin i heiminum |
|
| 374 |
+
| nordic_langid | no-b | efter et par år at have været underofficer blev han fænrik ved |
|
| 375 |
+
| nordic_langid | no-b | fortlages vigtigste skrifter er genetische geschichte der philosophie seit kant |
|
| 376 |
+
| nordic_langid | no-b | hvis følgeanmodningen automatisk godkendes har din bruger nu fået følgestatus medlemstatus eller forbindelsesstatus vent på at nogen i gruppen eller på siden enten godkender eller ikke godkender anmodningen |
|
| 377 |
+
| nordic_langid | da | edie talar inn á þættina look into their eyes og you see what the know eftir dauða hennar þáttaröðin fékk minnsta áhorf sem þættirnir hafa fengið |
|
| 378 |
+
| nordic_langid | da | eyjarnar eru talsins og þar af byggðar |
|
| 379 |
+
| nordic_langid | da | þessi bergtegund finnst ekki á íslandi gráspör fræðiheiti passer domesticus er fugl af spörvaætt |
|
| 380 |
+
| nordic_langid | is | sjön har en area på kvadratkilometer och ligger meter över havet vietnamocalamus catbaensis är en gräsart som beskrevs av to quyen nguyen |
|
| 381 |
+
| nordic_langid | is | den varmaste månaden är juli då medeltemperaturen är c och den kallaste är januari med c |
|
| 382 |
+
| nordic_langid | is | ett tropiskt höglandsklimat råder i trakten |
|
| 383 |
+
|
| 384 |
+
|
| 385 |
+
<details>
|
| 386 |
+
<summary>文本长度</summary>
|
| 387 |
+
<pre><code>0-10: 65
|
| 388 |
+
10-20: 6477
|
| 389 |
+
20-30: 9545
|
| 390 |
+
30-40: 9746
|
| 391 |
+
40-50: 11056
|
| 392 |
+
50-60: 12141
|
| 393 |
+
60-70: 14824
|
| 394 |
+
70-80: 16952
|
| 395 |
+
80-90: 15225
|
| 396 |
+
90-100: 14171
|
| 397 |
+
100-110: 12428
|
| 398 |
+
110-120: 11461
|
| 399 |
+
120-130: 10529
|
| 400 |
+
130-140: 9484
|
| 401 |
+
140-150: 8944
|
| 402 |
+
150-160: 7884
|
| 403 |
+
160-170: 7067
|
| 404 |
+
170-180: 6538
|
| 405 |
+
180-190: 5860
|
| 406 |
+
190-200: 5254
|
| 407 |
+
200-210: 30508
|
| 408 |
+
</code></pre>
|
| 409 |
+
</details>
|
| 410 |
+
|
| 411 |
+
文本长度统计图像:
|
| 412 |
+
|
| 413 |
+

|
| 414 |
+
|
| 415 |
+
|
| 416 |
+
|
| 417 |
### 参考来源
|
| 418 |
<details>
|
| 419 |
<summary>参考的数据来源,展开查看</summary>
|
docs/picture/nbnn_text_length.jpg
ADDED
|
Git LFS Details
|
docs/picture/nordic_langid_text_length.jpg
ADDED
|
Git LFS Details
|
examples/make_subset_details.py
CHANGED
|
@@ -12,7 +12,7 @@ from project_settings import project_path
|
|
| 12 |
|
| 13 |
def get_args():
|
| 14 |
parser = argparse.ArgumentParser()
|
| 15 |
-
parser.add_argument("--dataset_name", default="
|
| 16 |
parser.add_argument(
|
| 17 |
"--dataset_cache_dir",
|
| 18 |
default=(project_path / "hub_datasets").as_posix(),
|
|
|
|
| 12 |
|
| 13 |
def get_args():
|
| 14 |
parser = argparse.ArgumentParser()
|
| 15 |
+
parser.add_argument("--dataset_name", default="nordic_langid", type=str)
|
| 16 |
parser.add_argument(
|
| 17 |
"--dataset_cache_dir",
|
| 18 |
default=(project_path / "hub_datasets").as_posix(),
|