Add `language_bcp47` tag (#4753)

* fix ms_terms

* fix ted_talks_iwslt

* move tags to language_bcp47

* fix bad codes

* add language_details and language_bcp47 in DatasetMetadata

* more fixes

* fix wiki_dpr

Commit from https://github.com/huggingface/datasets/commit/aa48a29d1304167dff37cef0ed7542f29376ee2d

README.md

@@ -28,8 +28,6 @@ language:
 - auc
 - ay
 - az
-- az-Cyrl
-- az-Latn
 - ban
 - bax
 - bba
@@ -49,8 +47,6 @@ language:
 - boa
 - br
 - bs
-- bs-Cyrl
-- bs-Latn
 - buc
 - bug
 - bum
@@ -74,7 +70,6 @@ language:
 - cjs
 - cjy
 - ckb
-- ckb-Latn
 - cnh
 - cni
 - cnr
@@ -94,8 +89,6 @@ language:
 - dag
 - ddn
 - de
-- de-1901
-- de-1996
 - dga
 - dip
 - duu
@@ -105,8 +98,6 @@ language:
 - dz
 - ee
 - el
-- el-monoton
-- el-polyton
 - en
 - eo
 - es
@@ -116,7 +107,6 @@ language:
 - eve
 - evn
 - fa
-- fa-AF
 - fat
 - fi
 - fj
@@ -125,7 +115,6 @@ language:
 - fon
 - fr
 - fuf
-- fuf-Adlm
 - fur
 - fuv
 - fvr
@@ -148,8 +137,6 @@ language:
 - gyr
 - ha
 - hak
-- ha-NE
-- ha-NG
 - haw
 - he
 - hi
@@ -184,7 +171,6 @@ language:
 - ja
 - jiv
 - jv
-- jv-Java
 - ka
 - kaa
 - kbd
@@ -194,12 +180,10 @@ language:
 - kea
 - kek
 - kg
-- kg-AO
 - kha
 - kjh
 - kk
 - kkh
-- kkh-Lana
 - kl
 - km
 - kmb
@@ -255,7 +239,6 @@ language:
 - mk
 - ml
 - mn
-- mn-Cyrl
 - mnw
 - mor
 - mos
@@ -312,8 +295,6 @@ language:
 - prq
 - ps
 - pt
-- pt-BR
-- pt-PT
 - qu
 - quc
 - qug
@@ -331,19 +312,12 @@ language:
 - rgn
 - rm
 - rmn
-- rm-puter
-- rm-rumgr
-- rm-surmiran
-- rm-sursilv
-- rm-sutsilv
-- rm-vallader
 - rn
 - ro
 - ru
 - rup
 - rw
 - sa
-- sa-Gran
 - sah
 - sc
 - sco
@@ -364,8 +338,6 @@ language:
 - snn
 - so
 - sr
-- sr-Cyrl
-- sr-Latn
 - srr
 - ss
 - st
@@ -377,7 +349,6 @@ language:
 - swb
 - ta
 - taj
-- ta-LK
 - tbz
 - tca
 - tdt
@@ -389,8 +360,6 @@ language:
 - ti
 - tiv
 - tk
-- tk-Cyrl
-- tk-Latn
 - tl
 - tly
 - tn
@@ -404,8 +373,7 @@ language:
 - ts
 - tsz
 - tt
-- tw-akuapem
-- tw-asante
+- tw
 - ty
 - tyv
 - tzh
@@ -413,22 +381,17 @@ language:
 - tzo
 - udu
 - ug
-- ug-Arab
-- ug-Latn
 - uk
 - umb
 - und
 - ur
 - ura
 - uz
-- uz-Cyrl
-- uz-Latn
 - vai
 - ve
 - vec
 - vep
 - vi
-- vi-Hani
 - vmw
 - wa
 - war
@@ -451,13 +414,52 @@ language:
 - zdj
 - zgh
 - zh
-- zh-Hant
 - zlm
-- zlm-Arab
-- zlm-Latn
 - zro
 - ztu
 - zu
+language_bcp47:
+- az-Cyrl
+- az-Latn
+- bs-Cyrl
+- bs-Latn
+- ckb-Latn
+- de-1901
+- de-1996
+- el-monoton
+- el-polyton
+- fa-AF
+- fuf-Adlm
+- ha-NE
+- ha-NG
+- jv-Java
+- kg-AO
+- kkh-Lana
+- mn-Cyrl
+- pt-BR
+- pt-PT
+- rm-puter
+- rm-rumgr
+- rm-surmiran
+- rm-sursilv
+- rm-sutsilv
+- rm-vallader
+- sa-Gran
+- sr-Cyrl
+- sr-Latn
+- ta-LK
+- tk-Cyrl
+- tk-Latn
+- tw-akuapem
+- tw-asante
+- ug-Arab
+- ug-Latn
+- uz-Cyrl
+- uz-Latn
+- vi-Hani
+- zh-Hant
+- zlm-Arab
+- zlm-Latn
 license:
 - unknown
 multilinguality: