| | |
| | |
| | |
| | |
| | |
| | |
| | |
| | |
| | |
| | |
| | |
| | |
| | |
| | |
| |
|
| | |
| | """Wikipedia dataset containing cleaned articles of all languages.""" |
| |
|
| |
|
| | import bz2 |
| | import codecs |
| | import json |
| | import os |
| | import re |
| | import xml.etree.cElementTree as etree |
| |
|
| | from multiprocessing import Process, Queue |
| | from urllib.parse import quote |
| |
|
| | import datasets |
| | import mwparserfromhell |
| |
|
| |
|
| | logger = datasets.logging.get_logger(__name__) |
| |
|
| |
|
| | _CITATION = """\ |
| | @ONLINE {wikidump, |
| | author = {Wikimedia Foundation}, |
| | title = {Wikimedia Downloads}, |
| | url = {https://dumps.wikimedia.org} |
| | } |
| | """ |
| |
|
| | _DESCRIPTION = """\ |
| | Wikipedia dataset containing cleaned articles of all languages. |
| | The datasets are built from the Wikipedia dump |
| | (https://dumps.wikimedia.org/) with one split per language. Each example |
| | contains the content of one full Wikipedia article with cleaning to strip |
| | markdown and unwanted sections (references, etc.). |
| | """ |
| |
|
| | _LICENSE = ( |
| | "This work is licensed under the Creative Commons Attribution-ShareAlike " |
| | "3.0 Unported License. To view a copy of this license, visit " |
| | "http://creativecommons.org/licenses/by-sa/3.0/ or send a letter to " |
| | "Creative Commons, PO Box 1866, Mountain View, CA 94042, USA." |
| | ) |
| |
|
| | |
| | |
| | WIKIPEDIA_LANGUAGES = [ |
| | "aa", |
| | "ab", |
| | "ace", |
| | "ady", |
| | "af", |
| | "ak", |
| | "als", |
| | "am", |
| | "an", |
| | "ang", |
| | "ar", |
| | "arc", |
| | "arz", |
| | "as", |
| | "ast", |
| | "atj", |
| | "av", |
| | "ay", |
| | "az", |
| | "azb", |
| | "ba", |
| | "bar", |
| | "bat-smg", |
| | "bcl", |
| | "be", |
| | "be-x-old", |
| | "bg", |
| | "bh", |
| | "bi", |
| | "bjn", |
| | "bm", |
| | "bn", |
| | "bo", |
| | "bpy", |
| | "br", |
| | "bs", |
| | "bug", |
| | "bxr", |
| | "ca", |
| | "cbk-zam", |
| | "cdo", |
| | "ce", |
| | "ceb", |
| | "ch", |
| | "cho", |
| | "chr", |
| | "chy", |
| | "ckb", |
| | "co", |
| | "cr", |
| | "crh", |
| | "cs", |
| | "csb", |
| | "cu", |
| | "cv", |
| | "cy", |
| | "da", |
| | "de", |
| | "din", |
| | "diq", |
| | "dsb", |
| | "dty", |
| | "dv", |
| | "dz", |
| | "ee", |
| | "el", |
| | "eml", |
| | "en", |
| | "eo", |
| | "es", |
| | "et", |
| | "eu", |
| | "ext", |
| | "fa", |
| | "ff", |
| | "fi", |
| | "fiu-vro", |
| | "fj", |
| | "fo", |
| | "fr", |
| | "frp", |
| | "frr", |
| | "fur", |
| | "fy", |
| | "ga", |
| | "gag", |
| | "gan", |
| | "gd", |
| | "gl", |
| | "glk", |
| | "gn", |
| | "gom", |
| | "gor", |
| | "got", |
| | "gu", |
| | "gv", |
| | "ha", |
| | "hak", |
| | "haw", |
| | "he", |
| | "hi", |
| | "hif", |
| | "ho", |
| | "hr", |
| | "hsb", |
| | "ht", |
| | "hu", |
| | "hy", |
| | "ia", |
| | "id", |
| | "ie", |
| | "ig", |
| | "ii", |
| | "ik", |
| | "ilo", |
| | "inh", |
| | "io", |
| | "is", |
| | "it", |
| | "iu", |
| | "ja", |
| | "jam", |
| | "jbo", |
| | "jv", |
| | "ka", |
| | "kaa", |
| | "kab", |
| | "kbd", |
| | "kbp", |
| | "kg", |
| | "ki", |
| | "kj", |
| | "kk", |
| | "kl", |
| | "km", |
| | "kn", |
| | "ko", |
| | "koi", |
| | "krc", |
| | "ks", |
| | "ksh", |
| | "ku", |
| | "kv", |
| | "kw", |
| | "ky", |
| | "la", |
| | "lad", |
| | "lb", |
| | "lbe", |
| | "lez", |
| | "lfn", |
| | "lg", |
| | "li", |
| | "lij", |
| | "lmo", |
| | "ln", |
| | "lo", |
| | "lrc", |
| | "lt", |
| | "ltg", |
| | "lv", |
| | "mai", |
| | "map-bms", |
| | "mdf", |
| | "mg", |
| | "mh", |
| | "mhr", |
| | "mi", |
| | "min", |
| | "mk", |
| | "ml", |
| | "mn", |
| | "mr", |
| | "mrj", |
| | "ms", |
| | "mt", |
| | "mus", |
| | "mwl", |
| | "my", |
| | "myv", |
| | "mzn", |
| | "na", |
| | "nah", |
| | "nap", |
| | "nds", |
| | "nds-nl", |
| | "ne", |
| | "new", |
| | "ng", |
| | "nl", |
| | "nn", |
| | "no", |
| | "nov", |
| | "nrm", |
| | "nso", |
| | "nv", |
| | "ny", |
| | "oc", |
| | "olo", |
| | "om", |
| | "or", |
| | "os", |
| | "pa", |
| | "pag", |
| | "pam", |
| | "pap", |
| | "pcd", |
| | "pdc", |
| | "pfl", |
| | "pi", |
| | "pih", |
| | "pl", |
| | "pms", |
| | "pnb", |
| | "pnt", |
| | "ps", |
| | "pt", |
| | "qu", |
| | "rm", |
| | "rmy", |
| | "rn", |
| | "ro", |
| | "roa-rup", |
| | "roa-tara", |
| | "ru", |
| | "rue", |
| | "rw", |
| | "sa", |
| | "sah", |
| | "sat", |
| | "sc", |
| | "scn", |
| | "sco", |
| | "sd", |
| | "se", |
| | "sg", |
| | "sh", |
| | "si", |
| | "simple", |
| | "sk", |
| | "sl", |
| | "sm", |
| | "sn", |
| | "so", |
| | "sq", |
| | "sr", |
| | "srn", |
| | "ss", |
| | "st", |
| | "stq", |
| | "su", |
| | "sv", |
| | "sw", |
| | "szl", |
| | "ta", |
| | "tcy", |
| | "te", |
| | "tet", |
| | "tg", |
| | "th", |
| | "ti", |
| | "tk", |
| | "tl", |
| | "tn", |
| | "to", |
| | "tpi", |
| | "tr", |
| | "ts", |
| | "tt", |
| | "tum", |
| | "tw", |
| | "ty", |
| | "tyv", |
| | "udm", |
| | "ug", |
| | "uk", |
| | "ur", |
| | "uz", |
| | "ve", |
| | "vec", |
| | "vep", |
| | "vi", |
| | "vls", |
| | "vo", |
| | "wa", |
| | "war", |
| | "wo", |
| | "wuu", |
| | "xal", |
| | "xh", |
| | "xmf", |
| | "yi", |
| | "yo", |
| | "za", |
| | "zea", |
| | "zh", |
| | "zh-classical", |
| | "zh-min-nan", |
| | "zh-yue", |
| | "zu", |
| | ] |
| |
|
| | |
| | |
| | MEDIA_ALIASES = { |
| | "ab": ["Медиа", "Файл", "Афаил", "Амедиа", "Изображение"], |
| | "ace": ["Beureukaih", "Gambar", "Alat", "Berkas"], |
| | "ady": ["Медиа"], |
| | "af": ["Lêer", "Beeld"], |
| | "als": ["Medium", "Datei", "Bild"], |
| | "am": ["ፋይል", "ስዕል"], |
| | "an": ["Imachen", "Imagen"], |
| | "ang": ["Ymele", "Biliþ"], |
| | "ar": ["ميديا", "صورة", "وسائط", "ملف"], |
| | "arc": ["ܠܦܦܐ", "ܡܝܕܝܐ"], |
| | "arz": ["ميديا", "صورة", "وسائط", "ملف"], |
| | "as": ["চিত্ৰ", "चित्र", "চিত্র", "মাধ্যম"], |
| | "ast": ["Imaxen", "Ficheru", "Imaxe", "Archivu", "Imagen", "Medios"], |
| | "atj": ["Tipatcimoctakewin", "Natisinahikaniwoc"], |
| | "av": ["Медиа", "Файл", "Изображение"], |
| | "ay": ["Medio", "Archivo", "Imagen"], |
| | "az": ["Mediya", "Şəkil", "Fayl"], |
| | "azb": ["رسانه", "تصویر", "مدیا", "فایل", "رسانهای"], |
| | "ba": ["Медиа", "Рәсем", "Файл", "Изображение"], |
| | "bar": ["Medium", "Datei", "Bild"], |
| | "bat-smg": ["Vaizdas", "Medėjė", "Abruozdielis"], |
| | "bcl": ["Medio", "Ladawan"], |
| | "be": ["Мультымедыя", "Файл", "Выява"], |
| | "be-x-old": ["Мэдыя", "Файл", "Выява"], |
| | "bg": ["Медия", "Файл", "Картинка"], |
| | "bh": ["मीडिया", "चित्र"], |
| | "bjn": ["Barakas", "Gambar", "Berkas"], |
| | "bm": ["Média", "Fichier"], |
| | "bn": ["চিত্র", "মিডিয়া"], |
| | "bpy": ["ছবি", "মিডিয়া"], |
| | "br": ["Skeudenn", "Restr"], |
| | "bs": ["Mediji", "Slika", "Datoteka", "Medija"], |
| | "bug": ["Gambar", "Berkas"], |
| | "bxr": ["Файл", "Меди", "Изображение"], |
| | "ca": ["Fitxer", "Imatge"], |
| | "cbk-zam": ["Medio", "Archivo", "Imagen"], |
| | "cdo": ["文件", "媒體", "圖像", "檔案"], |
| | "ce": ["Хlум", "Медиа", "Сурт", "Файл", "Медйа", "Изображение"], |
| | "ceb": ["Payl", "Medya", "Imahen"], |
| | "ch": ["Litratu"], |
| | "ckb": ["میدیا", "پەڕگە"], |
| | "co": ["Immagine"], |
| | "crh": ["Медиа", "Resim", "Файл", "Fayl", "Ресим"], |
| | "cs": ["Soubor", "Média", "Obrázok"], |
| | "csb": ["Òbrôzk", "Grafika"], |
| | "cu": ["Видъ", "Ви́дъ", "Дѣло", "Срѣдьства"], |
| | "cv": ["Медиа", "Ӳкерчĕк", "Изображение"], |
| | "cy": ["Delwedd"], |
| | "da": ["Billede", "Fil"], |
| | "de": ["Medium", "Datei", "Bild"], |
| | "din": ["Ciɛl", "Apamduööt"], |
| | "diq": ["Medya", "Dosya"], |
| | "dsb": ["Wobraz", "Dataja", "Bild", "Medija"], |
| | "dty": ["चित्र", "मिडिया"], |
| | "dv": ["ފައިލު", "މީޑިއާ", "ފައިލް"], |
| | "el": ["Εικόνα", "Αρχείο", "Μέσο", "Μέσον"], |
| | "eml": ["Immagine"], |
| | "eo": ["Dosiero", "Aŭdvidaĵo"], |
| | "es": ["Medio", "Archivo", "Imagen"], |
| | "et": ["Pilt", "Fail", "Meedia"], |
| | "eu": ["Irudi", "Fitxategi"], |
| | "ext": ["Archivu", "Imagen", "Mediu"], |
| | "fa": ["رسانه", "تصویر", "مدیا", "پرونده", "رسانهای"], |
| | "ff": ["Média", "Fichier"], |
| | "fi": ["Kuva", "Tiedosto"], |
| | "fiu-vro": ["Pilt", "Meediä"], |
| | "fo": ["Miðil", "Mynd"], |
| | "fr": ["Média", "Fichier"], |
| | "frp": ["Émâge", "Fichiér", "Mèdia"], |
| | "frr": ["Medium", "Datei", "Bild"], |
| | "fur": ["Immagine", "Figure"], |
| | "fy": ["Ofbyld"], |
| | "ga": ["Íomhá", "Meán"], |
| | "gag": ["Mediya", "Medya", "Resim", "Dosya", "Dosye"], |
| | "gan": ["媒体文件", "文件", "文檔", "档案", "媒體", "图像", "圖像", "媒体", "檔案"], |
| | "gd": ["Faidhle", "Meadhan"], |
| | "gl": ["Imaxe", "Ficheiro", "Arquivo", "Imagem"], |
| | "glk": ["رسانه", "تصویر", "پرونده", "فاىل", "رسانهای", "مديا"], |
| | "gn": ["Medio", "Imagen", "Ta'ãnga"], |
| | "gom": ["माध्यम", "मिडिया", "फायल"], |
| | "gor": ["Gambar", "Berkas"], |
| | "got": ["𐍆𐌴𐌹𐌻𐌰"], |
| | "gu": ["દ્રશ્ય-શ્રાવ્ય (મિડિયા)", "દ્રશ્ય-શ્રાવ્ય_(મિડિયા)", "ચિત્ર"], |
| | "gv": ["Coadan", "Meanyn"], |
| | "hak": ["文件", "媒體", "圖像", "檔案"], |
| | "haw": ["Kiʻi", "Waihona", "Pāpaho"], |
| | "he": ["תמונה", "קו", "מדיה", "קובץ"], |
| | "hi": ["मीडिया", "चित्र"], |
| | "hif": ["file", "saadhan"], |
| | "hr": ["Mediji", "DT", "Slika", "F", "Datoteka"], |
| | "hsb": ["Wobraz", "Dataja", "Bild"], |
| | "ht": ["Imaj", "Fichye", "Medya"], |
| | "hu": ["Kép", "Fájl", "Média"], |
| | "hy": ["Պատկեր", "Մեդիա"], |
| | "ia": ["Imagine", "Multimedia"], |
| | "id": ["Gambar", "Berkas"], |
| | "ig": ["Nká", "Midia", "Usòrò", "Ákwúkwó orünotu", "Ákwúkwó_orünotu"], |
| | "ii": ["媒体文件", "文件", "档案", "图像", "媒体"], |
| | "ilo": ["Midia", "Papeles"], |
| | "inh": ["Медиа", "Файл", "Изображение"], |
| | "io": ["Imajo", "Arkivo"], |
| | "is": ["Miðill", "Mynd"], |
| | "it": ["Immagine"], |
| | "ja": ["メディア", "ファイル", "画像"], |
| | "jbo": ["velsku", "datnyvei"], |
| | "jv": ["Barkas", "Medhia", "Gambar", "Médhia"], |
| | "ka": ["მედია", "სურათი", "ფაილი"], |
| | "kaa": ["Swret", "Таспа", "سۋرەت", "Taspa", "Su'wret", "Сурет", "تاسپا"], |
| | "kab": ["Tugna"], |
| | "kbd": ["Медиа", "Файл"], |
| | "kbp": ["Média", "Fichier"], |
| | "kg": ["Fisye"], |
| | "kk": ["Swret", "سۋرەت", "Таспа", "Taspa", "Сурет", "تاسپا"], |
| | "kl": ["Billede", "Fiileq", "Fil"], |
| | "km": ["ឯកសារ", "រូបភាព", "មេឌា", "មីឌា"], |
| | "kn": ["ಚಿತ್ರ", "ಮೀಡಿಯ"], |
| | "ko": ["미디어", "파일", "그림"], |
| | "koi": ["Медиа", "Файл", "Изображение"], |
| | "krc": ["Медиа", "Файл", "Изображение"], |
| | "ks": ["میڈیا", "فَیِل"], |
| | "ksh": ["Beld", "Meedije", "Medie", "Belld", "Medium", "Datei", "Meedijum", "Bild"], |
| | "ku": ["میدیا", "پەڕگە", "Medya", "Wêne"], |
| | "kv": ["Медиа", "Файл", "Изображение"], |
| | "kw": ["Restren"], |
| | "ky": ["Медиа", "Файл"], |
| | "la": ["Imago", "Fasciculus"], |
| | "lad": ["Dossia", "Medya", "Archivo", "Dosya", "Imagen", "Meddia"], |
| | "lb": ["Fichier", "Bild"], |
| | "lbe": ["Медиа", "Сурат", "Изображение"], |
| | "lez": ["Медиа", "Mediya", "Файл", "Şəkil", "Изображение"], |
| | "lfn": ["Fix"], |
| | "li": ["Afbeelding", "Plaetje", "Aafbeilding"], |
| | "lij": ["Immaggine", "Immagine"], |
| | "lmo": ["Immagine", "Imàjine", "Archivi"], |
| | "ln": ["Média", "Fichier"], |
| | "lo": ["ສື່ອ", "ສື່", "ຮູບ"], |
| | "lrc": ["رسانه", "تصویر", "رسانهای", "جانیا", "أسگ", "ڤارئسگأر"], |
| | "lt": ["Vaizdas", "Medija"], |
| | "ltg": ["Medeja", "Fails"], |
| | "lv": ["Attēls"], |
| | "mai": ["मेडिया", "फाइल"], |
| | "map-bms": ["Barkas", "Medhia", "Gambar", "Médhia"], |
| | "mdf": ["Медиа", "Няйф", "Изображение"], |
| | "mg": ["Rakitra", "Sary", "Média"], |
| | "mhr": ["Медиа", "Файл", "Изображение"], |
| | "min": ["Gambar", "Berkas"], |
| | "mk": ["Податотека", "Медија", "Медиум", "Слика"], |
| | "ml": ["പ്രമാണം", "ചി", "മീഡിയ", "പ്ര", "ചിത്രം"], |
| | "mn": ["Медиа", "Файл", "Зураг"], |
| | "mr": ["चित्र", "मिडिया"], |
| | "mrj": ["Медиа", "Файл", "Изображение"], |
| | "ms": ["Fail", "Imej"], |
| | "mt": ["Midja", "Medja", "Stampa"], |
| | "mwl": ["Multimédia", "Fexeiro", "Ficheiro", "Arquivo", "Imagem"], |
| | "my": ["ဖိုင်", "မီဒီယာ"], |
| | "myv": ["Медия", "Артовкс", "Изображение"], |
| | "mzn": ["رسانه", "تصویر", "مهدیا", "مدیا", "پرونده", "رسانهای"], |
| | "nah": ["Mēdiatl", "Īxiptli", "Imagen"], |
| | "nap": ["Fiùra", "Immagine"], |
| | "nds": ["Datei", "Bild"], |
| | "nds-nl": ["Ofbeelding", "Afbeelding", "Bestaand"], |
| | "ne": ["मीडिया", "चित्र"], |
| | "new": ["किपा", "माध्यम"], |
| | "nl": ["Bestand", "Afbeelding"], |
| | "nn": ["Fil", "Bilde", "Filpeikar"], |
| | "no": ["Fil", "Medium", "Bilde"], |
| | "nov": [], |
| | "nrm": ["Média", "Fichier"], |
| | "nso": ["Seswantšho"], |
| | "nv": ["Eʼelyaaígíí"], |
| | "oc": ["Imatge", "Fichièr", "Mèdia"], |
| | "olo": ["Kuva", "Medii", "Failu"], |
| | "or": ["ମାଧ୍ୟମ", "ଫାଇଲ"], |
| | "os": ["Ныв", "Медиа", "Файл", "Изображение"], |
| | "pa": ["ਤਸਵੀਰ", "ਮੀਡੀਆ"], |
| | "pcd": ["Média", "Fichier"], |
| | "pdc": ["Medium", "Datei", "Bild", "Feil"], |
| | "pfl": ["Dadai", "Medium", "Datei", "Bild"], |
| | "pi": ["मीडिया", "पटिमा"], |
| | "pl": ["Plik", "Grafika"], |
| | "pms": ["Figura", "Immagine"], |
| | "pnb": ["میڈیا", "تصویر", "فائل"], |
| | "pnt": ["Εικόνα", "Αρχείον", "Εικόναν", "Μέσον"], |
| | "ps": ["انځور", "رسنۍ", "دوتنه"], |
| | "pt": ["Multimédia", "Ficheiro", "Arquivo", "Imagem"], |
| | "qu": ["Midya", "Imagen", "Rikcha"], |
| | "rm": ["Multimedia", "Datoteca"], |
| | "rmy": ["Fişier", "Mediya", "Chitro", "Imagine"], |
| | "ro": ["Fişier", "Imagine", "Fișier"], |
| | "roa-rup": ["Fişier", "Imagine", "Fișier"], |
| | "roa-tara": ["Immagine"], |
| | "ru": ["Медиа", "Файл", "Изображение"], |
| | "rue": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], |
| | "rw": ["Dosiye", "Itangazamakuru"], |
| | "sa": ["चित्रम्", "माध्यमम्", "सञ्चिका", "माध्यम", "चित्रं"], |
| | "sah": ["Миэдьийэ", "Ойуу", "Билэ", "Изображение"], |
| | "sat": ["ᱨᱮᱫ", "ᱢᱤᱰᱤᱭᱟ"], |
| | "sc": ["Immàgini"], |
| | "scn": ["Immagine", "Mmàggini", "Mèdia"], |
| | "sd": ["عڪس", "ذريعات", "فائل"], |
| | "se": ["Fiila"], |
| | "sg": ["Média", "Fichier"], |
| | "sh": ["Mediji", "Slika", "Медија", "Datoteka", "Medija", "Слика"], |
| | "si": ["රූපය", "මාධ්යය", "ගොනුව"], |
| | "sk": ["Súbor", "Obrázok", "Médiá"], |
| | "sl": ["Slika", "Datoteka"], |
| | "sq": ["Figura", "Skeda"], |
| | "sr": ["Датотека", "Medij", "Slika", "Медија", "Datoteka", "Медиј", "Medija", "Слика"], |
| | "srn": ["Afbeelding", "Gefre"], |
| | "stq": ["Bielde", "Bild"], |
| | "su": ["Média", "Gambar"], |
| | "sv": ["Fil", "Bild"], |
| | "sw": ["Faili", "Picha"], |
| | "szl": ["Plik", "Grafika"], |
| | "ta": ["படிமம்", "ஊடகம்"], |
| | "tcy": ["ಮಾದ್ಯಮೊ", "ಫೈಲ್"], |
| | "te": ["ఫైలు", "దస్త్రం", "బొమ్మ", "మీడియా"], |
| | "tet": ["Imajen", "Arquivo", "Imagem"], |
| | "tg": ["Акс", "Медиа"], |
| | "th": ["ไฟล์", "สื่อ", "ภาพ"], |
| | "ti": ["ፋይል", "ሜድያ"], |
| | "tk": ["Faýl"], |
| | "tl": ["Midya", "Talaksan"], |
| | "tpi": ["Fail"], |
| | "tr": ["Medya", "Resim", "Dosya", "Ortam"], |
| | "tt": ["Медиа", "Рәсем", "Файл", "Räsem", "Изображение"], |
| | "ty": ["Média", "Fichier"], |
| | "tyv": ["Медиа", "Файл", "Изображение"], |
| | "udm": ["Медиа", "Файл", "Суред", "Изображение"], |
| | "ug": ["ۋاسىتە", "ھۆججەت"], |
| | "uk": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], |
| | "ur": ["میڈیا", "تصویر", "وسیط", "زریعہ", "فائل", "ملف"], |
| | "uz": ["Mediya", "Tasvir", "Fayl"], |
| | "vec": ["Immagine", "Imàjine", "Mèdia"], |
| | "vep": ["Pilt", "Fail"], |
| | "vi": ["Phương_tiện", "Tập_tin", "Hình", "Tập tin", "Phương tiện"], |
| | "vls": ["Afbeelding", "Ofbeeldienge"], |
| | "vo": ["Ragiv", "Magod", "Nünamakanäd"], |
| | "wa": ["Imådje"], |
| | "war": ["Medya", "Fayl", "Paypay"], |
| | "wo": ["Xibaarukaay", "Dencukaay"], |
| | "wuu": ["文件", "档案", "图像", "媒体"], |
| | "xal": ["Аһар", "Боомг", "Изображение", "Зург"], |
| | "xmf": ["მედია", "სურათი", "ფაილი"], |
| | "yi": ["מעדיע", "תמונה", "טעקע", "בילד"], |
| | "yo": ["Fáìlì", "Amóhùnmáwòrán", "Àwòrán"], |
| | "za": ["媒体文件", "文件", "档案", "图像", "媒体"], |
| | "zea": ["Afbeelding", "Plaetje"], |
| | "zh": ["媒体文件", "F", "文件", "媒體", "档案", "图像", "圖像", "媒体", "檔案"], |
| | "zh-classical": ["文件", "媒體", "圖像", "檔案"], |
| | "zh-min-nan": ["tóng-àn", "文件", "媒體", "Mûi-thé", "圖像", "檔案"], |
| | "zh-yue": ["檔", "档", "文件", "图", "媒體", "圖", "档案", "图像", "圖像", "媒体", "檔案"], |
| | } |
| |
|
| | |
| | |
| | CAT_ALIASES = { |
| | "ab": ["Категория", "Акатегориа"], |
| | "ace": ["Kawan", "Kategori"], |
| | "af": ["Kategorie"], |
| | "ak": ["Nkyekyem"], |
| | "als": ["Kategorie"], |
| | "am": ["መደብ"], |
| | "an": ["Categoría"], |
| | "ang": ["Flocc"], |
| | "ar": ["تصنيف"], |
| | "arc": ["ܣܕܪܐ"], |
| | "arz": ["تصنيف"], |
| | "as": ["CAT", "শ্ৰেণী", "श्रेणी", "শ্রেণী"], |
| | "ast": ["Categoría"], |
| | "atj": ["Tipanictawin"], |
| | "av": ["Категория"], |
| | "ay": ["Categoría"], |
| | "az": ["Kateqoriya"], |
| | "azb": ["بؤلمه"], |
| | "ba": ["Төркөм", "Категория"], |
| | "bar": ["Kategorie"], |
| | "bat-smg": ["Kategorija", "Kateguorėjė"], |
| | "bcl": ["Kategorya"], |
| | "be": ["Катэгорыя"], |
| | "be-x-old": ["Катэгорыя"], |
| | "bg": ["Категория"], |
| | "bh": ["श्रेणी"], |
| | "bjn": ["Tumbung", "Kategori"], |
| | "bm": ["Catégorie"], |
| | "bn": ["বিষয়শ্রেণী", "വിഭാഗം"], |
| | "bpy": ["থাক"], |
| | "br": ["Rummad"], |
| | "bs": ["Kategorija"], |
| | "bug": ["Kategori"], |
| | "bxr": ["Категори", "Категория"], |
| | "ca": ["Categoria"], |
| | "cbk-zam": ["Categoría"], |
| | "cdo": ["分類"], |
| | "ce": ["Категори", "Тоба", "Кадегар"], |
| | "ceb": ["Kategoriya"], |
| | "ch": ["Katigoria"], |
| | "ckb": ["پ", "پۆل"], |
| | "co": ["Categoria"], |
| | "crh": ["Категория", "Kategoriya"], |
| | "cs": ["Kategorie"], |
| | "csb": ["Kategòrëjô"], |
| | "cu": ["Катигорї", "Категория", "Катигорїꙗ"], |
| | "cv": ["Категори"], |
| | "cy": ["Categori"], |
| | "da": ["Kategori"], |
| | "de": ["Kategorie"], |
| | "din": ["Bekätakthook"], |
| | "diq": ["Kategoriye", "Kategori"], |
| | "dsb": ["Kategorija"], |
| | "dty": ["श्रेणी"], |
| | "dv": ["ޤިސްމު"], |
| | "el": ["Κατηγορία"], |
| | "eml": ["Categoria"], |
| | "eo": ["Kategorio"], |
| | "es": ["CAT", "Categoría"], |
| | "et": ["Kategooria"], |
| | "eu": ["Kategoria"], |
| | "ext": ["Categoría", "Categoria"], |
| | "fa": ["رده"], |
| | "ff": ["Catégorie"], |
| | "fi": ["Luokka"], |
| | "fiu-vro": ["Katõgooria"], |
| | "fo": ["Bólkur"], |
| | "fr": ["Catégorie"], |
| | "frp": ["Catègorie"], |
| | "frr": ["Kategorie"], |
| | "fur": ["Categorie"], |
| | "fy": ["Kategory"], |
| | "ga": ["Rang", "Catagóir"], |
| | "gag": ["Kategori", "Kategoriya"], |
| | "gan": ["分類", "分类"], |
| | "gd": ["Roinn-seòrsa"], |
| | "gl": ["Categoría"], |
| | "glk": ["جرگه", "رده"], |
| | "gn": ["Ñemohenda"], |
| | "gom": ["वर्ग", "श्रेणी"], |
| | "gor": ["Dalala"], |
| | "got": ["𐌷𐌰𐌽𐍃𐌰"], |
| | "gu": ["શ્રેણી", "CAT", "શ્રે"], |
| | "gv": ["Ronney"], |
| | "hak": ["分類"], |
| | "haw": ["Māhele"], |
| | "he": ["קטגוריה", "קט"], |
| | "hi": ["श्र", "श्रेणी"], |
| | "hif": ["vibhag"], |
| | "hr": ["CT", "KT", "Kategorija"], |
| | "hsb": ["Kategorija"], |
| | "ht": ["Kategori"], |
| | "hu": ["Kategória"], |
| | "hy": ["Կատեգորիա"], |
| | "ia": ["Categoria"], |
| | "id": ["Kategori"], |
| | "ie": ["Categorie"], |
| | "ig": ["Ébéonọr", "Òtù"], |
| | "ii": ["分类"], |
| | "ilo": ["Kategoria"], |
| | "inh": ["ОагӀат"], |
| | "io": ["Kategorio"], |
| | "is": ["Flokkur"], |
| | "it": ["CAT", "Categoria"], |
| | "ja": ["カテゴリ"], |
| | "jbo": ["klesi"], |
| | "jv": ["Kategori"], |
| | "ka": ["კატეგორია"], |
| | "kaa": ["Sanat", "Kategoriya", "Санат", "سانات"], |
| | "kab": ["Taggayt"], |
| | "kbd": ["Категория", "Категориэ"], |
| | "kbp": ["Catégorie"], |
| | "kg": ["Kalasi"], |
| | "kk": ["Sanat", "Санат", "سانات"], |
| | "kl": ["Sumut_atassuseq", "Kategori", "Sumut atassuseq"], |
| | "km": ["ចំនាត់ថ្នាក់ក្រុម", "ចំណាត់ក្រុម", "ចំណាត់ថ្នាក់ក្រុម"], |
| | "kn": ["ವರ್ಗ"], |
| | "ko": ["분류"], |
| | "koi": ["Категория"], |
| | "krc": ["Категория"], |
| | "ks": ["زٲژ"], |
| | "ksh": ["Saachjropp", "Saachjrop", "Katejori", "Kategorie", "Saachjrupp", "Kattejori", "Sachjrop"], |
| | "ku": ["Kategorî", "پۆل"], |
| | "kv": ["Категория"], |
| | "kw": ["Class", "Klass"], |
| | "ky": ["Категория"], |
| | "la": ["Categoria"], |
| | "lad": ["Kateggoría", "Katēggoría", "Categoría"], |
| | "lb": ["Kategorie"], |
| | "lbe": ["Категория"], |
| | "lez": ["Категория"], |
| | "lfn": ["Categoria"], |
| | "li": ["Categorie", "Kategorie"], |
| | "lij": ["Categorîa", "Categoria"], |
| | "lmo": ["Categuria", "Categoria"], |
| | "ln": ["Catégorie"], |
| | "lo": ["ໝວດ"], |
| | "lrc": ["دأسە"], |
| | "lt": ["Kategorija"], |
| | "ltg": ["Kategoreja"], |
| | "lv": ["Kategorija"], |
| | "mai": ["CA", "श्रेणी"], |
| | "map-bms": ["Kategori"], |
| | "mdf": ["Категорие", "Категория"], |
| | "mg": ["Sokajy", "Catégorie"], |
| | "mhr": ["Категория", "Категорий"], |
| | "min": ["Kategori"], |
| | "mk": ["Категорија"], |
| | "ml": ["വിഭാഗം", "വി", "വർഗ്ഗം", "വ"], |
| | "mn": ["Ангилал"], |
| | "mr": ["वर्ग"], |
| | "mrj": ["Категори", "Категория"], |
| | "ms": ["Kategori"], |
| | "mt": ["Kategorija"], |
| | "mwl": ["Catadorie", "Categoria"], |
| | "my": ["ကဏ္ဍ"], |
| | "myv": ["Категория"], |
| | "mzn": ["رج", "رده"], |
| | "nah": ["Neneuhcāyōtl", "Categoría"], |
| | "nap": ["Categurìa", "Categoria"], |
| | "nds": ["Kategorie"], |
| | "nds-nl": ["Categorie", "Kattegerie", "Kategorie"], |
| | "ne": ["श्रेणी"], |
| | "new": ["पुचः"], |
| | "nl": ["Categorie"], |
| | "nn": ["Kategori"], |
| | "no": ["Kategori"], |
| | "nrm": ["Catégorie"], |
| | "nso": ["Setensele"], |
| | "nv": ["Tʼááłáhági_átʼéego", "Tʼááłáhági átʼéego"], |
| | "oc": ["Categoria"], |
| | "olo": ["Kategourii"], |
| | "or": ["ବିଭାଗ", "ଶ୍ରେଣୀ"], |
| | "os": ["Категори"], |
| | "pa": ["ਸ਼੍ਰੇਣੀ"], |
| | "pcd": ["Catégorie"], |
| | "pdc": ["Abdeeling", "Kategorie"], |
| | "pfl": ["Kadegorie", "Sachgrubb", "Kategorie"], |
| | "pi": ["विभाग"], |
| | "pl": ["Kategoria"], |
| | "pms": ["Categorìa"], |
| | "pnb": ["گٹھ"], |
| | "pnt": ["Κατηγορίαν"], |
| | "ps": ["وېشنيزه"], |
| | "pt": ["Categoria"], |
| | "qu": ["Katiguriya"], |
| | "rm": ["Categoria"], |
| | "rmy": ["Shopni"], |
| | "ro": ["Categorie"], |
| | "roa-rup": ["Categorie"], |
| | "roa-tara": ["Categoria"], |
| | "ru": ["Категория", "К"], |
| | "rue": ["Категория", "Катеґорія"], |
| | "rw": ["Ikiciro"], |
| | "sa": ["वर्गः"], |
| | "sah": ["Категория"], |
| | "sat": ["ᱛᱷᱚᱠ"], |
| | "sc": ["Categoria"], |
| | "scn": ["Catigurìa"], |
| | "sd": ["زمرو"], |
| | "se": ["Kategoriija"], |
| | "sg": ["Catégorie"], |
| | "sh": ["Kategorija", "Категорија"], |
| | "si": ["ප්රවර්ගය"], |
| | "sk": ["Kategória"], |
| | "sl": ["Kategorija"], |
| | "sq": ["Kategoria", "Kategori"], |
| | "sr": ["Kategorija", "Категорија"], |
| | "srn": ["Categorie", "Guru"], |
| | "stq": ["Kategorie"], |
| | "su": ["Kategori"], |
| | "sv": ["Kategori"], |
| | "sw": ["Jamii"], |
| | "szl": ["Kategoryjo", "Kategoria"], |
| | "ta": ["பகுப்பு"], |
| | "tcy": ["ವರ್ಗೊ"], |
| | "te": ["వర్గం"], |
| | "tet": ["Kategoría", "Kategoria"], |
| | "tg": ["Гурӯҳ"], |
| | "th": ["หมวดหมู่"], |
| | "ti": ["መደብ"], |
| | "tk": ["Kategoriýa"], |
| | "tl": ["Kategorya", "Kaurian"], |
| | "tpi": ["Grup"], |
| | "tr": ["Kategori", "KAT"], |
| | "tt": ["Төркем", "Törkem", "Категория"], |
| | "ty": ["Catégorie"], |
| | "tyv": ["Аңгылал", "Категория"], |
| | "udm": ["Категория"], |
| | "ug": ["تۈر"], |
| | "uk": ["Категория", "Категорія"], |
| | "ur": ["زمرہ"], |
| | "uz": ["Turkum", "Kategoriya"], |
| | "vec": ["Categoria"], |
| | "vep": ["Kategorii"], |
| | "vi": ["Thể_loại", "Thể loại"], |
| | "vls": ["Categorie"], |
| | "vo": ["Klad"], |
| | "wa": ["Categoreye"], |
| | "war": ["Kaarangay"], |
| | "wo": ["Wàll", "Catégorie"], |
| | "wuu": ["分类"], |
| | "xal": ["Янз", "Әәшл"], |
| | "xmf": ["კატეგორია"], |
| | "yi": ["קאטעגאריע", "קאַטעגאָריע"], |
| | "yo": ["Ẹ̀ka"], |
| | "za": ["分类"], |
| | "zea": ["Categorie"], |
| | "zh": ["分类", "分類", "CAT"], |
| | "zh-classical": ["分類", "CAT"], |
| | "zh-min-nan": ["分類", "Lūi-pia̍t"], |
| | "zh-yue": ["分类", "分類", "类", "類"], |
| | } |
| |
|
| | _BASE_URL_TMPL = "https://dumps.wikimedia.org/{lang}wiki/{date}/" |
| | _INFO_FILE = "dumpstatus.json" |
| |
|
| |
|
| | _VERSION = datasets.Version("2.0.0", "") |
| |
|
| |
|
| | class WikipediaConfig(datasets.BuilderConfig): |
| | """BuilderConfig for Wikipedia.""" |
| |
|
| | def __init__(self, language=None, date=None, version=_VERSION, **kwargs): |
| | """BuilderConfig for Wikipedia. |
| | |
| | Args: |
| | language: string, the language code for the Wikipedia dump to use. |
| | date: string, date of the Wikipedia dump in YYYYMMDD format. A list of |
| | available dates can be found at https://dumps.wikimedia.org/enwiki/. |
| | **kwargs: keyword arguments forwarded to super. |
| | """ |
| | super().__init__( |
| | name=f"{date}.{language}", |
| | description=f"Wikipedia dataset for {language}, parsed from {date} dump.", |
| | version=version, |
| | **kwargs, |
| | ) |
| | self.date = date |
| | self.language = language |
| |
|
| |
|
| | _DATE = "20240101" |
| | _COMPLETE = 1 |
| |
|
| | class Wikipedia(datasets.GeneratorBasedBuilder): |
| | """Wikipedia dataset.""" |
| |
|
| | |
| | BUILDER_CONFIG_CLASS = WikipediaConfig |
| | BUILDER_CONFIGS = [ |
| | WikipediaConfig( |
| | language=lang, |
| | date=_DATE, |
| | ) |
| | for lang in WIKIPEDIA_LANGUAGES |
| | ] |
| |
|
| | def _info(self): |
| | return datasets.DatasetInfo( |
| | description=_DESCRIPTION, |
| | features=datasets.Features( |
| | { |
| | "id": datasets.Value("string"), |
| | "url": datasets.Value("string"), |
| | "title": datasets.Value("string"), |
| | "text": datasets.Value("string"), |
| | } |
| | ), |
| | |
| | supervised_keys=None, |
| | homepage="https://dumps.wikimedia.org", |
| | citation=_CITATION, |
| | ) |
| |
|
| | def _split_generators(self, dl_manager): |
| | def _base_url(lang): |
| | return _BASE_URL_TMPL.format(lang=lang.replace("-", "_"), date=self.config.date) |
| |
|
| | lang = self.config.language |
| |
|
| | info_url = _base_url(lang) + _INFO_FILE |
| | |
| | downloaded_files = dl_manager.download_and_extract({"info": info_url}) |
| |
|
| | xml_urls = [] |
| | total_bytes = 0 |
| | with open(downloaded_files["info"], encoding="utf-8") as f: |
| | dump_info = json.load(f) |
| | multistream_dump_info = dump_info["jobs"]["articlesmultistreamdump"] |
| | assert ( |
| | multistream_dump_info["status"] == "done" |
| | ), "Specified dump (%s) multistream status is not 'done': %s" % ( |
| | _base_url(lang), |
| | multistream_dump_info["status"], |
| | ) |
| |
|
| | for fname, info in multistream_dump_info["files"].items(): |
| | if ".xml" not in fname: |
| | continue |
| | total_bytes += info["size"] |
| | xml_urls.append(_base_url(lang) + fname) |
| |
|
| | |
| |
|
| | |
| | downloaded_files = dl_manager.download({"xml": xml_urls}) |
| |
|
| | return [ |
| | datasets.SplitGenerator( |
| | name=datasets.Split.TRAIN, gen_kwargs={"filepaths": downloaded_files["xml"], "language": lang} |
| | ) |
| | ] |
| |
|
| | def _generate_examples(self, filepaths, language, no_labels=False): |
| |
|
| |
|
| | def _extract_content(filepath): |
| | """Extracts article content from a single WikiMedia XML file.""" |
| | logger.info("generating examples from = %s", filepath) |
| | f = bz2.BZ2File(filename=filepath) |
| | |
| | utf_f = codecs.getreader("utf-8")(f) |
| | context = etree.iterparse(utf_f, events=("end",)) |
| | for unused_event, elem in context: |
| | if not elem.tag.endswith("page"): |
| | continue |
| |
|
| | namespace = elem.tag[:-4] |
| | title = elem.find(f"./{namespace}title").text |
| | ns = elem.find(f"./{namespace}ns").text |
| | id_ = elem.find(f"./{namespace}id").text |
| | red_ = elem.find(f"./{namespace}redirect") |
| |
|
| | |
| | if ns != "0": |
| | elem.clear() |
| | continue |
| |
|
| | raw_content = elem.find(f"./{namespace}revision/{namespace}text").text |
| | elem.clear() |
| |
|
| | |
| | if raw_content is None or red_ is not None: |
| | continue |
| |
|
| | yield (id_, title, raw_content) |
| |
|
| | def _clean_content(inputs, language): |
| | """Cleans raw wikicode to extract text.""" |
| | id_, title, raw_content = inputs |
| | try: |
| | text = _parse_and_clean_wikicode(raw_content, parser=mwparserfromhell, language=language) |
| | except (mwparserfromhell.parser.ParserError) as e: |
| | logger.error("mwparserfromhell ParseError: %s", e) |
| | return |
| |
|
| | if not text: |
| | return |
| |
|
| | url = _construct_url(title, language) |
| |
|
| | return id_, {"id": id_, "url": url, "title": title, "text": text} |
| |
|
| | |
| | inputs, outputs = Queue(), Queue(30000) |
| |
|
| | def execute(inputs, outputs): |
| | try: |
| | |
| | while not inputs.empty(): |
| | batch, filepath = [], inputs.get() |
| | for obj in _extract_content(filepath): |
| | batch.append(_clean_content(obj, language=language)) |
| | if len(batch) == 1024: |
| | outputs.put(batch) |
| | batch = [] |
| |
|
| | if batch: |
| | outputs.put(batch) |
| |
|
| | finally: |
| | |
| | outputs.put(_COMPLETE) |
| |
|
| | for filepath in filepaths: |
| | inputs.put(filepath) |
| |
|
| | |
| | processes = [] |
| | for _ in range(min(len(filepaths), os.cpu_count())): |
| | process = Process(target=execute, args=(inputs, outputs)) |
| | process.start() |
| | processes.append(process) |
| |
|
| | |
| | empty, complete = False, 0 |
| | while not empty: |
| | |
| | result = outputs.get() |
| |
|
| | |
| | if result == _COMPLETE: |
| | complete += 1 |
| | empty = len(processes) == complete and outputs.empty() |
| |
|
| | elif result: |
| | for r in result: |
| | if r is not None: |
| | yield r |
| |
|
| | for process in processes: |
| | process.join() |
| |
|
| | def _parse_and_clean_wikicode(raw_content, parser, language): |
| | """Strips formatting and unwanted sections from raw page content.""" |
| | wikicode = parser.parse(raw_content) |
| |
|
| | |
| | re_rm_magic = re.compile("__[A-Z]*__", flags=re.UNICODE) |
| |
|
| | |
| | media_prefixes = "|".join(["File", "Image", "Media"] + MEDIA_ALIASES.get(language, [])) |
| | re_rm_wikilink = re.compile(f"^(?:{media_prefixes}):", flags=re.IGNORECASE | re.UNICODE) |
| |
|
| | def rm_wikilink(obj): |
| | return bool(re_rm_wikilink.match(str(obj.title))) |
| |
|
| | |
| | def rm_tag(obj): |
| | return str(obj.tag) in {"ref", "table"} |
| |
|
| | |
| | cat_prefixes = "|".join(["Category"] + CAT_ALIASES.get(language, [])) |
| | re_clean_wikilink = re.compile(f"^(?:{cat_prefixes}):", flags=re.IGNORECASE | re.UNICODE) |
| |
|
| | def is_category(obj): |
| | return bool(re_clean_wikilink.match(str(obj.title))) |
| |
|
| | def clean_wikilink(obj): |
| | text = obj.__strip__() |
| | text = re.sub(re_clean_wikilink, "", text) |
| | obj.text = text |
| |
|
| | def try_replace_obj(obj): |
| | try: |
| | clean_wikilink(obj) |
| | except ValueError: |
| | |
| | pass |
| |
|
| | def try_remove_obj(obj, section): |
| | try: |
| | section.remove(obj) |
| | except ValueError: |
| | |
| | pass |
| |
|
| | section_text = [] |
| | |
| | for section in wikicode.get_sections(flat=True, include_lead=True, include_headings=True): |
| | for obj in section.ifilter_wikilinks(recursive=True): |
| | if rm_wikilink(obj): |
| | try_remove_obj(obj, section) |
| | elif is_category(obj): |
| | try_replace_obj(obj) |
| | for obj in section.ifilter_tags(matches=rm_tag, recursive=True): |
| | try_remove_obj(obj, section) |
| |
|
| | section_text.append(re.sub(re_rm_magic, "", section.strip_code().strip())) |
| | return "\n\n".join(section_text) |
| |
|
| |
|
| | def _construct_url(title, language): |
| | |
| | return f"https://{language}.wikipedia.org/wiki/{quote(title)}" |
| |
|
