Hugging Face's logo

Datasets:
datasets-CNRS
/
wikidisc

Languages:
French
License:
Dataset card Files
xet
Community
wikidisc / data /wikiDisc2018 /dump2wikiDisc_v2018.pl
de-francophones's picture
de-francophones
Upload 55 files
96c15a7 verified
raw
history blame contribute delete
77.5 kB
 # Date de création : Avril 2014
#dernière modification : 10 dec 2018
# Fonction : Récupération du contenu des pages de discussions de WP et encodage selon la norme TEI-P5
# Entrée
#Archive ou Fichier xml concaténant les frwiki-20140331-pages-meta-current#.xml.bz2 téléchargés depuis http://dumps.wikimedia.org/frwiki/20140331/
#et en argument 1 le fichier listIdno.csv contenant la table de correspondance entre les id des discussions et des articles et les portails thématiques associés
#ce fichier est généré par les scritpts :
# Sortie :
#1) fichiers NOMDISCUSSION.xml normé TEI-P5 contenant chacun une discussion wiki. Générés dans un dossier "discussions"
#2) tableCompte.csv : récapitulatif qui donne pour chaque discussion son identifiant, le nom de la discussion, le nombre de section (<div>), de messages (<sp>), de mots, de contributeurs différents, de messages associés à des anonymes.
#3) tableAuteurs.csv : récp. qui donne l'id de la discussion, le nom de tous les contributeurs et le nb de message produit par lui
#commande : perl dump2WikiDisc_version.pl fichierDump.bz2 ou fichierTest.xml (t.q. téléchargé sur l'espace wikipedia)
#nouveauté V4 :
#lancer préalablement la détection des portails associés aux articles concernés ainsi que les mentions d'appel au calme et de neutralité
#ajouter les portails associés à l'article (11 portails)
#selon les infos extraites de la table idnoPerBigCat
#catPortal = etree.SubElement(section, 'category')
#catPortal.set('type','portals')
#pour chaque portail associé à l'article, créer un élément catDesc
#for in :
#catDescPortal = etree.SubElement(catPortal, 'catDesc')
#catDescPortal.text = "geographie"
#ajouter le type de page de discussion (principale ou parallèle, sur la suppression, sur la neutralité, etc.)
# les informations de portail et catégories propres à Wikipedia sont désormais indiquées avec l'élément <textClass> et les éléments <classCode> intégrés dans l'élément <profilDesc>
#
#<textClass>
# <classCode scheme="https://en.wikipedia.org/wiki/Portal:Contents/Categories">
# <ref target="https://de.wikipedia.org/wiki/Kategorie%3AFiktive_Person" targOrder="u">Smithee, Alan</ref>
# <ref target="https://de.wikipedia.org/wiki/Kategorie%3APseudonym" targOrder="u">Kategorie:Pseudonym</ref>
# <ref target="https://de.wikipedia.org/wiki/Kategorie%3ASammelpseudonym" targOrder="u">Smithee, Alan</ref>
# <ref target="https://de.wikipedia.org/wiki/Kategorie%3AWerk_von_Alan_Smithee" targOrder="u">Kategorie:Werk von Alan Smithee</ref>
# </classCode>
#</textClass>
#norme :
#les <TEI> sont divisées en <teiHeader> contenant les méta-données et en <text> contenant les discussions à proprement parlé
#le <text> est divisé en <div id=""> correspondant aux sujets de discussion dont le topic (facultatif) est indiqué en <head>
#les <div xml:id=""> sont divisées en <post xml:id="" who="" bot="" when="" indentLevel=""> correspondant aux messages (indication bot="" supprimé dans la v6 du script):
#post (TEI-P5 - CMC)
#dont l'attribut "who" indique l'utilisateur, "bot" indique si l'auteur est un robot tel que référencé dans les listes de bots actifs de Wikipedia, "when" la date de publication du message et "indentLevel" le niveau d'interaction (niveau 1 = réponse au précédent message de niveau 0)
#les <post> comportent des éléments <p> correspondant au découpage en paragraphe ou des éléments <list> contenant à leur tour des <item>
#les <p> et <item> comportent du texte et
#nouveau v4
#un élément <signed> si le post a été signé avec les éléments <ref target=""> (l'attribut target pointe vers la page utilisateur de l'auteur) et <date>
#V5 :
#commande : perl ../../../TOOLS/scripts/wikiDisc/dump2wikiDisc_v5_juin2018.pl metadata_2018.csv frwiki-20180101-pages-meta-current.xml.bz2
# 408120 discussions, 1138932 sections, 2915418 messages et 191669594 mots
#Job took 38402 seconds
#ou fini pour 408120 pages 1143357 fils 4833637 posts (selon le script statMetadata)
#Nouvelle option : reprendre l'extraction à un ID de page :
#commande : perl ../../../TOOLS/scripts/wikiDisc/dump2wikiDisc_v5_juin2018.pl metadata_2018.csv frwiki-20180101-pages-meta-current.xml.bz2 $id
#où $id = l'id de la dernière page (t.q. dans le wikiCode) déjà extraite et après laquelle on veut reprendre l'extraction
#traitement des ClassDecl (travail stage CORLI - Anoulk Birski)
#suppression des para, post et div vides
#création d'un journal (log) :
#grep -c "no content (" logwikiDisc1531070975.txt
#1234988
#grep -c "redirect" logwikiDisc1531070975.txt
#28021
#posts that were integrated in the teiHeader in the v4 : grep -c "new Post" logwikiDisc1531070975.txt
#50713
#grep -c "new trad" logwikiDisc1531070975.txt
#107162
#div Deleted : grep -c "div" logwikiDisc1531070975.txt
#107099
# 920 new archive
# 7100 new articleAssessment
# 45399 new articleChantier
# 1332 new copy
# 34444 new front
# 28163 new keepOrsuppr
# 4527 new post
# 50713 new Post
# 2195 new problem
# 3046 new projet
# 107162 new trad
# 310 new WPisNot
#plus 21 new 'other stuff'
#nouveauté V6 :
#grade plutôt que rate
#la notion d'harassment dans les méta-données est trop forte et erronée. Ce n'est pas car il y a appel au calme qu'il y a agression/ Indiquer plus warning et relier à la catégorie "problem" du coup
#Détecter es cé in post -> Conflit d'édition (cf. Race humaine, 333612.xml)
#ex : {{cé}}
#et les emo :
#{{clin}}, {{^^}}, {{lol}}
#les {{}} indique l'utilisation d'un modèle : https://fr.wikipedia.org/wiki/Aide:Mod%C3%A8le
#https://fr.wikipedia.org/wiki/Aide:Liste_de_mod%C3%A8les
#u|XXX lorsqu'il y a une adresse explicite à un utilisateur (pour la détection des reply to)
#fichier de test : Race humaine (333612.xml) et Corée du Nord (33521.xml)
#ex : {{u|Totodu74}} https://fr.wikipedia.org/wiki/Mod%C3%A8le:U/simple
#> <name type="wikiUser" subtype="u">Totodi74</name>
#notif|XXX lorsqu'il y a une adresse explicite à un utilisateur (pour la détection des reply to)
#https://fr.wikipedia.org/wiki/Mod%C3%A8le:Notif_discret (voir les liens vers les modèles bonjour, bonsoir, etc..
#ex : {{notif|Jean trans h+}}
#> <name type="wikiUser" subtype="notif">Totodi74</name>
#ou encore
#{{bonjour|Dereckson}} bonsoir, merci
#> <name type="wikiUser" subtype="bonjour">Totodi74</name>
#A traiter dans les versions futures
#Exemples pris de la discussion 333612 (Race humaine)
#rajouter unsigned (who="unsigned")
#{{non signé|ip=oui|[Agaccen]}}
#{{non signé| 134.191.220.73}}
#{{non signé|Michael Comte}}
#{{non signé|A.v.i.o.n|28 novembre 2015 à 11:27‎}}
#{{non signé|82.236.210.11|1 octobre 2012 à 00:09‎ (CEST)|ip=oui}}
#{{non signé2|11 août 2015 à 18:20‎|83.196.101.128|ip=oui}}
#[Ce message, non signé, a été déposé par {{u|134.191.220.73}}]
#en plain text :
#Cette intervention, non signée, a été déposée par l'IP [[Spécial:Contributions/92.131.116.236| 92.131.116.236]].
#cas où la citation est sur une ligne avec }} fermants -> output "citation|~~~"
#{{citation|<nowiki>~~~~</nowiki>}}
#<q>~~~~</q>
#gestion des notes
#{{incise|c'est-à-dire qu'on ne sait pas nous fournir une définition rigoureuse de la race qu'utiliserait les scientifiques}}
#<note type="gloss">xxx</note>
#mai@mai-5590:/media/mai/newhome/CORPUS/wikiDiscussion/wikiDisc_v6$ perl ../../../TOOLS/scripts/wikiDisc/dump2wikiDisc_v6_dec2018.pl ../wikiDisc2018/metadata_2018.csv ../frwiki-20181020-pages-meta-current.xml.bz2
#Fin de Traitement pour
# 439638 discussions, 1243676 sections, 3145943 messages et 213286460 mots
#Job took 34084 seconds (< 10h)
#Rajouter la liste des participants (lors de la suppression des div et post vides)
#Citations sur plusieurs lignes pour l'instant non traitées
#{{Citation bloc|
#On distingue trois races humaines :
#* la ''race noire'' (descendants de Cham) peupla l'Afrique, où elle végète encore;
#* la ''race jaune'' (descendants de Sem) se développa dans l'Asie orientale, et les Chinois, ses plus nombreux représentants, gens d'esprit positif, adonnés aux arts utiles, mais peu soucieux d'idéal, ont atteint une civilisation relative où ils se sont depuis longtemps immobilisés;
#* la ''race blanche'' qu'il nous importe spécialement de connaître, a dominé et domine encore le monde.}}
#cas où la citation est sur plusiers lignes sans le }} fermants sur la ligne de début -> output rien
#{{Citation|Les races existent donc, mais le reconnaître officiellement, pour quelqu’un dans une position prestigieuse ou au contact du grand public, conduit à se faire traiter de « raciste » et à sacrifier sa carrière. Le nier emphatiquement est un moyen sûr et peu coûteux de décrocher une promotion prestigieuse, des contrats juteux ou la Légion d’Honneur. Voire les trois à la fois…
#
#Henri Larcher}}
use strict;
use locale;
use utf8;
use XML::Writer;
use XML::Twig;
#Si on s'est arrêté en cours et qu'on veut reprendre, la variable stop doit avoir la valeur de l'id de la dernière discussion traitée. Cet id est indiqué dans le 3e argument (facultatif) du script. Sinon, $stop = 0
my $stop = 0;
if ($ARGV[2]){
$stop = $ARGV[2];
print "\nReprendre l'extraction à partir de la discussion id : $ARGV[2]";
}
else{
print "\nExtraction de toutes les discussions";
}
#~ Variables générales
my $signedTags = 1; #=1 pour baliser les signatures et la date de parution dans le message (encore quelques bugs -- 12 avril 2016)
my $ligne;
my $etat = "nul";
#~ Variables relatives aux pages
my $topic;
my $idPage = "";
#~ Variables relatives aux discussions
my $titreDiscu;
my $article;
my $subTyp;
my $traduction = "";
my $projetWP1 = 0;
my $front = "";
my $avertissement = "Some paragraphs of this post may be lacking because of an error during the automatic extraction processing. It is likely that only the last paragraph of the post have been extracted. Please check the original wikicode."; #reste du code d'Anouk Birski (stage CORLI pour la finalisation du corpus WikiDisc) N'est plus utilisé dans la V5
my $file;
#~ Variables relatives aux messages
my $msg="";
my $idMsg = 0;
my $idMsg_dsFil = 0;
my $idDiv = 0;
my $nbMots = 0;
my $profMax = 1;
my $levelDiv = 0;
my $DiscTot = 0;
my $DivTot = 0;
my $MsgTot = 0;
my $MotTot = 0;
my $statut="";
my $MemStatut="";
my $utilisateur="";
my @auteurs;
my $date="";
my $nomsg = 0;
my $msgAnteDate = 0;
my $msgNoDate = 0;
my $msgBadUser = 0;
my $msgNoUser = 0;
my %freq;
$freq{"unsigned"} = 0;
$freq{"anonyme"} = 0;
$freq{"bot"} = 0;
my $outie;
my $metadataFile = $ARGV[0];
my $archive = $ARGV[1];
my $dumpDate = $archive;
if ($dumpDate =~ /frwiki\-([0-9][0-9][0-9][0-9])([0-9][0-9])([0-9][0-9])\-pages\-meta\-current/){
$dumpDate = $1."-".$2."-".$3;
}
#$dir =~ s/\.xml$//;
my $start_run = time();
my $dir = "wikiDisc".$start_run;
`mkdir $dir`;
open (tableCompte, ">tableCompte\_$dir.csv");
binmode(tableCompte, "utf8");
open (tableAuteurs, ">tableAuteurs\_$dir.csv");
binmode(tableAuteurs, "utf8");
#print tableCompte "idno\ttitre\tnbFils\tnbPosts\tnbMots\tprofMax\tnbContributeurs\tnbAnonymes\t\%anonymes\tnbBots\t\%bots\tsubTyp\tarticle\n";
#new V5
print tableCompte "idno\ttitre\tnbFils\tnbPosts\tnbMots\tprofMax\tnbContributeurs\tnbAnonymes\t\%anonymes\tnbBots\t\%bots\tnbUnsigned\t\%unsigned\tsubTyp\tarticle\tgrade\tart\tgeographie\thistoire\tloisirs\tmedecine\tpolitique\treligion\tsciences\tsociete\tsport\ttechno\ttraduction\tharassment\tarticleChantier\tarticleAssessment\tproblem\tarch\tkeepOrsuppr\tcopy\tWPisNot\tprojet\tWP1project\n";
print tableAuteurs "idno\tauteur\tnbMsg\n";
open (STDOUT, "| tee -ai log$dir.txt");#permet d'imprimer dans le shell et dans un fichier log simultanément
binmode(STDOUT, "utf8");
my %bots;
open (BOTS, "<listNomsBots.txt") or open (BOTS, "<../listNomsBots.txt") or die "listNomsBots.txt not found";
while (my $bot = <BOTS>) {
chomp $bot;
$bots{$bot}="actif";
}
close (BOTS);
open (BOTS, "<listNomsBotsRetraites.txt") or open (BOTS, "<../listNomsBotsRetraites.txt") or die "listNomsBotsRetraites.txt not found";
while (my $bot = <BOTS>) {
chomp $bot;
$bots{$bot}="retraite";
}
close (BOTS);
my %metas;
my $grade = "na";
my $art = my $geo = my $hist = my $loisirs = my $med = my $politique = my $religion = my $sciences = my $societe = my $sport = my $techno = 0;
my $trad = my $harassment = my $articleChantier = my $articleAssessment = my $problem = my $arch = my $keepOrsuppr = my $copy = my $WPisNot = my $projet = 0;
print "\nchargement des informations des portails";
open (META, "<$metadataFile") or die "$metadataFile not found";
while (my $meta = <META>) {
my $catArt;
chomp $meta;
my @tmp = split("\t",$meta);
if ($tmp[5]>0){
$catArt=$catArt."art,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[6]>0){
$catArt=$catArt."geographie,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[7]>0){
$catArt=$catArt."histoire,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[8]>0){
$catArt=$catArt."loisirs,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[9]>0){
$catArt=$catArt."medecine,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[10]>0){
$catArt=$catArt."politique,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[11]>0){
$catArt=$catArt."religion,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[12]>0){
$catArt=$catArt."sciences,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[13]>0){
$catArt=$catArt."societe,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[14]>0){
$catArt=$catArt."sport,";
}
else {
$catArt=$catArt.",";
}
if ($tmp[15]>0){
$catArt=$catArt."techno,";
}
else {
$catArt=$catArt.",";
}
$metas{$tmp[0]}=$catArt;
}
close (META);
if ($archive =~ /\.xml$/){
open (DUMP, "<$archive") or die "$archive not found";
}
elsif($archive =~ /\.bz2$/){
open (DUMP, "bzcat $archive |") or die "Pb ouverture de $archive\n";
}
print "\nlecture du dump";
binmode(DUMP, "utf8");
while ($ligne = <DUMP>) {
chomp $ligne;
$ligne =~ s/\r//g; #Suppression des retours charriots
#~ PHASE 1: Récupération des infos de la page (titre, identifiant, catégories et état d'avancement).
#~ Fin de page -> fin de TEI (si Discussion en cours) -> fermeture du fichier xml
if ($etat eq "redirect" or ($ligne =~ /<\/page>/ && $etat ne "nul")){
if ($etat ne "redirect" and $idPage > $stop){
&printMsg;
until (my $e = $outie->current_element eq "TEI"){
$outie->endTag($e);
}
$outie->endTag("TEI");
$outie->end( );
close(outXML);
if ($nbMots > 1 && $idMsg > 0){ #si il y a moins de 2 mots contenus dans les messages de la discussion, le fichier généré sera écrasé
#NEW V5
#indenter avec XML::Twig (et non xmllint) et virer les div et post vides
open( my $out, '>out.xml');
my $twig = XML::Twig->parse(pretty_print => 'indented', keep_encoding => "true", "outTemp.xml");
my @listDiv = $twig->descendants('div');
foreach my $section (@listDiv){
my @listPost = $section->descendants('post');
my $textInAll = "";
foreach my $post (@listPost){
my @listInPost = $post->descendants();
my $textIn = "";
foreach my $inPost (@listInPost){
my $textInTmp = $inPost->text;
$textIn .= $textInTmp;
$textInAll .= $textIn;
if ($textInTmp eq "" or $textInTmp =~ /^\s+$/){
#para ou item vide
$inPost -> cut_children;
$inPost -> delete;
}
}
if ($textIn eq "" or $textIn =~ /^\s+$/){
#post vide
$post -> cut_children;
$post -> delete;
print "\n$idMsg deleted in $file (because empty)";
$idMsg -= 1;
}
}
if ($textInAll eq "" or $textInAll =~ /^\s+$/){
$section -> cut_children;
$section -> delete;
print "\ndiv $idDiv deleted in $file (because empty)";
$idDiv -= 1;
}
}
$twig->print($out);
$twig->purge;
close($out);
# `xmllint --format outTemp.xml --output $dir/$file`;
if ($idDiv > 0 && $idMsg > 0){
`cp out.xml $dir/$file`;
my $nbUsers = @auteurs;
my $propAnonyme = my $propBot = my $propUnsigned = 0;
if ($freq{"anonyme"} > 0){
$propAnonyme = $freq{"anonyme"}/$idMsg;
}
if ($freq{"bot"} > 0){
$propBot = $freq{"bot"}/$idMsg;
}
if ($freq{"unsigned"} > 0){
$propUnsigned = $freq{"unsigned"}/$idMsg;
}
# print tableCompte "$idPage\t$titreDiscu\t$idDiv\t$idMsg\t$nbMots\t$profMax\t$nbUsers\t".$freq{"anonyme"}."\t$propAnonyme\t".$freq{"bot"}."\t$propBot\t$subTyp\t$article\n";
#new V5
my @portailsArt = split(",",$metas{$idPage});
if ($portailsArt[0] ne ""){$art = 1;}
if ($portailsArt[1] ne ""){$geo = 1;}
if ($portailsArt[2] ne ""){$hist = 1;}
if ($portailsArt[3] ne ""){$loisirs = 1;}
if ($portailsArt[4] ne ""){$med = 1;}
if ($portailsArt[5] ne ""){$politique = 1;}
if ($portailsArt[6] ne ""){$religion = 1;}
if ($portailsArt[7] ne ""){$sciences = 1;}
if ($portailsArt[8] ne ""){$societe = 1;}
if ($portailsArt[9] ne ""){$sport = 1;}
if ($portailsArt[10] ne ""){$techno = 1;}
print tableCompte "$idPage\t$titreDiscu\t$idDiv\t$idMsg\t$nbMots\t$profMax\t$nbUsers\t".$freq{"anonyme"}."\t$propAnonyme\t".$freq{"bot"}."\t$propBot\t".$freq{"unsigned"}."\t$propUnsigned\t$subTyp\t$article\t$grade\t$art\t$geo\t$hist\t$loisirs\t$med\t$politique\t$religion\t$sciences\t$societe\t$sport\t$techno\t$trad\t$harassment\t$articleChantier\t$articleAssessment\t$problem\t$arch\t$keepOrsuppr\t$copy\t$WPisNot\t$projet\t$projetWP1\n";
foreach my $user (@auteurs){
print tableAuteurs "$idPage\t$user\t$freq{$user}\n";
}
print "\n$file created (".$freq{"bot"}." bots)\n";
$DiscTot ++;
$DivTot += $idDiv;
$MsgTot += $idMsg;
$MotTot += $nbMots;
}
else {print "\nno content ($file)";}
`rm out.xml`;
}
else {print "\nno content ($file)";}
}
else {print "\nredirect ($file)";}
#Réinitialisation des variables pour une nouvelle page de discussion
`rm outTemp.xml`;
$etat = "nul";
$titreDiscu="";
$topic="";
$idPage ="";
$msg = "";
$idMsg = $idMsg_dsFil = 0;
$idDiv = 0;
$nbMots = 0;
$profMax = 1;
@auteurs = ();
%freq = ();
$freq{"unsigned"} = 0;
$freq{"bot"} = 0;
$freq{"anonyme"} = 0;
$grade = "na";
$art = $geo = $hist = $loisirs = $med = $politique = $religion = $sciences = $societe = $sport = $techno = 0;
$trad = $harassment = $articleChantier = $articleAssessment = $problem = $arch = $keepOrsuppr = $copy = $WPisNot = $projet = $projetWP1 = 0;
$traduction = "";
$front = "";
}
#~ Nouvelle discussion -> nouveau TEI -> nouveau fichier xml
if ($ligne =~/<title>Discussion:(.*?)</ and $etat eq "nul"){
$titreDiscu = $1;
$idPage = "";
$etat = "id";
}
#~ Récupération de l'identifiant de la page
elsif ($ligne =~/<id>(\d*)<\/id>/ and $idPage eq "" and $etat eq "id"){
$idPage = $1;
print "\ntraitement de la discussion $titreDiscu ($idPage)\n";
#pour reprendre après un arrêt (par défaut $stop = 0) :
if ($idPage > $stop){
$article = lc ($titreDiscu);
$article =~ s/ç/c/gi;
$article =~ s/[ôöō]/o/gi;
$article =~ s/[îï]/i/gi;
$article =~ s/[âäà]/a/gi;
$article =~ s/[ëêèé]/e/gi;
$article =~ s/[üûùū]/u/gi;
$article =~ s/\//RUBRIK/g;
$article =~ s/[\,\.\s\-\'\\\)\(]/\_/g;
$article =~ s/\&amp;/AND/g;
$article =~ s/\_+/\_/g;
$article =~ s/\_$//;
if ($article =~ /(RUBRIK.\_faire)$/){
$subTyp = "aFaire";
}
elsif ($article =~ /(RUBRIKarticle\_de\_qualit.)$/){
$subTyp = "adq";
}
elsif ($article =~ /(RUBRIKneutralit.)$/){
$subTyp = "npov";
}
elsif ($article =~ /(RUBRIKdroit\_d\_auteur)$/){
$subTyp = "droitAuteur";
}
elsif ($article =~ /(RUBRIKsuppression)$/){
$subTyp = "suppr";
}
elsif ($article =~ /(RUBRIKlumi.re\_sur)$/){
$subTyp = "lumiereSur";
}
elsif ($article =~ /(RUBRIKbon\_article)$/){
$subTyp = "bonArt";
}
elsif ($article =~ /RUBRIKarch/){
$subTyp = "archive";
}
elsif ($article =~ /RUBRIK(.+)$/){
$subTyp = $1;
}
else {
$subTyp = "courante";
}
$article =~ s/^(.+?)RUBRIK.*$/$1/;
$file = $idPage.".xml";
&newTEI($file);
$etat = "start";
}
else {
print "déjà fait";
$etat eq "nul";
# $idPage = "";
}
}
#~ Début de récupération du texte et enclenchement de l'automate pour récupérer les catégories si y a
#
#~ Si il y a eu redirection ou notification d'un doublon, la discussion a été déplacée ailleurs et est donc vide (MAI1juin)
elsif ( $ligne =~/<text xml:space=\"preserve\">[\|\s]*(\#REDIRECT|Doublon )/i and $etat eq "start"){
#warn"1 ($file)";
$etat = "redirect";
}
#{{wikiprojet|comics|faible|avancement=ébauche}}
#~ Début de récupération du texte et enclenchement de l'automate pour récupérer les catégories si y a
elsif (($ligne =~/<text xml:space=\"preserve\">[\|\s]*.*?\{\{Wikiprojet\|([^\|]+)\|([^\|]+)\|avancement=([^\}]+)\}\}/i and $etat eq "start") or ($ligne =~/^[\|\s]*\{\{Wikiprojet\|([^\|]+)\|([^\|]+)\|avancement=([^\}]+)\}\}/i and $etat eq "discu")){
#warn "2ZZZ ($ligne $file)";
$outie->startTag("category", "type"=>"discipline");
$outie->startTag("catDesc");
$outie->characters($1);
$outie->endTag("catDesc");
$outie->endTag("category");
$outie->startTag("category", "type"=>"grade");
$outie->startTag("catDesc");
$grade = $3;
$grade =~ s/^\s//g;
$grade =~ s/\s$//g;
$outie->characters($grade);
$outie->endTag("catDesc");
$outie->endTag("category");
$etat = "discu";
}
#~ Début de récupération du texte et enclenchement de l'automate pour récupérer les catégories si y a
elsif (($ligne =~/<text xml:space=\"preserve\">\s*.*?\{\{Wikiprojet/i and $etat eq "start") or ($ligne =~/^\s*\{\{Wikiprojet/i and $etat eq "discu")){
#warn "3 ($file)";
$outie->startTag("category", "type"=>"discipline");
$etat = "cat";
}
#~ Récupération des catégories (MAI2avril : j'ai modifié en non glouton)
elsif ( ($ligne =~/\|(.+?)\|([^\}]*)/) and $etat eq "cat"){
#warn "4 ($file)";
if ($ligne =~ /Wikip.dia 1\.0\/Les plus consult.s/i){
$projetWP1 = 1;
}
else{
$outie->startTag("catDesc");
$outie->characters($1);
$outie->endTag("catDesc");
}
}
#~ Récupération de l'état d'avancement de la page (MAI2avril : j'ai modifié en non glouton)
elsif ($ligne =~ /\| *avancement ?=([^\}]*)/ and $etat eq "cat"){
#warn "5 ($file)";
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
$outie->startTag("category", "type"=>"grade");
$outie->startTag("catDesc");
$grade = $1;
$grade =~ s/^\s//g;
$grade =~ s/\s$//g;
$outie->characters($grade);
$outie->endTag("catDesc");
$outie->endTag("category");
$etat = "discu";
}
#~ Récupération des catégories autres (MAI1 juin)
elsif ($ligne =~/^\s*\}\}/ and ($etat =~/^other/ or $etat eq "cat")){
#warn "6 ($file)";
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
$etat = "discu";
}
elsif ($ligne =~/^(.+?)\}\}/ and ($etat =~/^other/ or $etat eq "cat")){
#warn "7 ($file)";
#NOUVEAUTE V5
if ($outie->current_element eq "catDesc"){
$outie->characters($1);
$outie->endTag("catDesc");
$outie->endTag("category");
}
elsif ($outie->current_element eq "category"){
$outie->startTag("catDesc");
$outie->characters($1);
$outie->endTag("catDesc");
$outie->endTag("category");
}
elsif($etat eq "otherTrad"){
$traduction = $traduction." ".$1;
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
}
elsif($etat eq "otherFront"){
$front = $front." ".$1;
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
}
else{
$outie->startTag("category");
$outie->startTag("catDesc", "type"=>"autre");
$outie->characters($1);
$outie->endTag("catDesc");
$outie->endTag("category");
}
$etat = "discu";
}
#~ Récupération des catégories autres (MAI1 juin)
elsif ($etat eq "other"){
#warn "8 ($file)";
#NOUVEAUTE V5
$outie->characters($ligne);
}
elsif ($etat eq "otherTrad"){
#warn "8 ($file)";
#NOUVEAUTE V5
$traduction = $traduction."\n".$ligne;
}
elsif ($etat eq "otherFront"){
#warn "8 ($file)";
#NOUVEAUTE V5
$front = $front."\n".$ligne;
}
#~ Récupération du caractère controversé de la discussion (MAI20mai)
elsif (($ligne =~/<text xml:space=\"preserve\">[\|\s]*\{\{((Appel au calme|Controvers|Censur).*?)\}\}/i and $etat eq "start") or ($ligne =~/^\s*\{\{((Appel au calme|Controvers|Censur).*?)\}\}/i and $etat eq "discu")){
#warn "9 ($file)";
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
$outie->startTag("category", "type"=>"other", "info"=>"problem");
$outie->startTag("catDesc");
$ligne =~ s/<text xml:space=\"preserve\">//;
$outie->characters($ligne);
$harassment = 1;
$outie->endTag("catDesc");
$outie->endTag("category");
$etat = "discu";
}
#~ Récupération des autres info (à trier) e.g. traduction, Attention (MAI29mai)
elsif (($ligne =~/<text xml:space=\"preserve\">[\|\s]*\{\{(.*?)\}\}/ and $etat eq "start") or ($ligne =~/\s*\{\{(.*?)\}\}/ and $etat eq "discu")){
#warn "10 ($file)";
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
#NOUVEAUTE V5
$ligne =~ s/<text xml:space=\"preserve\">//;
my @quelAutre = split("\t",&ClassDeclAutre($ligne));
if ($quelAutre[0] eq "trad" && $quelAutre[1]=~/[a-z]/i){
$traduction = $traduction."\n".$quelAutre[1];
$etat = "otherTrad";
#print "\nnew $quelAutre[0]";
}
elsif ($quelAutre[0] eq "post" && $quelAutre[1]=~/[a-z]/i){
$msg = $ligne;
&printMsg;
$etat = "msg";
#print "\nnew $quelAutre[0]";
}
elsif ($quelAutre[0] eq "front" && $quelAutre[1]=~/[a-z]/i){
$front = $front."\n".$quelAutre[1];
$etat = "otherFront";
#print "\nnew $quelAutre[0]";
}
elsif ($quelAutre[1]=~/[a-z]/i){
$outie->startTag("category", "type"=>"other", "info"=>$quelAutre[0]);
$outie->startTag("catDesc");
$outie->characters($quelAutre[1]);
$etat = "other";
#print "\nnew $quelAutre[0]";
}
if ($ligne =~/\}\}\s*$/ && $etat ne "msg"){
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
$etat = "discu";
}
}
#~ Récupération des autres info (à trier) e.g. traduction, Attention (MAI29mai)
#V6 : ajout de la condition "and $1 !~ /^wikidata/i" qui générait un "out of memory" sur la discussion Liste de supernovas (7511811)
elsif ((($ligne =~/<text xml:space=\"preserve\">[\|\s]*\{\{(.*)/ and $etat eq "start") or ($ligne =~/\s*\{\{(.*)/ and $1 !~ /^wikidata/i and $etat eq "discu")) and $1 !~/^(user|utilisateur)/i){
#print "11 ($file)";
#NOUVEAUTE V5
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
$ligne =~ s/<text xml:space=\"preserve\">//;
#NOUVEAUTE V5
my @quelAutre = split("\t",&ClassDeclAutre($ligne));
if ($quelAutre[0] eq "trad" && $quelAutre[1]=~/[a-z]/i){
$traduction = $traduction." ".$quelAutre[1];
$etat = "otherTrad";
#print "\nnew $quelAutre[0]";
}
elsif ($quelAutre[0] eq "post" && $quelAutre[1]=~/[a-z]/i){
$msg = $ligne;
&printMsg;
$etat = "msg";
print "\nnew $quelAutre[0]";
}
elsif ($quelAutre[0] eq "front" && $quelAutre[1]=~/[a-z]/i){
$front = $front." ".$quelAutre[1];
$etat = "otherFront";
print "\nnew $quelAutre[0]";
}
elsif ($quelAutre[1]=~/[a-z]/i){
$outie->startTag("category", "type"=>"other", "info"=>$quelAutre[0]);
$outie->startTag("catDesc");
$outie->characters($quelAutre[1]);
$etat = "other";
print "\nnew $quelAutre[0]";
}
if ($ligne =~/\}\}\s*$/ && $etat ne "msg"){
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
$etat = "discu";
}
}
#~ Fermeture du header et commencement de la récupération du texte
elsif ( $ligne =~/<text xml:space=\"preserve\">/ and $etat eq "start"){
#warn "12 ($file)";
$etat = "discu";
#si la ligne contient également le début et la fin du premier message de la discussion
if ($ligne =~/<text xml:space=\"preserve\">[\|\s\{]*\[\[(User|Utilisateur):([^\]]+?)\|(.*?)\]\](.*?)?(CES?T)?.*/i) {
$msg = $ligne;
$msg =~ s/^\s*<text xml:space=\"preserve\">//;
$utilisateur = $4;
&printMsg;
}
#si la ligne contient uniquement le titre de la première section
elsif ($ligne =~/<text xml:space=\"preserve\">[\|\s]*(=+) *([^=]+?.*?) *(=+)\s*$/) {
$topic = $2;
$idDiv++;
$levelDiv=1;
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
if ($projetWP1){
$outie->startTag("category", "type"=>"other", "info"=>"projet");
$outie->dataElement("catDesc", "Wikipédia 1.0/Les plus consultés");
$outie->endTag("category");
}
$outie->endTag("taxonomy");
$outie->endTag("classDecl");
$outie->endTag("encodingDesc");
$outie->startTag("profileDesc");
$outie->startTag("langUsage");
$outie->startTag("language", "ident"=>"fr");
$outie->characters("french");
$outie->endTag("language");
$outie->endTag("langUsage");
if ($traduction ne ""){
$outie->startTag("textDesc");
$outie->startTag("derivation", "type"=>"translation");
$outie->characters($traduction);
$outie->endTag("derivation");
$outie->endTag("textDesc");
}
$outie->endTag("profileDesc");
$outie->endTag("teiHeader");
$outie->startTag("text");
$outie->startTag("front");
$outie->startTag("titlePage");
$outie->startTag("docTitle");
$outie->characters($titreDiscu);
$outie->endTag("docTitle");
$outie->endTag("titlePage");
if ($front ne ""){
$outie->dataElement("note",$front)
}
$outie->endTag("front");
$outie->startTag("body");
#V6 : ajoute de , "type"=>"thread"
$outie->startTag("div", "type"=>"thread", "id"=>$idDiv, "level"=>$levelDiv);
$outie->startTag("head");
$nbMots += &countMots($topic);
$outie->characters($topic);
$outie->endTag("head");
$etat = "msg";
}
#si la ligne contient le début du premier message (sans titre) de la discussion
elsif ($ligne =~/<text xml:space=\"preserve\">\s*[^\{]+/) {
$idDiv++;
$levelDiv=1;
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
if ($projetWP1){
$outie->startTag("category", "type"=>"other", "info"=>"projet");
$outie->dataElement("catDesc", "Wikipédia 1.0/Les plus consultés");
$outie->endTag("category");
}
$outie->endTag("taxonomy");
$outie->endTag("classDecl");
$outie->endTag("encodingDesc");
$outie->startTag("profileDesc");
$outie->startTag("langUsage");
$outie->startTag("language", "ident"=>"fr");
$outie->characters("french");
$outie->endTag("language");
$outie->endTag("langUsage");
if ($traduction ne ""){
$outie->startTag("textDesc");
$outie->startTag("derivation", "type"=>"translation");
$outie->characters($traduction);
$outie->endTag("derivation");
$outie->endTag("textDesc");
}
$outie->endTag("profileDesc");
$outie->endTag("teiHeader");
$outie->startTag("text");
$outie->startTag("front");
$outie->startTag("titlePage");
$outie->startTag("docTitle");
$outie->characters($titreDiscu);
$outie->endTag("docTitle");
$outie->endTag("titlePage");
if ($front ne ""){
$outie->dataElement("note",$front)
}
$outie->endTag("front");
$outie->startTag("body");
#V6 : ajoute de , "type"=>"thread"
$outie->startTag("div", "type"=>"thread", "id"=>$idDiv, "level"=>$levelDiv);
$outie->emptyTag("head");
$msg = $ligne;
$msg =~ s/^\s*<text xml:space=\"preserve\">//;
$etat = "msg";
}
}
elsif ($etat =~ /^wikidataList/ and $ligne =~/{\{Wikidata list end\}\}/){
$etat =~ s/wikidataList_//;
$msg = "Suppression lors de l'extraction de la wikiData list";
&printMsg;
}
#~ PHASE 2: Récupération des informations sur la discussion: titre, identifiant,
# Récupération de la première discussion si titrée
elsif ( $ligne =~/^\s*(=+) *([^=]+?.*?) *(=+)\s*$/ and $etat eq "discu" and $idDiv==0) {
#warn "13 ($file)";
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
if ($projetWP1){
$outie->startTag("category", "type"=>"other", "info"=>"projet");
$outie->dataElement("catDesc", "Wikipédia 1.0/Les plus consultés");
$outie->endTag("category");
}
$outie->endTag("taxonomy");
$outie->endTag("classDecl");
$outie->endTag("encodingDesc");
$outie->startTag("profileDesc");
$outie->startTag("langUsage");
$outie->startTag("language", "ident"=>"fr");
$outie->characters("french");
$outie->endTag("language");
$outie->endTag("langUsage");
if ($traduction ne ""){
$outie->startTag("textDesc");
$outie->startTag("derivation", "type"=>"translation");
$outie->characters($traduction);
$outie->endTag("derivation");
$outie->endTag("textDesc");
}
$outie->endTag("profileDesc");
$outie->endTag("teiHeader");
$outie->startTag("text");
$outie->startTag("front");
$outie->startTag("titlePage");
$outie->startTag("docTitle");
$outie->characters($titreDiscu);
$outie->endTag("docTitle");
$outie->endTag("titlePage");
if ($front ne ""){
$outie->dataElement("note",$front)
}
$outie->endTag("front");
$outie->startTag("body");
#par erreur ou pas, certains titres sont de niveau 0, ou 2... Par défaut, on force systématiquement le 1er titre en niveau 1. Tant pis pour les erreurs
$topic = $2;
$idDiv++;
$idMsg_dsFil=0;
$levelDiv = 1;
#V6 : ajoute de , "type"=>"thread"
$outie->startTag("div", "type"=>"thread", "id"=>$idDiv, "level"=>$levelDiv);
$outie->startTag("head");
$nbMots += &countMots($topic);
$outie->characters($topic);
$outie->endTag("head");
$etat = "msg";
}
# Récupération du titre, incrémentation d'un id de discussion et indice de fin de message donc lancement de l'impression du message en cours
elsif ($ligne =~/^\s*(=+) *([^=]+?.*?) *(=+)\s*$/ and $etat eq "msg") {
#warn "14 ($file)";
#print "\nLev$levelDiv ($1)";
$topic = $2;
&printMsg;
my $tmp1 = $levelDiv;
my $tmp2 = $levelDiv;
$levelDiv=length($1)-1;
if ($levelDiv == 0){$levelDiv++;}
while ($levelDiv <= $tmp1){
$outie->endTag("div");
$tmp1--;
}
$idDiv++;
$idMsg_dsFil=0;
#si l'auteur a instancié un titre de niveau 3 alors qu'on en est seulement au niveau 2 (level 1 -> level 3), on choisit de mettre une section de niveau intermédiaire
while ($levelDiv > ($tmp2+1)){
$tmp2++;
#V6 : ajoute de , "type"=>"thread"
$outie->startTag("div", "type"=>"thread", "id"=>$idDiv, "level"=>$levelDiv);
$outie->emptyTag("head");
}
#V6 : ajoute de , "type"=>"thread"
$outie->startTag("div", "type"=>"thread", "id"=>$idDiv, "level"=>$levelDiv);
$outie->startTag("head");
$nbMots += &countMots($topic);
$outie->characters($topic);
$outie->endTag("head");
}
#~ PHASE 3 : Récupération des msg et des infos associées.
#passage à zapper (code source en langage de programmation) - voir discussion crible_d_Eratosthène (dans currentnum1)
elsif ($etat eq "msg" and $ligne =~/^\s*<source/){
#warn "16 ($file)";
$etat eq "source";
}
elsif ($etat eq "source" and $ligne =~/^\s*<\/source/){
#warn "17 ($file)";
$etat eq "msg";
}
#V6~ Détection d'un début de {{Wikidata list .....
#zapper toutes les lignes jusqu'à rencontrer la balise {{Wikidata list end}} (ex : Liste de supernovas (7511811.xml))
elsif ($etat eq "msg" and $ligne =~/^\s*\{\{Wikidata list/){
$etat = "wikidataList_msg";
}
elsif ($etat eq "discu" and $ligne =~/^\s*\{\{Wikidata list/){
$etat = "wikidataList_discu";
}
#COND 1 : indice de fin de msg > print du msg en cour
elsif ($ligne =~/^(:+)?(.*)\[\[(User|Utilisateur):([^\]]+?)\|(.*?)\]\](.*?)?(CES?T)?/ and ($etat eq "msg" or $etat eq "discu")) {
#warn "18 ($file)";
$statut = $1;
my $utilisateurTmp = $4;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
#si changement de statut, print du Msg précédent dans un post et début d'un nouveau post
if ($statut ne $MemStatut){
my $statutTmp = $statut;
$statut = $MemStatut;
&printMsg;
$statut = $statutTmp;
$msg = $ligne;
}
else {
$msg .= " <CONCAT1/> ".$ligne;
}
#print "\nCOND1\t$idPage $idMsg\n";
$utilisateur = $utilisateurTmp;
&printMsg;
}
#COND 2 : Messages sur plusieurs lignes avec indices ":" en début de chaque ligne
elsif ( ($etat eq "msg" or $etat eq "discu") and ($ligne =~/^(:+).*\[\[(User:|Utilisateur:|.*?:Contributions\/)([^\]]+?)\|(.*?)\]\](.*?)?(CES?T)/) ) {
#warn "19 ($file)";
$statut = $1;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
my $utilisateurTmp = $4;
#si le statut n'est pas le même, c'est un indice de début et de fin de msg > print des deux msg (modif du 23 mars 2016)
if ($statut ne $MemStatut){
my $statutTmp = $statut;
$statut = $MemStatut;
&printMsg;
$statut = $statutTmp;
$msg = $ligne;
}
#si le statut est le même, ce n'est qu'un indice de fin
else {
$msg .= " <CONCAT2/> ".$ligne;
}
#print "\nCOND2\t$idPage $idMsg\n";
$utilisateur = $utilisateurTmp;
&printMsg;
}
#COND 3 : indice de fin de msg > print du msg en cours (redondante avec COND 1)
elsif ($ligne =~/^(:+)?(.*)\[\[(User|Utilisateur):([^\]]+?)\|(.*?)\]\](.*?)?(CES?T)?/ and ($etat eq "msg" or $etat eq "discu")) {
print "20 ($file) non redondant";
$statut = $1;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
$msg .= " <CONCAT3/> ".$ligne;
$utilisateur = $4;
&printMsg;
#print "\nCOND3\t$idPage $idMsg\n";
}
#V6 : ajout de ces condition BIS dans le cas de message explicitement non signés :
#{{non signé|ip=oui|[Agaccen]}}
#{{non signé| 134.191.220.73}}
#{{non signé|Michael Comte}}
#{{non signé|A.v.i.o.n|28 novembre 2015 à 11:27‎}}
#{{non signé|82.236.210.11|1 octobre 2012 à 00:09‎ (CEST)|ip=oui}}
#{{non signé2|11 août 2015 à 18:20‎|83.196.101.128|ip=oui}}
#C'est un immense n'importe quoi. {{non signé|82.236.210.11|1 octobre 2012 à 00:09‎ (CEST)|ip=oui}}
#non pris en charge dans la V6 :
#[Ce message, non signé, a été déposé par {{u|134.191.220.73}}]
#en plain text :
#Cette intervention, non signée, a été déposée par l'IP [[Spécial:Contributions/92.131.116.236| 92.131.116.236]].
#COND 1bis : indice de fin de msg > print du msg en cours
elsif ($ligne =~/^(:+)?(.*)\{\{(non signé2?|unsigned)((\|[^\|\}]+)+)\}\}/ and ($etat eq "msg" or $etat eq "discu")) {
#warn "18 ($file)";
$statut = $1;
my $utilisateurTmp = "unsigned".$4;
print "\n$utilisateurTmp";
$utilisateurTmp =~ s/\|ip=(oui|yes)//;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
#si changement de statut, print du Msg précédent dans un post et début d'un nouveau post
if ($statut ne $MemStatut){
my $statutTmp = $statut;
$statut = $MemStatut;
&printMsg;
$statut = $statutTmp;
$msg = $ligne;
}
else {
$msg .= " <CONCAT1/> ".$ligne;
}
#print "\nCOND1\t$idPage $idMsg\n";
$utilisateur = $utilisateurTmp;
&printMsg;
}
#COND 2bis : Messages sur plusieurs lignes avec indices ":" en début de chaque ligne
elsif ( ($etat eq "msg" or $etat eq "discu") and ($ligne =~/^(:+).*\{\{(non signé2?|unsigned)((\|[^\|\}]+)+)\}\}/) ) {
#warn "19 ($file)";
$statut = $1;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
my $utilisateurTmp = "unsigned".$3;
print "\n$utilisateurTmp";
$utilisateurTmp =~ s/\|ip=(oui|yes)//;
#si le statut n'est pas le même, c'est un indice de début et de fin de msg > print des deux msg (modif du 23 mars 2016)
if ($statut ne $MemStatut){
my $statutTmp = $statut;
$statut = $MemStatut;
&printMsg;
$statut = $statutTmp;
$msg = $ligne;
}
#si le statut est le même, ce n'est qu'un indice de fin
else {
$msg .= " <CONCAT2/> ".$ligne;
}
#print "\nCOND2\t$idPage $idMsg\n";
$utilisateur = $utilisateurTmp;
&printMsg;
}
#COND 3bis : indice de fin de msg > print du msg en cours
elsif ($ligne =~/^(:+)?(.*)\{\{(non signé2?|unsigned)(\|[^\|\}]+)+\}\}/ and ($etat eq "msg" or $etat eq "discu")) {
print "20 ($file) non redondant";
$statut = $1;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
$msg .= " <CONCAT3/> ".$ligne;
$utilisateur = "unsigned".$4;
$utilisateur =~ s/\|ip=(oui|yes)//;
&printMsg;
#print "\nCOND3\t$idPage $idMsg\n";
}
#COND 0 : ligne à zapper
#V5 : elsif ( $etat eq "discu" and $ligne =~/^\s*[\<\{\|\}]/) { #ligne balise, on zappe (e.g. <timespan...>
#v6 on zappe uniquement si la ligne n'est qu'une balise. Pas si la ligne contient une balise suivie d'éléments textuels (ex : RaceHumain, {{lol}} je crois malheureusement pour vous que vous devriez revoir
elsif ( $etat eq "discu" and ($ligne =~/^\s*\{\{[^\}]+\}\}\s*\>?\s*$/ or $ligne =~/^\s*[\|\}][\>\}]\s*$/ or $ligne =~/^\s*\<[^\>]+\>\s*$/)) { #ligne balise, on zappe (e.g. <timespan...>
#warn "15 ($file)";
next;
}
#v5 : elsif ( $etat eq "msg" and $ligne =~/^\s*[\<\{\|]/) { #ligne balise, on zappe (e.g. <timespan...>
#v6 on zappe uniquement si la ligne n'est qu'une balise. Pas si la ligne contient une balise suivie d'éléments textuels (ex : RaceHumain, {{lol}} je crois malheureusement pour vous que vous devriez revoir
elsif ( $etat eq "msg" and ($ligne =~/^\s*\{\{[^\}]+\}\}\s*\>?\s*$/ or $ligne =~/^\s*[\|\}][^\}]+[\>\}]\s*$/ or $ligne =~/^\s*\<[^\>]+\>\s*$/)) { #ligne balise, on zappe (e.g. <timespan...>
#warn "16 ($file)";
next;
}
elsif ($ligne =~/^\s*<sha1>.*?<\/sha1>\s*$/){
next;
}
#COND 5 : indice de début de nouveau message et donc print du message précédent
elsif ( ($etat eq "msg" or $etat eq "discu") and ($ligne =~/^----+$/) ) {
#warn "21 ($file)";
&printMsg;
#print "\nCOND5\t$idPage $idMsg\n";
}
#COND 6 : indice de fin de msg > print du msg en cours (msg signé sans aucune d'indication d'utilisateur si ce n'est la date)
elsif ($ligne =~/^(:+)?(.*?)((\d+) ((jan|f|mar|avr|apr|ma[yi]|juin|jun|jul|juil|ao|ago|aug|se[tp]|o[kc]|nov|d).*?) (20[01]\d)( à \d?\d\:\d\d)) (CES?T)?/ and ($etat eq "msg" or $etat eq "discu")) {
#warn "21 ($file)";
$statut = $1;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
$msg .= " <CONCAT6/> ".$ligne;
&printMsg;
#print "\nCOND6\t$idPage $idMsg\n";
}
#COND 8 (changement d'indent Level avec indentLevel > 0):
elsif ( ($etat eq "msg" or $etat eq "discu") and ($ligne =~/^(:+)/) ) {
#warn "22 ($file)";
$statut = $1;
$ligne =~ s/^$statut//;
$ligne =~ s/^ +//;
$ligne =~ s/^\*/<LI\/>/;
#si le statut n'est pas le même, c'est un indice de début et de fin de msg > print des deux msg (modif du 23 mars 2016)
if ($statut ne $MemStatut){
my $statutTmp = $statut;
$statut = $MemStatut;
&printMsg;
$statut = $statutTmp;
$msg = $ligne;
}
#si le statut est le même, ce n'est qu'un indice de fin
else {
$msg .= " <CONCAT8/> ".$ligne;
}
#print "\nCOND8\t$idPage $idMsg\n";
$MemStatut = $statut;
}
#COND 8BIS (indentLevel = 0 et précédent > 0, modif du 20 nov. 2017) :
elsif ( ($etat eq "msg" or $etat eq "discu") and ($ligne =~/^[^:]/) and $statut ne "") {
#warn "23 ($file)";
$ligne =~ s/^\*/<LI\/>/;
&printMsg;
$msg = $ligne;
$MemStatut = $statut = "";
}
#COND 9 : aucun indice de début ou de fin de msg > incrémentation
# elsif ($etat eq "msg" or $etat eq "discu") {
elsif ($etat eq "msg" and $ligne =~/[^\s\-]+/) {
$etat = "msg";
$ligne =~ s/^\*/<LI\/>/;
$msg .= " <CONCAT9/> ".$ligne;
#print "\nCOND9\t$idPage $idMsg\n";
}
elsif ($etat eq "discu" and $idDiv==0 and $ligne =~ /\b\pL+\b/) {
#warn "25 ($file)";
print "\nnew Post\n";
$etat = "msg";
$msg .= " <CONCAT9/> ".$ligne;
}
#COND 10 : ligne vide : on ne fait rien
# elsif ($etat eq "msg" and $ligne eq "") {
# $etat = "msg";
#print "\nCOND9\t$idPage $idMsg\n";
# }
}
my $end_run = time();
my $run_time = $end_run - $start_run;
print "\nFin de Traitement pour \n $DiscTot discussions, $DivTot sections, $MsgTot messages et $MotTot mots\n";
print "Job took $run_time seconds\n";
close (DUMP);
close (tableCompte);
close (tableAuteurs);
close (STDOUT);
# SOUS-FONCTION : IMPRESSION DU MESSAGE & DES VARIABLES ASSOCIEES
sub printMsg{
if ($etat ne "nul"){
my $tmp = $outie->current_element;
##print "\n$etat\n$msg\n$tmp\n-----------------\n";
if ($outie->current_element ne "div" and $outie->current_element ne "post" and ($etat ne "msg" or $outie->current_element eq "taxonomy" or $idDiv < 1)){
if ($outie->current_element eq "catDesc"){
$outie->endTag("catDesc");
}
if ($outie->current_element eq "category"){
$outie->endTag("category");
}
if ($projetWP1){
$outie->startTag("category", "type"=>"other", "info"=>"projet");
$outie->dataElement("catDesc", "Wikipédia 1.0/Les plus consultés");
$outie->endTag("category");
}
$outie->endTag("taxonomy");
$outie->endTag("classDecl");
$outie->endTag("encodingDesc");
$outie->startTag("profileDesc");
$outie->startTag("langUsage");
$outie->startTag("language", "ident"=>"fr");
$outie->characters("french");
$outie->endTag("language");
$outie->endTag("langUsage");
if ($traduction ne ""){
$outie->startTag("textDesc");
$outie->startTag("derivation", "type"=>"translation");
$outie->characters($traduction);
$outie->endTag("derivation");
$outie->endTag("textDesc");
}
$outie->endTag("profileDesc");
$outie->endTag("teiHeader");
$outie->startTag("text");
$outie->startTag("front");
$outie->startTag("titlePage");
$outie->startTag("docTitle");
$outie->characters($titreDiscu);
$outie->endTag("docTitle");
$outie->endTag("titlePage");
if ($front ne ""){
$outie->dataElement("note",$front)
}
$outie->endTag("front");
$outie->startTag("body");
$idDiv++;
$idMsg_dsFil=0;
$levelDiv=1;
#V6 : ajoute de , "type"=>"thread"
$outie->startTag("div", "type"=>"thread", "id"=>$idDiv, "level"=>$levelDiv);
if ($msg =~/^\s*(=+) *([^=]+?.*?) *(=+)\s*$/){
$outie->dataElement("head",$2);
$msg = "";
}
else {
$outie->emptyTag("head");
}
$etat = "msg";
}
#il n'y a pas encore eu de div ouverte
elsif ($outie->current_element eq "body" && $levelDiv > 0){
$idDiv++;
#V6 : ajoute de , "type"=>"thread"
$outie->startTag("div", "type"=>"thread", "id"=>$idDiv, "level"=>$levelDiv);
if ($msg =~/^\s*(=+) *([^=]+?.*?) *(=+)\s*$/){
$outie->dataElement("head",$2);
$msg = "";
}
else {
$outie->emptyTag("head");
}
$outie->emptyTag("head");
}
my $bot = my $tmpUser = my $datxt = "";
if ($msg ne ""){
if ($utilisateur eq "" and $msg =~/(\[\[(User:|Utilisateur:|.*?Contributions\/)([^\]]+?)[\|\]])/){
$utilisateur = $3;
}
#V6 : ajout de ces condition BIS dans le cas de message explicitement non signés :
#{{non signé|ip=oui|[Agaccen]}}
#{{non signé|A.v.i.o.n|28 novembre 2015 à 11:27‎}}
#{{non signé|82.236.210.11|1 octobre 2012 à 00:09‎ (CEST)|ip=oui}}
#{{non signé2|11 août 2015 à 18:20‎|83.196.101.128|ip=oui}}
#non signé|82.236.210.11|1 octobre 2012 à 00:09‎ (CEST)|ip=oui
elsif ($utilisateur =~ /^unsigned\|([^\|]+)\|([^\|]+)/){
#print "\nU1 $utilisateur";
my $part1 = $1;
my $part2 = $2;
if ($part1 =~ /20[0-2][0-9] . [0-9][0-9]\:[0-9][0-9]/ or $part1 =~ /^[0-9][0-9]\:[0-9][0-9].+?20[0-2][0-9]/){
$datxt = $part1;
$utilisateur = $part2." (unsigned)";
}
elsif ($part2 =~ /20[0-2][0-9] à [0-9][0-9]\:[0-9][0-9]/ or $part2 =~ /^[0-9][0-9]\:[0-9][0-9].+?20[0-2][0-9]/){
$datxt = $part2;
$utilisateur = $part1." (unsigned)";
}
else {
$utilisateur = $part1.$part2." (unsigned)";
}
$freq{"unsigned"}++;
}
#{{non signé| 134.191.220.73}}
#{{non signé|Michael Comte}}
elsif ($utilisateur =~ /^unsigned\|([^\|]+)/){
#print "\nU2 $utilisateur";
$utilisateur = $1." (unsigned)";
$freq{"unsigned"}++;
}
elsif ($utilisateur eq "") {
$utilisateur = "anonyme";
}
$bot = "no";
$tmpUser = $utilisateur;
$utilisateur = $tmpUser;
#V6
#&lt;small&gt;(ceci est un message automatique du [[Wikipédia:Bot|bot]] {{u-|GhosterBot}} le 12 juillet 2018 à 12:15, sans '''bot flag''')&lt;/small&gt;
if ($msg =~/(message d.pos. automatiquement par un robot|ceci est un message automatique).*?((\d+) ((jan|f|mar|avr|apr|ma[yi]|juin|jun|jul|juil|ao|ago|aug|se[tp]|o[kc]|nov|d)[^\s\<]*?) (20[01]\d) ([^<]*?)(\d\d\:\d\d))/ && length($4)<10 && length($7)<4){
$datxt =$2;
my $jour = $3;
my $mois = $4;
my $annee = $6;
my $heure = $8;
if ($jour =~ /^\d$/) {$jour = "0".$jour;}
$date = $annee."-".&norm($mois)."-".$jour."T".$heure;
}
#16 jul 2003 à 12:47 (CEST)
elsif ($msg =~/((\d+) ((jan|f|mar|avr|apr|ma[yi]|juin|jun|jul|juil|ao|ago|aug|se[tp]|o[kc]|nov|d)[^\s\<]*?) (20[01]\d) ([^<]*?)(\d\d\:\d\d) \(CES?T\))/ && length($3)<10 && length($6)<4){
$datxt =$1;
my $jour = $2;
my $mois = $3;
my $annee = $5;
my $heure = $7;
if ($jour =~ /^\d$/) {$jour = "0".$jour;}
$date = $annee."-".&norm($mois)."-".$jour."T".$heure;
}
#10:06 nov 15, 2002 (CET)
elsif ($msg =~/((\d\d\:\d\d) ((jan|f|mar|avr|apr|ma[yi]|juin|jun|jul|juil|ao|ago|aug|se[tp]|o[kc]|nov|d)[^\s\<]*?) (\d+), (20[01]\d) \(CES?T\))/ && length($3)<10 ){
$datxt =$1;
my $jour = $5;
my $mois = $3;
my $annee = $6;
my $heure = $2;
if ($jour =~ /^\d$/) {$jour = "0".$jour;}
$date = $annee."-".&norm($mois)."-".$jour."T".$heure;
}
#16 jul 2003 à 12:47
elsif ($datxt =~/((\d+) ((jan|f|mar|avr|apr|ma[yi]|juin|jun|jul|juil|ao|ago|aug|se[tp]|o[kc]|nov|d)[^\s\<]*?) (20[01]\d) ([^<]*?)(\d\d\:\d\d))/){
my $jour = $2;
my $mois = $3;
my $annee = $5;
my $heure = $7;
if ($jour =~ /^\d$/) {$jour = "0".$jour;}
$date = $annee."-".&norm($mois)."-".$jour."T".$heure;
}
#10:06 nov 15, 2002
elsif ($datxt =~/((\d\d\:\d\d) ((jan|f|mar|avr|apr|ma[yi]|juin|jun|jul|juil|ao|ago|aug|se[tp]|o[kc]|nov|d)[^\s\<]*?) (\d+), (20[01]\d))/){
my $jour = $5;
my $mois = $3;
my $annee = $6;
my $heure = $2;
if ($jour =~ /^\d$/) {$jour = "0".$jour;}
$date = $annee."-".&norm($mois)."-".$jour."T".$heure;
}
else {
$date = "unknown"
}
# Nettoyage des msg
$msg =~ s/^\s*:+//; #Caractère(s) d'échappement(s) en début de ligne
# $msg =~ s/<CONCAT([0-9])?\/>/<CONCAT\/>/g; #Balises de concaténation
$msg =~ s/(\s*<CONCAT([0-9])?\/>)+/<CONCAT\/>/g; #Balises de concaténation
$msg =~ s/\[\[.*?Contributions\/.*?\]\]//; #Signature 2
$msg =~ s/\(?\[\[Discussion utilisateur:[^\]]+(\|.*?)?\]\]\)?//ig; #Signature 3
$msg =~ s/^\s+//; # Caractère(s) d'échappement(s) en début de ligne 2 (par sécurité)
$msg =~ s/\t//g;
$msg =~ s/<\/text>//;
my $level = 0;
while ($statut =~ /^\:/){
$level++;
$statut =~ s/^\://;
}
if ($level > $profMax){$profMax = $level;}
#Impression des msg
if ($msg ne "" && $msg !~ /^\s*\-*\s*<CONCAT\/>\s*\-*\s*$/){
$idMsg++;
$idMsg_dsFil++;
#print "\n$idMsg : $msg\n";
#v6 : indiquer le statut de bot de l'auteur uniquement quand message explicite
#V5 $outie->startTag("post", "id"=>$idMsg, "who" => $utilisateur, "bot" => $bot, "when" => $date, "indentLevel" => $level, "num" => $idMsg_dsFil);
if ($msg =~ /message d.pos. automatiquement par (un|le) (ro)?bot/i or $bots{$utilisateur} or $msg =~ /ceci est un message automatique/i){
#print "\n$msg";
$outie->startTag("post", "id"=>$idMsg, "who" => "bot", "when" => $date, "indentLevel" => $level, "num" => $idMsg_dsFil);
$bot = "yes";
}
else{
$outie->startTag("post", "id"=>$idMsg, "who" => $utilisateur, "when" => $date, "indentLevel" => $level, "num" => $idMsg_dsFil);
}
my $idP=0;
my @segs = split("<CONCAT/>",$msg);
my $list = 0;
foreach my $seg (@segs){
if ($seg =~/^\s*\-+\s*$/){
#rien à faire
}
elsif ($seg =~ /^ *<LI\/>(.*)$/){
$seg = $1;
$seg = &cleanSeg($seg);
$nbMots += &countMots($seg);
if ($list){
$idP++;
$outie->startTag("item", "id"=>$idP);
}
else{
$outie->startTag("list");
$idP++;
$outie->startTag("item", "id"=>$idP);
$list = 1;
}
}
elsif ($seg !~ /^[\n\s]+$/ and $seg ne "<CONCAT/>"){
if ($list){
$outie->endTag("list");
$list = 0;
}
if ($seg ne ""){
$seg = &cleanSeg($seg);
$nbMots += &countMots($seg);
$idP++;
$outie->startTag("p", "id"=>$idP);
#ajouter une fonction &cleanSeg($seg) qui nettoie un peu le code wiki (pour l'instant c'est les remplacements du brut2tag.pl du projet TAL 2014). Passer les template en cdataElement, idem pour les url (voir teiP5)
}
}
my $datxtBIS = $datxt;
$datxtBIS =~ s/([\[\]\-\:\(\)])/\\$1/g;
my $utilisateurBIS = $utilisateur;
$utilisateurBIS =~ s/([\{\}\[\]\-\:\(\)\?\!\*\+\^\.\|\&\$])/\\$1/g;
#V6 : les unsigned
#print "\nSEG: ",$seg;
if ($signedTags && $seg =~ /^(.*)ZZZnote-type-unsigned\_([^\_]+)\_noteZZZ(.*)$/ && $utilisateur ne "anonyme"){
#print "\nT1";
my $tmpTxt = $1;
my $tmpIn = $2;
my $tmpTail = $3;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("note", "type"=>"unsigned");
$outie->characters($tmpIn);
$outie->endTag("note");
&detectNoteEmoAddress($tmpTail);
}
elsif ($signedTags && $seg =~ /^(.*)RRR\_([^\_]+)\_RRR $utilisateurBIS(.+?)$datxtBIS(.*)$/ && $utilisateur ne "anonyme" && $datxt ne ""){
#print "\nT2";
my $tmpTxt = $1;
my $tmpIn1 = $2;
my $tmpIn2 = $3;
my $tmpTail = $4;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
my $target="https://fr.wikipedia.org/wiki/".$tmpIn1;
$outie->startTag("ref", "target"=>$target);
$outie->startTag("name");
$outie->characters($utilisateur);
$outie->endTag("name");
$outie->endTag("ref");
$outie->characters($tmpIn2);
$outie->startTag("date");
$outie->characters($datxt);
$outie->endTag("date");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
elsif ($signedTags && $seg =~ /^(.*)RRR\_(Utilisateur|User):$utilisateurBIS\_RRR(.+?)$datxtBIS(.*)$/ && $utilisateur ne "anonyme" && $datxt ne ""){
#print "\nT3";
my $tmpTxt = $1;
my $tmpIn = $3;
my $tmpTail = $4;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
my $target="https://fr.wikipedia.org/wiki/".$utilisateur;
$outie->startTag("ref", "target"=>$target);
$outie->startTag("name");
$outie->characters($utilisateur);
$outie->endTag("name");
$outie->endTag("ref");
$outie->characters($tmpIn);
$outie->startTag("date");
$outie->characters($datxt);
$outie->endTag("date");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
#V5 elsif ($signedTags && $seg =~ /^(.*)$utilisateurBIS RRR\_([^\_]+)\_RRR(.+?)$datxtBIS(.*)$/ && $utilisateur ne "anonyme" && $datxt ne ""){
#V6
elsif ($signedTags && $seg =~ /^(.*)$utilisateurBIS RRR\_([^\_]+)\_RRR(.+?)$datxtBIS(.*)$/ && $1!~ /ZZZname\-type\-.+?\_$/ && $utilisateur ne "anonyme" && $datxt ne ""){
#print "\nT4";
my $tmpTxt = $1;
my $tmpIn1 = $2;
my $tmpIn2 = $3;
my $tmpTail = $4;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
my $target="https://fr.wikipedia.org/wiki/".$tmpIn1;
$outie->startTag("ref", "target"=>$target);
$outie->startTag("name");
$outie->characters($utilisateur);
$outie->endTag("name");
$outie->endTag("ref");
$outie->characters($tmpIn2);
$outie->startTag("date");
$outie->characters($datxt);
$outie->endTag("date");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
#V5 elsif ($signedTags && $seg =~ /^(.*)$utilisateurBIS(.+?)$datxtBIS(.*)$/ && $utilisateur ne "anonyme" && $datxt ne ""){
#V6
elsif ($signedTags && $seg =~ /^(.*)$utilisateurBIS(.+?)$datxtBIS(.*)$/ && $1!~ /ZZZname\-type\-.+?\_$/ && $utilisateur ne "anonyme" && $datxt ne ""){
#print "\nT5";
my $tmpTxt = $1;
my $tmpIn = $2;
my $tmpTail = $3;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
$outie->startTag("name");
$outie->characters($utilisateur);
$outie->endTag("name");
$outie->characters($tmpIn);
$outie->startTag("date");
$outie->characters($datxt);
$outie->endTag("date");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
elsif ($signedTags && $seg =~ /^(.*)RRR\_([^\_]+)\_RRR $utilisateurBIS(.*)$/ && $utilisateur ne "anonyme"){
#print "\nT6";
my $tmpTxt = $1;
my $tmpIn = $2;
my $tmpTail = $3;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
my $target="https://fr.wikipedia.org/wiki/".$tmpIn;
$outie->startTag("ref", "target"=>$target);
$outie->startTag("name");
$outie->characters($utilisateur);
$outie->endTag("name");
$outie->endTag("ref");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
elsif ($signedTags && $seg =~ /^(.*)RRR\_(Utilisateur|User):$utilisateurBIS\_RRR(.*)$/ && $utilisateur ne "anonyme"){
#print "\nT7";
my $tmpTxt = $1;
my $tmpTail = $3;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
my $target="https://fr.wikipedia.org/wiki/".$utilisateur;
$outie->startTag("ref", "target"=>$target);
$outie->startTag("name");
$outie->characters($utilisateur);
$outie->endTag("name");
$outie->endTag("ref");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
#V5 elsif ($signedTags && $seg =~ /^(.*)$utilisateurBIS(.*)$/ && $utilisateur ne "anonyme"){
#V6
elsif ($signedTags && $seg =~ /^(.*)$utilisateurBIS(.*)$/ && $1!~ /ZZZname\-type\-.+?\_$/ && $utilisateur ne "anonyme"){
#print "\nT8";
my $tmpTxt = $1;
my $tmpTail = $2;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
$outie->startTag("name");
$outie->characters($utilisateur);
$outie->endTag("name");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
elsif ($signedTags && $seg =~ /^(.*)$datxtBIS(.*)$/ && $datxt ne ""){
#print "\nT9";
my $tmpTxt = $1;
my $tmpTail = $2;
&detectNoteEmoAddress($tmpTxt);
$outie->startTag("signed");
$outie->startTag("date");
$outie->characters($datxt);
$outie->endTag("date");
$outie->endTag("signed");
&detectNoteEmoAddress($tmpTail);
}
else {
&detectNoteEmoAddress($seg);
}
if ($outie->current_element() eq "item"){
$outie->endTag("item");
}
elsif ($outie->current_element() eq "p") {
$outie->endTag("p");
}
}
if ($list){
$outie->endTag("list");
$list = 0;
}
$outie->endTag("post");
if ($bot eq "yes"){
$freq{"bot"}++;
}
if ($freq{$utilisateur}) {
$freq{$utilisateur}++;
}
else {
$freq{$utilisateur} = 1;
push @auteurs, $utilisateur;
}
}
elsif ($msg ne ""){
$nomsg++;
}
}
#Réinitialisation des variables qui changent à chq nv msg
$msg = "";
$date = "";
$utilisateur = "";
$etat="msg";
$statut="";
$MemStatut = "";
}
}
sub countMots {
my $n = 0;
my $ligne = shift;
while ( $ligne =~ /(\w+)/ ) {
$n++;
$ligne =~ s/$1//;
}
return $n;
}
sub newTEI {
open(outXML, ">outTemp.xml");
$outie = new XML::Writer (ENCODING=>"UTF-8", DATA_MODE=>0, DATA_INDENT=> 2 , OUTPUT => \*outXML);
$outie->xmlDecl("UTF-8");
$outie->startTag("TEI");
$outie->startTag("teiHeader");
$outie->startTag("fileDesc");
$outie->startTag("titleStmt");
$outie->startTag("title");
$outie->characters($file);
$outie->endTag("title");
$outie->dataElement("bibl", "Ho-Dac, L.-M. and Laippala V. (2017) Le corpus WikiDisc : ressource pour la caractérisation des discussions en ligne. In Wigham, Ciara R.; Ledegen, Gudrun (eds). Corpus de communication médiée par les réseaux : construction, structuration, analyse., l'Harmattan, pp.107-124, ISBN 978-2-343-11212-1. idHal : halshs-01488029");
$outie->startTag("respStmt");
$outie->dataElement("resp", "récupération du fichier depuis la sauvegarde globale et encodage la TEI P5");
$outie->dataElement("name", "Lydia-Mai Ho-Dac");
$outie->dataElement("email", "hodac_at_univ-tlse2.fr");
$outie->endTag("respStmt");
$outie->startTag("sponsor");
$outie->dataElement("orgName", "CORLI");
$outie->dataElement("note", "Le consortium CORLI est né du rapprochement des deux consortiums de linguistique de la TGIR Huma-Num : Corpus Écrits et Corpus Oraux et Multimodaux (IRCOM). Leurs membres ont souhaité poursuivre leurs activités dans le cadre d’un nouveau programme scientifique autour des notions de Langues, Corpus et Interactions. Le consortium CORLI est porté par l’Institut de Linguistique Française (CNRS – FR 2393)");
$outie->endTag("sponsor");
$outie->endTag("titleStmt");
$outie->startTag("publicationStmt");
$outie->startTag("publisher");
$outie->dataElement("orgName", "CLLE-ERSS");
$outie->startTag("address");
$outie->dataElement("street", "5 Allées A. Machado");
$outie->dataElement("postCode", "31058");
$outie->dataElement("settlement", "Toulouse Cedex 9");
$outie->endTag("address");
$outie->endTag("publisher");
my $localTime = localtime();
$outie->emptyTag("date", "when"=>$localTime);
$outie->startTag("availability");
$outie->startTag("licence", "target"=>"http://creativecommons.org/licenses/by-sa/3.0/");
$outie->dataElement("p", "Following Wikipedia.fr recommendation this corpus (and all its related contents) can be freely distributed and shared subject only to attribution, and share alike. How to reference / cite this contents is given in the titleSmt");
$outie->endTag("licence");
$outie->endTag("availability");
$outie->endTag("publicationStmt");
$outie->startTag("sourceDesc");
$outie->startTag("biblStruct");
$outie->startTag("analytic");
$outie->dataElement("author","Wikipedia");
$outie->dataElement("title","Discussion:".$titreDiscu);
$outie->dataElement("idno",$idPage,"type"=>"Wikipedia");
$outie->endTag("analytic");
$outie->startTag("monogr");
$outie->dataElement("title","Wikipedia");
$outie->startTag("imprint");
$outie->dataElement("date",$dumpDate);
$outie->dataElement("publisher","Wikipedia");
$outie->dataElement("pubPlace","http://dumps.wikimedia.org/frwiki/".$archive);
$outie->endTag("imprint");
$outie->endTag("monogr");
$outie->endTag("biblStruct");
$outie->endTag("sourceDesc");
$outie->startTag("notesStmt");
$outie->startTag("note");
my $tmp="associated with the French Wikipedia article ";
if ($subTyp =~ /courante/){
$tmp="This text is the current (".$dumpDate.") talk page ".$tmp;
}
elsif ($subTyp =~ /archive/){
$tmp="This text is an archive of a current talk page ".$tmp;
}
else {
$tmp="This text is a parallel talk page (".$subTyp.")" .$tmp;
}
$outie->characters($tmp);
$outie->dataElement("name", $article, "type"=>"article");
$outie->endTag("note");
$outie->endTag("notesStmt");
$outie->endTag("fileDesc");
$outie->startTag("encodingDesc");
$outie->startTag("projectDesc");
$outie->endTag("projectDesc");
$outie->startTag("classDecl");
$outie->startTag("taxonomy");
$outie->dataElement("bibl","All the category informations are those occurring in the header of the talk page");
$outie->startTag("category", "type"=>"genre");
$outie->startTag("catDesc", "type"=>"main");
$outie->characters("discussion");
$outie->endTag("catDesc");
$outie->startTag("catDesc", "type"=>"sub");
$outie->characters("Wikipedia talk page");
$outie->endTag("catDesc");
$outie->endTag("category");
$outie->startTag("category", "type"=>"Wikipedia article portal");
$outie->startTag("catDesc");
$outie->characters($metas{$idPage});
$outie->endTag("catDesc");
$outie->endTag("category");
}
#V6 : fonction pour détecter dans le segment de texte s'il y a des notes (ex : conflit d'édition), des émoticones ou des mention de l'interlocuteur
#la fonction renvoie : le texte précédent ce premier segment, le type du premier sous-segment repéré, le texte du sous-segment repéré et le texte suivant ce premier sous-segment
sub detectNoteEmoAddress {
my $tmp = shift;
while ($tmp =~ /^(.*?)ZZZ(q|note|hi|name|emoticone)(\-(.+?))(\-(.+?))\_(.+?)\_\2ZZZ(.*)$/){
$outie->characters($1);
my $tagSouSeg = $2;
$outie->startTag($tagSouSeg, $4=>$6);
my $souSeg = $7;
$tmp = $8;
print "\tNEwXMLtags: $tagSouSeg (",substr($souSeg, 0, 15),")...";
#on traite les segments inclus (deux niveaux d'inclusion traités pour l'instant)
while ($souSeg =~ /^(.*?)ZZZ(q|note|hi|name|emoticone)(\-(.+?))(\-(.+?))\_(.+?)\_\2ZZZ(.*)$/){
print ", $2 (",substr($7, 0, 15),")...";
$outie->characters($1);
$outie->startTag($2, $4=>$6);
my $souSouSeg = $7;
$souSeg = $8;
while ($souSouSeg =~ /^(.*?)ZZZ(q|note|hi|name|emoticone)(\-(.+?))(\-(.+?))\_(.+?)\_\2ZZZ(.*)$/){
print ", $2 (",substr($7, 0, 15),")...";
$outie->characters($1);
$outie->startTag($2, $4=>$6);
$outie->characters($7);
$outie->endTag($2);
$souSouSeg = $8;
}
$outie->characters($souSouSeg);
$outie->endTag($2);
}
$outie->characters($souSeg);
$outie->endTag($tagSouSeg);
}
$outie->characters($tmp);
}
sub cleanSeg {
my $tmp = shift;
#conserver les informations de lien interne
# $tmp=~ s/\[\[([^\]\|]+?)\|([^\]]*?)\]\]/RRR_$1_RRR $2/g;
#seulement pour les utilisateurs
$tmp=~ s/\{\{(non signé2?(\|[^\|]+)+)\}\}/ZZZnote-type-unsigned_$1_noteZZZ/g;
$tmp=~ s/\[\[(Utilisateur:[^\]\|]+?)\|([^\]]*?)\]\]/RRR_$1_RRR $2/g;
$tmp=~ s/\[\[(User:[^\]\|]+?)\|([^\]]*?)\]\]/RRR_$1_RRR $2/g;
#v6 : balisage des "modèles" wikipedia explicites
$tmp=~ s/\[\[Mod.le?:([^\]\|]+?)\]\]/ZZZnote-type-WikipediaModel_$1_noteZZZ/g;
$tmp=~s/\{\{m\|([^\|\}]+?)\}\}/ZZZnote-type-WikipediaModel_$1_noteZZZ/g;
#v6 : balisage des "modèles" wikipedia explicites pertinents
$tmp=~s/\{\{(\{1\}|censur[eé]|controvers[eé]|c[eé]|conflit d\'[ée]dition)\}\}/ZZZnote-type-WikipediaModel_$1_noteZZZ/g;
$tmp=~s/\{\{((non ?)Résolu)\|([^\}])+\}\}/ZZZnote-type-WikipediaModel_$1_noteZZZ$2/gi;
#v6 : balisage des émoticones et autres notes wikipedia
#https://fr.wikipedia.org/wiki/Cat%C3%A9gorie:Mod%C3%A8le_d%27%C3%A9motic%C3%B4ne
$tmp=~s/\{\{(\?\?\?|ange|bisou|bonjour|clin|\;\)|cool|CQFD|espi[eéèê]gle|coquin|\;p|euh \?|\!\?|fier|g[eêé]n[eé]|f[aâ]ch[eé]|grr|oups|mdr|lol|\=D|dr[oô]le|rire|\^\^|rofl|malin|merci|pleure|bouh|sourire|\=\)|surprise|\=o|tire langue|\=P|triste|=\(|bof|boudeur|expert|\=\/|hum|ampoule|amour|Smiley marronnier|bravo|pendlg|conf|plr|yeux|beurk|[eé]nerv[eé]|rougir|sifflote|applau|B[aâ]ille|Troll3|confus|youpi|dans le mur|ennui|attend|malade|Gnii|Injure|h[eé] h[eé]|Gnii2|N\'importe quoi|Je r[eêè]ve|Ah Ah|Blll|2 cents|boulet|R\-[eèé]|d[ée]sespoir|Fiesta|Hic)(\|[0-9]+)?\}\}/ZZZemoticone-type-tango project_$1_emoticoneZZZ/ig;
$tmp=~s/\{\{(Smirc|Cabale[Alien)\|([^\|\}]+?)(\|[0-9]+)?\}\}/ZZZemoticone-type-$1_$2_emoticoneZZZ/ig;#https://fr.wikipedia.org/wiki/Cat%C3%A9gorie:Mod%C3%A8le_d%27%C3%A9motic%C3%B4ne
$tmp=~s/\{\{emoji\|([^\|\}]+?)((\|theme=[^\|\}]+)|(\|taille=[0-9]+))*\}\}/ZZZemoticone-type-emoji_$1_emoticoneZZZ/ig;#https://fr.wikipedia.org/wiki/Mod%C3%A8le:Emoji
$tmp=~s/\{\{([^0-9\|\}]+?)?\}\}/ZZZnote-type-WikipediaModel_$1_noteZZZ/g;
#v6 : balisage des mention d'interlocuteur et autres notes wikipedia
$tmp=~s/\{\{(u\-?|U\/s|U\-simple)\|([^\|\}]+?)(\|(lang=|\\=sous\-page|caption=)+)*\}\}/ZZZname-type-user_$2_nameZZZ/ig;
$tmp=~s/\{\{(notif|notif discret|notif invisible|notif[\-|d]|n\-|notifinv|mention)\|([^\|\}]+?)(\|[^\s\|\}]+)*\}\}/ZZZname-type-notif_$2_nameZZZ/ig;
$tmp=~s/\{\{(bonjour|bonsoir|bienvenue|merci)\|([^\|\}]+?)\}\}/ZZZname-type-$1_$2_nameZZZ/ig;
#V6 : balisage des citations et incises (pour l'instant, uniquement celles qui sont sur la même ligne.)
$tmp=~s/\{\{incise\|([^\|\}]+?)\}\}/ZZZnote-type-incise_$1_noteZZZ/ig;
$tmp=~s/\{\{(citation( bloc)?)\|([^\|\}]+?)\}\}/ZZZq-type-$1_$3_qZZZ/ig;
$tmp=~s/\&\#39;/\'/g;
#V6 : Pour conserver les informations de mise en gras (sauf si elles englobe une signature, un modèle, un emoticone)
while ($tmp =~ /\'\'\'([^\']+)\'\'\'/ and $1 !~/(ZZZ|RRR|\(CES?T\))/){
$tmp=~ s/\'\'\'([^\']+)\'\'\'/ZZZhi-rend-bold_$1_hiZZZ/;
}
while ($tmp =~ /\"\'([^\']+)\"\'/ and $1 !~/(ZZZ|RRR|\(CES?T\))/){
$tmp=~ s/\"\'([^\']+)\"\'/ZZZhi-rend-bold_$1_hiZZZ/;
}
#ne pas conserver les autres informations
$tmp=~ s/\[\[([^\]\|]+?)\|([^\]]*?)\]\]/$2/g;
$tmp=~ s/\'\'/\"/g;
$tmp=~ s/\'\'\'//g;
$tmp=~ s/\'\'//g;
$tmp=~ s/\&lt;u\/?\&gt;//ig;
$tmp=~ s/\&lt;\/?small\&gt;//ig;
$tmp=~ s/\&lt; *br *\&gt;//gi;
$tmp=~ s/\&quot;/\"/gi;
$tmp=~s/\&lt;/</g;
$tmp=~s/\&gt;/>/g;
$tmp=~s/\&\w+;//g;
$tmp=~s/\&[x#]+\d+;//g;
$tmp=~ s/<.*?>//g;
$tmp=~ s/[\[\]<>]//g;
$tmp=~ s/[\{\}]//g;
$tmp=~ s/#(:+)? ?//g;
$tmp=~ s/((WP|Wikipedia):)(.*?)\|//gi;
$tmp=~ s/(WP: ?(.*?))/$2/g;
# $tmp=~ s/Zlt;/</g;
# $tmp=~ s/Zgt;/>/g;
return $tmp;
}
sub norm{
my $tmp = shift;
if ($tmp =~/^ja/){
return "01";
}
elsif ($tmp =~/^f/){
return "02";
}
elsif ($tmp =~/^mar/){
return "03";
}
elsif ($tmp =~/^a[pv]/){
return "04";
}
elsif ($tmp =~/^ma/){
return "05";
}
elsif ($tmp =~/^(juin|jun)/){
return "06";
}
elsif ($tmp =~/^(jui|jul)/){
return "07";
}
elsif ($tmp =~/^(ao|ag|au)/){
return "08";
}
elsif ($tmp =~/^se[tp]/){
return "09";
}
elsif ($tmp =~/^o[kc]/){
return "10";
}
elsif ($tmp =~ /^nov/){
return "11";
}
elsif ($tmp =~/^d/){
return "12";
}
else {
return "XX";
}
}
sub ClassDeclAutre{
#La liste des modèles actuels est donnée ici :https://fr.wikipedia.org/wiki/Aide:Mod%C3%A8les_de_maintenance
#renvoi
#post la ligne si c'est le début de la discussion
#trad la ligne si c'est une traduction
#XXXX la ligne si c'est la catégorie autre XXXX
#
my $tmp = shift;
$tmp =~ s/\{\{(NAMESPACE|BASEPAGENAME)\}?\}?//g;
$tmp =~ s/\&amp;(lt|gt|quot);//g;
$tmp =~ s/(\/?(small|big|center|nowiki|div)|br\/?)//g;
$tmp =~ s/^\s*\}\}\s*|//;
$tmp =~ s/^=+/titreInCat : /;
if ($tmp =~ /^[\|\s\*\[]*\{\{ *(traduit|traduction|translat)/i or $tmp =~ /^ *\{\{.*[ \-]?OTRS/){
return "trad\t$tmp";
$trad = 1;
}
elsif ($tmp =~ /^[\|\s\*\[\{]+(todo|. faire|atelier (de relecture|d\'.criture)|en travaux|instructions P.V|relecture|article relu|.v.nement en cours|formation)/i){
return "articleChantier\t$tmp";
$articleChantier = 1;
}
elsif ($tmp =~ /^[\|\s\*\[\{]+(.bauche|ancien AdQ|article (rejet.|d.chu|promu) en (AdQ|BA)|intention|article mentionn. par la presse)/i or $tmp=~/^ *\{\{ ?(accueil ?lumi.re|article mis en lumi.re|\| ?lumi.re)/i){
return "articleAssessment\t$tmp";
$articleAssessment = 1;
}
elsif ($tmp =~ /^[\|\s\*\[\{]+([aA]rchive LANN|U\-R3R|(m\|)?[iI]nstructions AsS|[hH]istorique d.truit|[Aa]vertissement ([Hh]omonymie|ISBN)|. illustrer|[bB]lanchiment de courtoisie|confusion|admissibilit|. sourcer|blog animal|protection|m|aidez\-moi|article sensible)/){
#LANN -- Article non neutre
#U-R3R -- guerre d'édition
#(m\|)?Instructions AsS -- ne cite aucune source et semble impossible à vérifier.
return "problem\t$tmp";
$problem = 1;
}
elsif ($tmp =~ /^[\|\s\*\[\{]+(archive|discussion archiv.e|discussion:.*?\/archive|archivage par)/i){
return "archive\t$tmp";
$arch = 1;
}
elsif ($tmp =~ /^[\|\s\*\[\{]+(instructions? P.S|page conserv.e|article conserv.|cette page a .t. anciennement|\{\{user:[^\/]+\/(cons|sup)|suppression|conservation)/i or ($tmp =~ /^ *\{\{ *\'*Trait.\'* (par|\:)/i && $tmp =~ /conserv|supprim/)){#Débat sur la conservation ou suppression de l'article
return "keepOrsuppr\t$tmp";
$keepOrsuppr = 1;
}
elsif ($tmp =~ /^[\|\s\*\[\{]+(instructions? P\.?C\.?P|copie par un|du ?Bistro|contenu report. dans)/i){#indication de violation copyright ou de copie
return "copy\t$tmp";
$copy = 1;
}
elsif ($tmp =~ /^[\|\s\*\[\{]+(avertissement|(discussion )?(hors[ \-]sujet|h[ \-]s))/i or $tmp =~ /^ *\{\{ *(pub|promo|rappel crit.res)/i){
return "WPisNot\t$tmp";
$WPisNot = 1;
}
# elsif ($tmp =~ /^[\|\s\*\[\{]+.*\}\}/i){#ligne à indiquer dans le front mais ne pas conserver dans les méta-données (indication du sommaire, d'un traitement spécifique par un contributeur, d'un projet ...)
elsif ($tmp =~ /^[\|\s\*\[\{]+/){#ligne à indiquer dans le front mais ne pas conserver dans les méta-données (indication du sommaire, d'un traitement spécifique par un contributeur, d'un projet ...)
if ($tmp =~ /\bprojet\b/i){
return "projet\t$tmp";
$projet = 1;
}
elsif ($tmp !~ /(sommaire|en\-t.ete de page)/){
return "front\t$tmp";
}
else {
return "";
}
}
else{
return "post\t$tmp";
}
}