MikCil/disambiguation-pretraining

Disambiguation Pretraining

Questo dataset raccoglie esempi testuali pensati per pretraining lessicale: l'obiettivo è migliorare la comprensione degli LLMs della semantica lessicale.

L'idea di partenza era creare dati da SemCor, WordNet e Wiktionary per la disambiguazione, usando soprattutto esempi e frasi reali per rendere più chiaro il significato dei lessemi.

File

• pretraining_text.jsonl: 900.009 righe.

Ogni riga contiene:

• id: identificativo stabile della riga di pretraining.
• source: sorgente principale della riga.
• lang: lingua del testo generato (en o it).
• text: testo pronto per pretraining.
• metadata: informazioni minime su lemma, senso, formato e istanza di origine quando disponibili.

Sorgenti usate

Ho usato tre famiglie di dati:

• SemCor 3.0: contesti inglesi con annotazione di senso WordNet 3.0. Probabilmente la parte più affidabile per la disambiguazione vera e propria.
• WNGT examples/glosses: esempi e definizioni presi da WordNet. Le glosse sono state usate sempre come supporto agli esempi, non da sole.
• Wiktionary / wiktextract: estratti inglesi e italiani, filtrati per glosse ed esempi utili. L'estratto italiano è stato usato solo per record lang_code=it; l'estratto inglese solo per record lang_code=en.

Per i sensi WordNet è stata usata la libreria Python wn con omw-en:2.0.

Statistiche principali

• Righe finali in pretraining_text.jsonl: 900.009.
• Righe da SemCor: 223.049.
• Righe da WNGT examples: 42.537.
• Righe da Wiktionary inglese: 546.896.
• Righe da Wiktionary italiano: 19.290.
• Righe contrastive miste: 68.237.
• Duplicati scartati durante la generazione: 13.141.

Distribuzione per formato:

• contextual_explanation: 723.064 righe.
• contrastive_senses: 125.954 righe.
• wiktionary_lexical_note: 50.991 righe.

Processo di preparazione

In breve:

1. Ho normalizzato SemCor, WNGT e Wiktionary in un formato comune.
2. Per i dati WordNet-linked ho risolto i sense key con omw-en:2.0.
3. Ho ricostruito frasi leggibili, trasformando underscore come eye_contact in testo naturale quando compaiono negli esempi.
4. Ho tenuto le definizioni come supporto al contesto, dando priorità agli esempi reali.
5. Ho generato testo di pretraining con template variati, in inglese per esempi inglesi e in italiano per esempi italiani.
6. Esempi, target e definizioni sono sempre racchiusi tra virgolette doppie nel campo text.
7. Sono stati scartati esempi troppo brevi, troppo lunghi, vuoti, con URL, residui wiki evidenti o pagine meta.

Nota sui template

Il dataset non usa un unico formato ripetuto. La maggior parte delle righe spiega il senso di una parola dentro una frase; una parte confronta due sensi dello stesso lemma; una parte più piccola mantiene una forma tipo nota lessicale.

Le variazioni complete dei template sono documentate in TEMPLATE_VARIATIONS.md.

Accesso

Dataset gated con approvazione manuale.

Limitazioni note

• Le definizioni Wiktionary non sono allineate a WordNet.
• Alcuni esempi Wiktionary possono contenere citazioni o registri molto specifici, anche dopo i filtri.
• Le statistiche qui sopra descrivono una build specifica del 30 giugno 2026.