Delete nuovo_logprob_minerva350

nuovo_logprob_minerva350/README.md

@@ -1,45 +0,0 @@
-# Relazione Metodologica: Estrazione di Metriche Probabilistiche per l'Analisi di Interpretazioni Metaforiche
-## 1. Introduzione
-Il presente documento descrive il protocollo computazionale utilizzato per valutare quantitativamente le interpretazioni umane di stimoli metaforici attraverso un modello linguistico di grandi dimensioni (LLM). L'obiettivo è misurare il grado di "plausibilità" (o probabilità) che il modello assegna a specifiche interpretazioni fornite dai partecipanti, dato un determinato contesto metaforico.
-## 2. Setup Sperimentale
-### 2.1 Modello e Architettura
-È stato utilizzato il modello Minerva-350M-base-v1.0, sviluppato da SapienzaNLP.
-Tipo: Decoder-only Causal Language Model.
-Specificità: Ottimizzato per la lingua italiana.
-Modalità: Valutazione in zero-shot (il modello non ha ricevuto addestramento specifico sulle coppie metafora-interpretazione).
-### 2.2 Dataset e Input
-I dati consistono in:
-Contesto Metaforico ($$C$$): La frase o il frame frasale che contiene la metafora.
-Candidato Interpretazione ($$I$$): L'osservazione testuale fornita dai partecipanti per completare o spiegare il senso della metafora.
-## 3. Metodologia di Scoring
-Il nucleo del processo consiste nel calcolare la Log-Likelihood Condizionale. Vogliamo determinare la probabilità che il modello generi l'interpretazione $I$ immediatamente dopo aver "letto" il contesto $C$.
-### 3.1 Elaborazione della Sequenza
-Per ogni coppia, viene costruita una sequenza testuale concatenata $$S = [C; I]$$. Per garantire la corretta separazione dei token, viene inserito uno spazio di giunzione tra il contesto e l'interpretazione.
-### 3.2 Calcolo della Log-Likelihood (LL)
-Il modello assegna una probabilità a ogni token della sequenza. Tuttavia, per i nostri scopi, siamo interessati esclusivamente alla probabilità dei token che compongono l'interpretazione, condizionata dalla presenza del contesto.
-Procedura tecnica:
-Si calcola la lunghezza del contesto in termini di token ($$L_C$$).
-Si esegue un forward pass del modello sulla sequenza completa.
-Si applica una maschera di calcolo sulle etichette (labels): i token appartenenti al contesto $C$ vengono impostati a $-100$ (valore convenzionale per ignorarli nel calcolo della Loss in PyTorch).
-La metrica estratta è la Log-Likelihood media per token:
-$$LL(I|C) = -\text{CrossEntropy}(I_{L_C \dots L_{total}})$$
-In termini intuitivi, un valore di LL più vicino allo zero (es. $-1.5$) indica un'interpretazione che il modello considera molto probabile/naturale; un valore molto negativo (es. $-8.0$) indica un'interpretazione ritenuta improbabile.
-## 4. Normalizzazione e Metriche Finali
-Poiché ogni metafora può avere più interpretazioni associate (derivate da diversi partecipanti), i punteggi grezzi vengono normalizzati per permettere un confronto relativo.
-### 4.1 Probability Normalized (Softmax)
-Per ogni metafora $m\_id$, i punteggi di log-likelihood ($score_i$) di tutte le interpretazioni associate vengono trasformati in una distribuzione di probabilità tramite la funzione Softmax:
-
-$$P(I_i) = \frac{e^{score_i}}{\sum_{j=1}^{n} e^{score_j}}$$
-Questa metrica risponde alla domanda: "Data questa specifica metafora, quanto è probabile questa interpretazione rispetto alle altre fornite dai partecipanti?"
-## 5. Fondamento Metodologico e Replicabilità
-Per replicare l'esperimento, è necessario seguire questi pilastri implementativi:
-Fase
-Requisito Tecnico
-Allineamento Context-Target
-Il calcolo della probabilità deve ignorare i token del contesto per evitare bias sulla lunghezza della metafora.
-Invarianza della Lunghezza
-Utilizzando la Mean Log-Likelihood (derivata dalla CrossEntropy media), si mitiga il bias per cui frasi più lunghe ricevono naturalmente probabilità totali più basse.
-Stabilità Numerica
-La normalizzazione Softmax deve essere applicata sottraendo il valore massimo dei log-punti ($score - \max(scores)$) per evitare l'overflow computazionale (come implementato nella funzione compute_softmax).
-
-