Hugging Face's logo

Spaces:
ervua
/
nlp-project
Runtime error

App Files Community
nlp-project
File size: 3,169 Bytes
6dfa658
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
{
  "settings": {
    "corpus_path": "C:\\Users\\bulent\\Desktop\\NLP\\data\\corpus_index.jsonl",
    "EMBED_MODEL_NAME": "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2",
    "DENSE_MODEL_PATH": "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2",
    "GEN_MODEL_NAME": "google/flan-t5-small",
    "GEN_MODEL_PATH": "google/flan-t5-small",
    "CROSS_ENCODER_PATH": "",
    "USE_LLM": false,
    "USE_RERANKER": false,
    "USE_CROSS_ENCODER": false,
    "RETRIEVE_K": 10,
    "EVAL_K": 10
  },
  "counts": {
    "documents": 13594,
    "chunks": 33719,
    "eval_total": 150,
    "eval_valid": 150,
    "retrieval_eval_valid": 12,
    "eval_skipped": 150
  },
  "retrieval_metrics": {
    "BM25": {
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6972222222222223,
      "nDCG@10": 0.7696119053384006
    },
    "Dense": {
      "Recall@5": 0.5833333333333334,
      "Recall@10": 0.75,
      "MRR": 0.39166666666666666,
      "nDCG@10": 0.4775164112518369
    },
    "Hybrid": {
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6160714285714286,
      "nDCG@10": 0.7098460223556571
    }
  },
  "answer_metrics": {
    "EM": 0.0,
    "TokenF1": 0.30693087475201775,
    "BLEU1": 0.2520146941149424,
    "ROUGE-L": 0.27190866692598664
  },
  "groundedness_metrics": {
    "Faithfulness": 1.0,
    "CitationAccuracy": 0.0
  },
  "ablation": [
    {
      "name": "Baseline(Hybrid, Extractive)",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6160714285714286,
      "nDCG@10": 0.7098460223556571,
      "TokenF1": 0.30693087475201775
    },
    {
      "name": "+LexicalReranker",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6577380952380952,
      "nDCG@10": 0.7406018762247023,
      "TokenF1": 0.30689132160181315
    },
    {
      "name": "+CrossEncoderReranker",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6160714285714286,
      "nDCG@10": 0.7098460223556571,
      "TokenF1": 0.30693087475201775
    },
    {
      "name": "+Lexical+CrossEncoder",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6577380952380952,
      "nDCG@10": 0.7406018762247023,
      "TokenF1": 0.30689132160181315
    },
    {
      "name": "+LLM",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6160714285714286,
      "nDCG@10": 0.7098460223556571,
      "TokenF1": 0.1760819840884932
    },
    {
      "name": "+Lexical+LLM",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6577380952380952,
      "nDCG@10": 0.7406018762247023,
      "TokenF1": 0.17422476740521253
    },
    {
      "name": "+CrossEncoder+LLM",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6160714285714286,
      "nDCG@10": 0.7098460223556571,
      "TokenF1": 0.1760819840884932
    },
    {
      "name": "+Lexical+CrossEncoder+LLM",
      "Recall@5": 0.9166666666666666,
      "Recall@10": 1.0,
      "MRR": 0.6577380952380952,
      "nDCG@10": 0.7406018762247023,
      "TokenF1": 0.17422476740521253
    }
  ]
}