diff --git a/AIR-Bench_24.05/INF_test_20241230/bge-reranker-large/results_20250106022245-92d938bb751cdeb9aff05885db84a4c9.json b/AIR-Bench_24.05/INF_test_20241230/bge-reranker-large/results_20250106022245-92d938bb751cdeb9aff05885db84a4c9.json new file mode 100644 index 0000000000000000000000000000000000000000..8336ee9a1125cc7677d5e5a0a559c24532eecf8c --- /dev/null +++ b/AIR-Bench_24.05/INF_test_20241230/bge-reranker-large/results_20250106022245-92d938bb751cdeb9aff05885db84a4c9.json @@ -0,0 +1,11657 @@ +[ + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63551 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66943 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8006 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63343 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68162 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51059 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72865 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66003 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5262 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64245 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63367 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59986 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63511 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48757 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67483 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4825 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60506 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.3963 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63909 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56168 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49721 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57601 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57153 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3997 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51371 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64212 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42661 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59084 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36317 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57585 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42278 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3861 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47997 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58673 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43396 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64381 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33639 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.68067 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28582 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4612 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33865 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50253 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25395 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44067 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24313 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24819 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.62535 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37409 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47397 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33277 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60614 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58467 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7241 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61947 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61614 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47586 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72094 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57147 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49081 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60424 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54753 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.52898 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57248 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46769 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56895 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63716 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4652 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56291 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39124 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63588 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52334 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39563 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4847 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.545 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42709 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.54314 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37971 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.45206 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.60567 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41488 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.49753 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33626 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57081 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46023 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35652 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44544 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53651 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40073 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.57124 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30391 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6221 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26665 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45137 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.34648 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49024 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23596 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40615 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22633 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23266 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58517 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34832 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.495 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.32474 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62157 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58612 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74677 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63654 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62235 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48381 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74389 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57967 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50142 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.62195 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.5549 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53943 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57783 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48081 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55878 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64769 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.47799 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.57182 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40783 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65173 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53518 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40953 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49441 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55454 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44332 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.54865 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38407 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42596 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.60913 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41907 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47284 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.343 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58058 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48215 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35132 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44803 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51877 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39622 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5517 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.31251 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60523 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26622 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47947 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36265 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5106 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23463 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41627 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22186 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24474 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58053 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34277 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52142 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.34655 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6542 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.62049 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.78219 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66921 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65898 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52077 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76906 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61273 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53367 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65408 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59598 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57124 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61266 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5243 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59364 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68653 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52544 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60761 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45061 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67979 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56984 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45351 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53202 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58994 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48918 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.58603 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41813 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44069 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.6482 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45697 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48312 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3752 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61198 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51857 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3797 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4833 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53971 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56544 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.35387 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.63158 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.29133 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52198 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.40976 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55656 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25342 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4427 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2447 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.27911 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60276 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36372 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5548 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38104 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70206 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67943 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79761 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71145 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70846 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59527 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78993 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66534 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60418 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69705 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.66088 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63565 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66713 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60588 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7147 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60524 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65828 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55406 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70871 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62553 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54626 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61316 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65124 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57081 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66532 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.52047 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53584 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.68064 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55476 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55019 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49405 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65133 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56256 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49624 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56672 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64232 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53555 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65723 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47566 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.67533 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41641 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58493 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.50166 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60216 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30814 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47081 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30452 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42223 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.63416 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49325 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59299 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44732 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70912 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68541 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79877 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71733 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71425 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.609 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79279 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67296 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6162 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70248 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.66945 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64838 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67594 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6157 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6656 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.71808 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61408 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6632 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.713 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63054 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56143 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6219 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65836 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.6718 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54003 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54581 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.68566 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57033 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55671 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51714 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65639 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56919 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52002 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57918 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65321 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.55208 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66723 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49869 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.68085 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5913 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5216 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60892 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31719 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47529 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31141 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46034 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.63863 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51574 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60081 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46804 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70912 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68541 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79877 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71733 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71425 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.609 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79279 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67296 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6162 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70248 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.66945 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64838 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67594 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6157 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6656 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.71808 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61408 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6632 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.713 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63054 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56143 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6219 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65836 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58087 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.6718 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54003 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54581 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.68566 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57033 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55671 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51714 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65639 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56919 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52002 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57918 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65321 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.55208 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66723 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49869 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.68085 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44472 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5913 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5216 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60892 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31719 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47529 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31141 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46034 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.63863 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51574 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60081 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46804 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.4216 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.32598 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41694 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.44736 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.36735 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28269 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42926 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.35859 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.28197 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.41593 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29213 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.33096 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.35225 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22981 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23332 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26133 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2149 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.27541 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.18232 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30205 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27583 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.18857 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2357 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27974 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.20756 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.23413 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.15823 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12385 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19611 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.1801 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17864 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.11821 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2497 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28423 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.10894 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17735 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15733 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.12952 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.17286 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.14289 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.14476 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07923 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.19451 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.15063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20822 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08385 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19015 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07701 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.10172 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16778 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.09574 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.29783 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17007 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5241 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.43736 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58595 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.54337 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.49657 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37799 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61868 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.45625 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.37249 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.52533 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40717 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.41996 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.45447 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32694 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36464 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.436 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.32023 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40642 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.26575 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46476 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.38759 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.27448 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.33686 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40558 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.30498 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36221 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24093 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21837 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36316 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27055 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27567 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.18971 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39802 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.39193 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.18837 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28155 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28256 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.22254 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30513 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.19937 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30569 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13482 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32727 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.2411 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34272 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13747 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28604 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13013 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.146 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33202 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.1711 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41799 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26041 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.55207 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47736 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65135 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57054 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53347 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.40417 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67773 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49065 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.40757 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55459 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.44973 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.45171 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.48814 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37045 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42002 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51433 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36656 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45969 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30475 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53865 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4327 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.31341 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.38093 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45202 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.34303 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41752 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.27765 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26346 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45338 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30884 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32121 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22934 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46336 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.4197 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.22964 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32931 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.34698 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.26868 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37214 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.22583 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40591 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16448 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38329 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27992 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.40087 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33089 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1502 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.16813 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42261 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21323 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45998 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.29205 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57909 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51905 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69559 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59552 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56699 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43227 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70771 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.52016 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43895 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57884 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49036 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.47986 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52171 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41903 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47797 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58841 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.41794 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50855 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34779 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.59347 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47563 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35578 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42752 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49367 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.38543 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47381 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31874 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31851 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5385 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35644 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36803 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27128 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5293 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44486 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27752 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38182 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41988 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32368 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.44512 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25752 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.50802 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20006 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42489 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32225 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45469 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18789 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3725 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17497 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.19269 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49235 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26082 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49331 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.31876 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59992 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54732 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70481 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6127 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.58936 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46197 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71654 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54211 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.46881 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59596 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51943 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50678 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54525 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45937 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5144 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60537 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4572 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53512 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39387 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60897 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50259 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39553 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46739 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52205 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42043 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51658 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36335 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36835 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55912 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.40188 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40276 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.32341 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55048 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45957 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33063 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42233 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47876 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37364 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49865 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30285 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53572 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24919 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44881 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.35883 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47528 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.211 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38487 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19853 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24124 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51182 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.32131 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5076 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3414 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60127 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54856 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70503 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61384 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59058 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46465 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71699 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54356 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47114 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59695 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52121 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50937 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54715 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46147 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51571 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60601 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4592 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53609 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39704 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60973 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50354 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39845 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46943 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52339 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.4225 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51813 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36757 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37069 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5601 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4052 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40419 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3288 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55132 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46043 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33579 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42507 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48161 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3773 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50119 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30763 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.537 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25534 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44986 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36245 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47623 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21243 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3855 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1997 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.2496 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.32644 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5085 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.34403 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60127 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54856 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70503 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61384 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59058 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46465 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71699 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54356 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47114 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59695 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52121 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50937 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54715 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46147 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51571 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60601 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4592 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53609 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39704 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60973 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50354 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.39845 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46943 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52339 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.4225 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51813 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36757 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37069 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5601 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4052 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40419 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3288 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55132 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46043 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33579 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42507 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48161 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3773 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50119 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30763 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.537 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.25534 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44986 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36245 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47623 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21243 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3855 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1997 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.2496 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51268 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.32644 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5085 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.34403 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.4216 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.32598 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41694 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.44736 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.36735 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28269 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42926 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.35859 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.28197 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.41593 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29213 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.33096 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.35225 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22981 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23332 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26133 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2149 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.27541 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.18232 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.30205 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27583 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.18857 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2357 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27974 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.20756 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.23413 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.15823 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.12385 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19611 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.1801 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17864 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.11821 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2497 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28423 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.10894 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17735 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15733 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.12952 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.17286 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.14289 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.14476 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07923 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.19451 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.15063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20822 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08385 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19015 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07701 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.10172 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16778 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.09574 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.29783 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17007 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57425 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.48046 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63843 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59616 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.54692 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.42806 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67051 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49819 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.42318 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5771 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45705 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46476 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50145 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37495 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41035 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.48728 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37174 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4593 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31635 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52556 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.43352 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.32043 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3877 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45968 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.36742 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41486 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28486 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24848 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41174 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.31201 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30577 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22391 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44677 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47336 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.21958 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32043 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.31412 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25915 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33439 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24112 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34315 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16421 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39202 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29508 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41154 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16397 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3229 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15638 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.18033 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38054 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.199 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47198 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.29646 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63625 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.55656 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.75079 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66266 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61841 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48916 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76643 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57105 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49854 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63997 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54059 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53468 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57205 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46598 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.50895 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61347 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4657 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55609 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40214 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64294 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52413 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40704 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47541 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55058 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45304 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51657 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35812 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32442 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55051 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3888 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38213 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.30518 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55185 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54462 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29613 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40866 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41226 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34031 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43612 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30496 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48731 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.22594 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50592 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.37905 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5227 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20931 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4001 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19799 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24233 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51347 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27325 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55924 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.368 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71771 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66533 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84301 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74426 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58714 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83753 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66136 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59585 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7227 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65385 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62157 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67269 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59844 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64062 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.74901 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60711 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67297 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53126 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.74696 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63684 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53307 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59781 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65543 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58395 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64703 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47136 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44597 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.70003 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51532 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4835 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42538 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67703 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64074 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41682 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53461 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55713 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47461 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.57819 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41956 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65446 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32905 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62313 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51136 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64893 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27882 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.48815 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27077 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34008 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.62907 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38896 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65575 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45626 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85649 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82623 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88633 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86686 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.85731 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.80331 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.90445 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.81663 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.79986 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83935 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80842 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8307 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.8127 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81283 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.82781 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.81812 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.81401 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.81576 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.8317 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.79333 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.79708 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81212 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.8319 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81812 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8506 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.73702 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.6751 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.78647 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76813 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64675 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.73221 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.79332 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.79538 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71418 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.74851 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.80712 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.74696 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.79753 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.77219 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.76609 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.64844 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.8287 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.788 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.79297 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.42396 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.57862 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4338 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.71325 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70857 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.79184 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.68539 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88503 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89144 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88954 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.88044 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85828 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91792 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87192 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87304 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86409 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.84995 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83414 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.84246 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.85135 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8682 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.85091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85974 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84387 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87429 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80552 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70846 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.80823 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82454 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66881 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.81275 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.81602 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.83053 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79954 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84403 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86314 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78723 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.85815 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.87177 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.82776 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.60035 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.45942 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88926 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73243 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.78556 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.83628 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.79515 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88503 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89144 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88954 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.88044 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85828 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91792 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87192 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87304 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86409 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.84995 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83414 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.84246 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.85135 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8682 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.85091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85974 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84387 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87429 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80552 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70846 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.80823 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82454 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66881 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.81275 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.81602 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.83053 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79954 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84403 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86314 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78723 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.85815 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.87177 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.82776 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.60035 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.45942 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88926 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73243 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.78556 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.83628 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.79515 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63551 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66943 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8006 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63343 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68162 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51059 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72865 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66003 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5262 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64245 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63367 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59986 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63511 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48757 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67483 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4825 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60506 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.3963 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63909 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56168 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49721 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57601 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57153 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3997 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51371 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64212 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42661 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59084 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36317 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57585 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42278 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3861 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47997 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58673 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43396 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64381 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33639 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.68067 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28582 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4612 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33865 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50253 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25395 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44067 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24313 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24819 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.62535 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37409 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47397 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33277 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.33986 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.39709 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48983 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.33193 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.39902 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.30599 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47033 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.35714 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.31956 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.34212 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.38608 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.33333 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.36052 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33967 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45249 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50977 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.3466 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.41017 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29016 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47145 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3655 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.29198 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35358 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.38503 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.30498 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4174 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2941 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40284 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53436 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.31935 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41345 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27885 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43731 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26345 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30922 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35633 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47385 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34301 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49926 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.22509 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23429 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35041 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.25908 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38315 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19536 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30719 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19344 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17776 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53347 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.31215 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30626 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.22752 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.24478 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.30377 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37336 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.23708 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.28971 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.22597 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.35007 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.26168 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.25077 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.24501 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.29436 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.24749 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.26628 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.28202 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36263 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42019 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.28991 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.32537 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24796 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.3858 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2907 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.24335 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.29106 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.30283 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.24671 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.34558 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24708 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33752 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45655 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26479 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33548 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24704 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36115 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19344 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26705 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.30015 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40525 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.29347 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42168 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.18634 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51667 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20588 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.28697 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21707 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31336 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24983 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15745 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.15427 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45776 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27418 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.23849 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17991 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.15464 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.19917 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.22612 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14663 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.1825 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.14962 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.20116 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.16484 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.16561 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.149 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.1927 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.15845 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.17028 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.20351 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.24808 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.28203 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.20961 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21588 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.18404 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24378 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19483 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.17564 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2058 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.19809 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.1768 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.24218 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.18483 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24949 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.31208 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.23155 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.18846 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24814 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1214 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.20365 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21699 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.29592 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.22083 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30243 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.1408 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.36667 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.15995 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.18485 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.15892 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20895 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12088 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16787 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11635 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.11845 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29654 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21142 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.15047 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.11966 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04213 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05459 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04853 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.0391 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04781 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04778 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04415 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0451 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.05069 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03944 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.05405 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04696 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.0472 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06209 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.06739 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.06346 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.06264 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05504 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06344 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0549 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05232 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05792 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.0625 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05378 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05507 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.07 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.06666 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07935 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.07069 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.06837 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.06647 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.07288 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05918 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03144 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.07593 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.06715 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.0906 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07418 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08917 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.05897 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08588 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07097 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04889 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05306 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.05057 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03898 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03931 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03871 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.06271 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.0674 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.08323 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03669 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03665 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02214 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02831 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02442 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02054 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02608 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02243 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02374 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02723 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.02058 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02845 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02561 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02513 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03278 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03465 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03224 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03288 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02822 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03424 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02802 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02688 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03134 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03284 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02795 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02921 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.0362 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03719 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04175 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03608 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03717 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.03456 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04101 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.03027 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01638 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.036 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04752 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.04012 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04667 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03333 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04392 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02522 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02951 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02596 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02099 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02016 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02057 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03821 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03436 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04628 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01898 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.02035 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00244 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00205 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00248 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00261 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00285 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00256 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00251 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00347 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00329 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00282 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00342 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00269 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00362 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00418 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00361 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00346 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.0041 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00303 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00164 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0036 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00475 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00333 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00439 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00414 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00252 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00202 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00382 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00344 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00463 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0019 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00203 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63551 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66943 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8006 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63343 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68162 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51059 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72865 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66003 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5262 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64245 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63367 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59986 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63511 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48757 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67483 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4825 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60506 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.3963 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63909 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56168 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40957 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49721 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57601 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57153 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3997 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51371 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64212 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42661 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59084 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36317 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57585 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42278 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3861 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47997 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58673 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.43396 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64381 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33639 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.68067 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28582 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4612 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33865 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50253 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25395 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44067 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2424 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.24819 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.62535 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37329 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47397 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33191 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70036 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73707 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.85888 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7026 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74951 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58464 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78956 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72024 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60689 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70133 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.70773 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66597 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70053 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57761 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70643 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.75415 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56966 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68424 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48921 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.72682 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63301 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49153 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59555 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66017 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53029 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66581 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48421 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.6039 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.73601 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51615 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66381 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44712 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65028 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50705 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46478 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55613 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67254 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52068 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.71632 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41507 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.76278 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.364 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55124 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.41568 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60277 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31396 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.49688 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3068 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32284 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.7223 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45602 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53549 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38567 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71174 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74905 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86364 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71545 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75929 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59866 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79686 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73099 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62364 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71123 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71886 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67959 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71197 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59749 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7212 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7642 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59214 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69565 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51237 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.73696 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64924 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51287 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61224 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67602 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55017 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68336 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5029 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62035 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.74599 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53517 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.67496 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47197 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66201 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.52089 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.48502 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57583 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68622 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53719 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72738 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.43426 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77401 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.38482 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56929 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43217 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.61688 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.32637 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50597 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.32145 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34748 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73002 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.47477 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54732 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39852 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71949 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75465 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86526 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7231 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76688 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61076 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80072 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73804 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63376 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71989 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7265 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6871 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71952 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.6102 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72681 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.76707 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60518 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70261 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52647 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7409 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65715 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52647 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62261 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68155 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56293 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69194 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51756 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62896 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.74862 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55018 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68186 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48748 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66789 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53039 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50005 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58698 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69446 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.55045 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7344 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45135 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77649 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40153 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57725 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44653 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.62224 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.33707 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.5103 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33198 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36589 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73234 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4918 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55541 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40728 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72284 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75749 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86562 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72634 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76957 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6171 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80247 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7413 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63894 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7237 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72992 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69163 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72306 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61482 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72895 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.76794 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60897 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70522 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53438 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.74281 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66092 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53409 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6271 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6852 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5694 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.6949 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.52635 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63339 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.74943 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55709 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68528 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49703 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67086 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53678 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.5087 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59248 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69825 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5573 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73769 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46347 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77735 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41351 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58431 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45681 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.62608 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34353 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51361 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33991 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38188 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73337 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50138 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5605 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41502 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72304 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75756 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86565 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72648 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7696 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61734 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80257 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74145 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63913 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72382 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73008 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69179 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72314 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61499 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72901 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.76801 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60909 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70534 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53454 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.74293 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66106 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53439 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62722 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68536 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56951 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69498 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.52661 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63353 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.74955 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55734 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68536 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49732 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67107 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53713 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50904 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59259 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69828 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5576 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73778 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46387 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77744 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58454 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45737 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.62645 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34401 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51387 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.34022 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38235 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73345 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50163 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56103 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41633 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-large", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2025-01-06T02:22:45Z", + "is_anonymous": true, + "revision": "92d938bb751cdeb9aff05885db84a4c9" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72304 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75756 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86565 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72648 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7696 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61734 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80257 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74145 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63913 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72382 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73008 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69179 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72314 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61499 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72901 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.76801 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60909 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70534 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53454 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.74293 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66106 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53439 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62722 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68536 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56951 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69498 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.52661 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63353 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.74955 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55734 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68536 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49732 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67107 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53713 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50904 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59259 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69828 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5576 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73778 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46387 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77744 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.41387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58454 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45737 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.62645 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34401 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51387 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.34022 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38235 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73345 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50163 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56103 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41633 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/INF_test_20241230/bge-reranker-v2-m3/results_20250106021856-6a9c36514ba31e584629b28517095014.json b/AIR-Bench_24.05/INF_test_20241230/bge-reranker-v2-m3/results_20250106021856-6a9c36514ba31e584629b28517095014.json new file mode 100644 index 0000000000000000000000000000000000000000..2d674fdd80acfa719b31e333df5113dbf78ad38d --- /dev/null +++ b/AIR-Bench_24.05/INF_test_20241230/bge-reranker-v2-m3/results_20250106021856-6a9c36514ba31e584629b28517095014.json @@ -0,0 +1,11657 @@ +[ + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.85768 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82515 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82444 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87206 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82843 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81042 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.85234 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.82731 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83815 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84846 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83321 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72953 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.77031 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70156 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73644 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72944 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77487 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70864 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.745 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.72646 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.75209 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71887 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72467 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77729 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.72761 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63181 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.75922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.78033 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64474 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61519 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73066 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73071 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.78438 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71771 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.81195 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75271 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.698 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69155 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61713 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65441 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55668 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34648 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43997 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33864 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.822 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.6018 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.75221 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56309 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5166 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74533 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75915 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73194 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76946 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78753 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7397 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77869 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75233 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74304 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7367 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73927 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74576 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75809 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67996 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70778 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64366 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.68086 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68712 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7175 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67537 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68911 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.67322 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.69421 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68017 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68022 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.7174 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.66589 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.69301 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.57454 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7009 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.65656 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.70616 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6135 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.63415 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66883 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.6668 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72019 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65402 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7413 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68221 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61676 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.64649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5771 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63429 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5196 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31066 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40641 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29979 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.75075 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55055 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69367 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58173 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52062 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75895 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75414 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74834 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77566 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78975 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73878 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79817 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7574 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73599 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75135 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7435 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74914 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76278 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67791 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.69404 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63832 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.68008 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69336 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.71251 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6809 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68953 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.67251 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68555 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68807 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68706 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.71526 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.65635 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.65222 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.56774 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68461 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.61964 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.68574 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61397 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65671 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64508 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65255 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.70028 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6378 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72165 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68438 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58131 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.62744 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59372 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64771 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53315 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30511 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41461 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29608 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74909 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53596 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.67535 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59885 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54054 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78455 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77963 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77945 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79901 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.81304 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76707 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82093 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77955 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76056 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77401 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7751 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77329 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79099 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.70577 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71971 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67091 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70854 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.71429 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73735 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71184 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70967 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.70374 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71165 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72022 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.71423 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.74049 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67535 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64338 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.60306 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.69905 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.61601 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.69683 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63953 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.68027 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66036 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66751 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.71082 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65434 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73238 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72074 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.5963 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.63734 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63576 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.68169 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57769 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.32409 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43641 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31737 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.77936 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.56877 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68271 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.62322 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57228 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80318 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.79768 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8032 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81622 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82825 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7892 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83367 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7955 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78155 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.78949 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7964 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.79523 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80413 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74004 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75112 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7137 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74419 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73808 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77217 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.73627 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73254 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73871 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74806 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.74779 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.74436 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77643 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71426 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67806 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.65833 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.73867 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64398 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.73724 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68069 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69453 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.70777 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70677 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.76005 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.70546 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76909 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.74754 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6644 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66954 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.67538 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71722 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.62509 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.36066 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47298 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.35763 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80479 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.61295 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.71867 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65369 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.60154 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80401 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.79856 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80384 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81719 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82927 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79035 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83472 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79598 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78282 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79015 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79774 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.79621 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80503 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74259 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75265 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.71679 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74627 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73999 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77374 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7395 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73437 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74169 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74971 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.75021 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.74626 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77859 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71611 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67958 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.66248 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.74095 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64527 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.73979 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68505 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69563 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71046 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70869 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.76272 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.70843 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.77093 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.7509 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.66955 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.67192 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.67938 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71976 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63008 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.36461 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.36071 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80643 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.6169 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.7211 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65835 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.60941 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80401 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.79856 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80384 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81719 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82927 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79035 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83472 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79598 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78282 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79015 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79774 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.79621 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80503 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.74259 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75265 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.71679 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74627 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73999 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77374 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7395 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73437 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74169 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74971 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.75021 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.74626 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77859 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71611 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67958 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.66248 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.74095 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.64527 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.73979 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68505 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69563 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71046 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70869 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.76272 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.70843 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.77093 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.7509 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.66955 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.67192 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.67938 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71976 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63008 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.36461 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47668 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.36071 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80643 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.6169 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.7211 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65835 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.60941 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.49504 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40117 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.43414 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5309 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.46354 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41946 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47521 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.44912 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4069 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47703 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.37782 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43777 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.44779 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.30446 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28083 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.27376 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29842 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.32573 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32003 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.33556 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35071 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.30536 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31649 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.33857 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32422 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.30396 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24489 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.1784 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19111 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27286 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21521 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23553 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.28681 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41089 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.19252 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.24557 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19934 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.20578 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.20914 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.28714 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.14872 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16368 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.27198 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28229 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2417 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10412 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19715 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10163 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28783 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16064 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.17294 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.35246 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26713 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63256 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57446 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59833 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66509 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.64311 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5847 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67369 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60668 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5663 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63181 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56329 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5923 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60799 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46233 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46446 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44388 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46694 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50447 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.49109 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50084 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51675 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47185 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47765 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51151 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49282 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48142 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.40372 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34598 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34401 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44124 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36382 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40898 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43917 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5524 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36376 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4155 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3843 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37522 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40023 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45448 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30299 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32679 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44072 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.454 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3719 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17667 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29262 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.171 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48271 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30798 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35031 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49726 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42799 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67812 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64105 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6569 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70403 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70235 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64067 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73323 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66498 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62588 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67427 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63463 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64884 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66726 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53621 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.54704 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50965 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54547 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5772 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57042 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56881 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57897 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54731 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54773 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58019 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56275 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.56746 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48707 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43779 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41863 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51899 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43688 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50126 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50021 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.59174 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.45543 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49654 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49127 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46544 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5096 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53809 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38786 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4207 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49456 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.53105 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42706 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20937 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33269 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20315 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58794 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38072 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45799 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53788 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47603 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71474 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69586 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69602 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73305 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74171 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68627 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76441 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70145 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67607 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70335 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68681 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69221 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71586 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60531 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61912 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57229 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61103 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62854 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64165 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62613 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62846 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61038 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61508 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6316 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.61659 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64331 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56269 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52451 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49088 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59602 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50356 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58763 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5581 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61584 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54669 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56808 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6007 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.54596 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62495 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61478 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46938 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51841 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53652 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59127 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47462 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24585 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36652 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23511 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67878 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45067 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.57063 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56603 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51256 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72553 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70751 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70985 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74321 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75076 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6995 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77033 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71095 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68958 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71187 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69989 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70614 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7246 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62729 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64111 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59897 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63378 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64377 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66481 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64083 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64202 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.63148 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63836 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64758 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63502 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66788 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5898 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.55009 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52415 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62347 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52351 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58293 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62107 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58027 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59388 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63839 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58105 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65428 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63122 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51291 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54146 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5556 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61242 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49792 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26372 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38416 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25379 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.69654 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4781 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59942 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57938 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52365 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72567 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70768 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70998 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74339 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75096 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6997 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77049 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71105 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71201 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.70012 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70633 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7248 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62785 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64139 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59959 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63423 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64407 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66517 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64141 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64231 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.63197 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63875 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64801 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63542 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66831 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59025 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.55046 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52497 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62394 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52377 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.617 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58374 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62122 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58093 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59435 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63907 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58171 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65477 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63181 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51414 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54203 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55626 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61283 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4987 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26439 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38465 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25439 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.69689 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.47886 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59998 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57985 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5245 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72567 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70768 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70998 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74339 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75096 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6997 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77049 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71105 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68981 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71201 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.70012 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70633 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7248 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62785 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64139 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59959 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63423 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64407 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66517 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64141 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64231 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.63197 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63875 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64801 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63542 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66831 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59025 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.55046 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52497 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62394 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52377 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.617 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58374 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62122 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58093 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59435 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63907 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58171 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65477 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63181 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51414 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54203 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55626 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61283 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4987 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26439 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38465 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25439 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.69689 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.47886 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59998 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57985 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5245 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.49504 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40117 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.43414 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5309 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.46354 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41946 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47521 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.44912 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4069 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47703 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.37782 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43777 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.44779 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.30446 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28083 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.27376 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29842 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.32573 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32003 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.33556 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.35071 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.30536 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31649 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.33857 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32422 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.30396 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24489 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.1784 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19111 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27286 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21521 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23553 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.28681 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41089 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.19252 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.24557 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19934 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.20578 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.20914 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.28714 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.14872 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16368 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.27198 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28229 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2417 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10412 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19715 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10163 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28783 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16064 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.17294 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.35246 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26713 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66888 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60293 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63836 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70506 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67448 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61737 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71803 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63904 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60055 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68139 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59831 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62377 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64556 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50699 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.50166 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.48893 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5079 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5544 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53178 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55021 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55481 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51506 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51479 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56325 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55083 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51791 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44693 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36949 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38198 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47878 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.39022 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44111 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47886 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62641 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39822 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45054 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41246 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4096 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42686 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50207 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33263 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.36302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49826 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51187 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43001 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2071 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32649 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19991 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52291 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35087 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37916 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55257 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47603 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75107 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69849 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73969 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77297 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75946 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70151 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81052 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72913 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68884 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75693 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.70552 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71191 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73778 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61987 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62153 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59056 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62617 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66493 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64766 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65676 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65032 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62729 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6216 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67196 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66183 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64386 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56932 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48857 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.50166 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.58751 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48807 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56795 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57253 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.70763 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52352 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5659 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55202 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53618 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56823 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63252 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.45415 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49566 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60259 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63887 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53265 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26431 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39868 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26024 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66963 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46764 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52158 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6291 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56178 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82897 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.79801 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82313 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83931 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83438 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.79351 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.87246 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.80194 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78587 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.82571 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80944 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.79638 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.82635 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.75049 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.74892 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.71701 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.75108 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76027 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77409 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.76938 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.74176 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74906 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74491 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.77739 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.76908 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.7756 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.70504 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62204 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64455 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.71918 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59851 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.70594 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.6858 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.77209 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67364 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.68801 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.71846 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67226 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.73948 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.77423 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60188 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.65784 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71958 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.75689 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66157 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34787 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47442 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.34171 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81713 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60273 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69158 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.70306 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.64364 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88116 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84545 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88867 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.8854 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87604 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85321 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91282 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.84522 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84287 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8691 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.86676 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85393 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86066 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.83956 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.82734 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.82907 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.84298 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.82549 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.86206 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83641 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.80617 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.84507 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.83769 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.85101 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.84952 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8652 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.79856 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70285 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7906 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.8154 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66372 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.80359 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.79709 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.82479 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.78917 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.78589 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.83457 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.796 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82439 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.84764 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.76759 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.73471 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.83899 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.85912 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.80297 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.44359 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.5825 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.44747 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88249 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.71525 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.77667 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.80908 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.74989 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88503 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89144 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88954 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.88044 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85828 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91792 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87192 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87304 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86409 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.84995 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83414 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.84246 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.85135 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8682 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.85091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85974 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84387 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87429 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80552 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70846 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.80823 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82454 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66881 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.81275 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.81602 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.83053 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79954 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84403 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86314 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78723 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.85815 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.87177 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.82776 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.60035 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.45942 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88926 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73243 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.78556 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.83628 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.79515 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88503 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89144 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88954 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.88044 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85828 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91792 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87192 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87304 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86409 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.84995 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83414 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.84246 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.85135 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8682 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.85091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85974 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84387 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87429 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80552 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70846 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.80823 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82454 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66881 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.81275 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.81602 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.83053 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79954 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84403 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86314 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78723 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.85815 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.87177 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.82776 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.60035 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.45942 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88926 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73243 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.78556 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.83628 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.79515 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.85768 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82515 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82444 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87206 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82843 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81042 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.85234 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.82731 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83815 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84846 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83321 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72953 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.77031 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70156 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73644 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72944 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77487 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70864 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.745 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.72646 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.75209 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71887 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72467 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77729 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.72761 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63181 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.75922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.78033 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64474 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61519 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73066 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73071 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.78438 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71771 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.81195 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75271 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.698 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69155 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61713 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65441 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55668 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34648 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43997 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33864 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.822 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.6018 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.75221 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56309 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5166 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44638 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54493 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4871 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.44054 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.52917 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50513 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.50338 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49702 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51587 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.44611 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54432 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.49977 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50206 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52144 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57533 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50705 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53214 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51675 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55127 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49146 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49667 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51744 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5298 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49809 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50245 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.56637 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5512 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63252 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56616 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.56557 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60577 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45949 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.36267 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.59456 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55218 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64916 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57039 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6647 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54094 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.56956 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.58874 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43167 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48392 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3923 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26303 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30072 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25904 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.62108 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49631 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.63663 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.35883 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36766 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.32855 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41807 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.36429 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.31348 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.39029 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37895 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.36903 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37212 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.39247 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.32322 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41922 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.37556 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37873 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42456 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46411 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40089 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43294 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40857 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44873 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.38887 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.38594 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4151 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42318 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.39053 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40031 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46947 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46232 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53521 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4162 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.46392 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46209 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50902 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36502 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26402 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50688 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45668 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.56462 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.48302 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.57611 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44596 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.4828 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51252 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.33075 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.39486 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31235 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21937 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24039 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21563 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52402 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41427 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56187 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.26546 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.27983 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.19891 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.26054 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.21778 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.18455 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.22956 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.23322 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.21078 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.21957 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.24531 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.18782 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.2578 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.22863 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.23379 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.2807 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.30347 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26503 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.28092 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.25278 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29499 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24824 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.24052 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26846 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.27982 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.24354 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.2522 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.31018 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31295 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36154 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.28476 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.31287 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.303 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34527 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24365 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1522 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35143 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.3023 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39502 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32598 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40634 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29592 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3348 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.36116 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.20703 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.25385 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2044 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15531 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15628 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14884 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34696 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.2822 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40048 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.15954 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17362 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04409 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05639 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04866 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.0408 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04934 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.05184 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04462 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04735 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.05413 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.04097 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.05656 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.05094 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04996 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06477 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.06889 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.06361 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.06511 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05606 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06794 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0552 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.0533 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.06197 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06511 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05525 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05782 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.07173 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.07371 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.08293 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.07088 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.07359 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.06867 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.08105 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05924 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03255 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.08405 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.07132 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.094 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07926 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.09263 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.06576 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08603 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.08198 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04946 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05847 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.05082 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.04069 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0395 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04012 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.0759 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.0676 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.09163 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03726 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03944 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02214 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02831 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02442 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02054 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02608 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02243 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02374 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02723 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.02058 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02845 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02561 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02513 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03278 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03465 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03224 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03288 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02822 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03424 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02802 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02688 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03134 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03284 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02795 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02921 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.0362 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03719 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04175 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03608 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03717 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.03456 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04101 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.03027 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01638 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.036 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04752 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.04012 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04667 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03333 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04392 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02522 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02951 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02596 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02099 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02016 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02057 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03821 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03436 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04628 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01898 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.02035 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00244 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00205 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00248 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00261 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00285 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00256 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00251 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00347 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00329 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00282 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00342 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00269 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00362 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00418 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00361 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00346 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.0041 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00303 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00164 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0036 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00475 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00333 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00439 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00414 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00252 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00202 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00382 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00344 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00463 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0019 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00203 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.85768 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82515 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82444 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87206 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82843 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81042 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.85234 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.82731 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83815 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84846 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83321 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72953 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.77031 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70156 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73644 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72944 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77487 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70864 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.745 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.72646 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.75209 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71887 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72467 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77729 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.72761 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63181 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.75922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75107 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.78033 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64474 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61519 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73066 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73071 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.78438 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71771 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.81195 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75271 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.698 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69155 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61713 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65441 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55668 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34577 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43997 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33792 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.822 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.6018 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.75141 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56309 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51574 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.84831 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89295 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87041 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86622 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90748 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86797 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85601 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.88668 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.86691 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83333 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88138 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88245 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.87521 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80288 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.82903 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.76528 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.79844 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79211 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.83346 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77733 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.79887 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.79098 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81343 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79424 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.80162 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83604 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80175 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.8349 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.70803 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82213 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.80615 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83691 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70666 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.68881 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79585 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.78722 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84174 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.78447 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.86504 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.81737 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.76433 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.77036 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.69522 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.642 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.40973 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4978 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.40557 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.87928 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.68987 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.8096 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.62605 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5817 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85476 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89562 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87581 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87114 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90869 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87169 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86082 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.88959 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.87119 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83921 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88492 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.8866 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.87944 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80986 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83508 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77315 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80558 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79899 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.84071 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78531 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.80501 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.79655 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.82129 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.80039 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.80924 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.84312 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80767 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.83915 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72113 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82737 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.8113 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.84294 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71533 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69934 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.80279 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79478 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84772 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79191 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.86973 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82512 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77343 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.77915 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.70891 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74111 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65319 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.42368 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50849 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4199 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88362 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70282 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.81893 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63354 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5894 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85609 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89657 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8771 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87291 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.91004 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87363 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8625 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89135 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.87295 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84183 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88693 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88772 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88045 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81287 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83766 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77758 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80943 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80094 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.84286 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78822 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.80702 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80004 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.82371 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.80329 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81238 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.84537 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81063 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.84127 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72625 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83087 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.81333 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.84495 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.72038 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.70245 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.80579 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79731 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84962 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79503 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.87121 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82709 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77796 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78218 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71527 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74423 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66115 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.43096 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51209 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.42857 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88453 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70738 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.82242 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63816 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59286 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85675 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89706 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87764 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87365 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.9106 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87433 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86318 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89199 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.87384 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84238 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88758 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88805 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88066 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81395 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83819 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77894 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.81031 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.80189 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.84351 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7895 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.8082 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80124 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.82472 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.8039 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81324 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.84632 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81151 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.84181 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72795 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83197 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.81413 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.84574 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.72293 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.70404 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.80677 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79847 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.85046 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79625 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.87168 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82845 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77963 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71778 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74566 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66387 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.43458 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51559 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.43263 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88528 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70887 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.82288 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64157 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59652 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85681 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89707 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87767 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87367 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.91062 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87437 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86321 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89199 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.87387 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8424 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88763 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88805 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88066 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81398 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83826 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77902 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.81037 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.802 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.84354 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7896 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.80829 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80138 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.82472 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.80398 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81326 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8464 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81154 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.84183 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72803 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83202 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.81418 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.84575 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.72306 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.7041 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.80682 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79849 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.85049 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79634 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.8717 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82859 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77972 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78281 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71792 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74577 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66411 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.43478 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51584 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.43269 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88532 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70895 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.82293 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64192 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59712 + } + ] + }, + { + "config": { + "retrieval_model": "INF_test_20241230", + "retrieval_model_link": null, + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2025-01-06T02:18:56Z", + "is_anonymous": true, + "revision": "6a9c36514ba31e584629b28517095014" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85681 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89707 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87767 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87367 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.91062 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87437 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86321 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89199 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.87387 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8424 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88763 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88805 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88066 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81398 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83826 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77902 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.81037 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.802 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.84354 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7896 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.80829 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80138 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.82472 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.80398 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81326 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8464 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81154 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.84183 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72803 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83202 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.81418 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.84575 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.72306 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.7041 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.80682 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79849 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.85049 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79634 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.8717 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82859 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77972 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78281 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71792 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74577 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66411 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.43478 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51584 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.43269 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88532 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70895 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.82293 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64192 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59712 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/bge-m3/NoReranker/results.json b/AIR-Bench_24.05/bge-m3/NoReranker/results.json new file mode 100644 index 0000000000000000000000000000000000000000..94b88635b666a7b4b89a7345ff92b47a24072ae6 --- /dev/null +++ b/AIR-Bench_24.05/bge-m3/NoReranker/results.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20086 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26162 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20116 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4404 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53152 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48355 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47964 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55605 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51876 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53905 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50943 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51113 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48749 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5466 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.498 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61199 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45246 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65239 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69754 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6994 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68044 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.775 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66739 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70557 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68087 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64886 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72802 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43899 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63459 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53155 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56922 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53874 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55088 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5938 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54698 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55839 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55447 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55548 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57517 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18331 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24047 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18059 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48632 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43908 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38021 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46039 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41813 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4368 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48249 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.45349 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48673 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45919 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46276 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.52564 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48407 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42002 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44348 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42871 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51274 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43937 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42743 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49137 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38355 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40993 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62086 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64641 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59066 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58416 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66518 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6187 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63943 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59534 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60023 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58508 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60594 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61504 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57075 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38602 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54349 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48758 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5067 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.48113 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49726 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53228 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51085 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53187 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50594 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51057 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49487 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51699 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52144 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18251 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2473 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17851 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47684 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44824 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37904 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43469 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40271 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42474 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42606 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46404 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44476 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45229 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55326 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46302 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39021 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45771 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40163 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5021 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45021 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40195 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50558 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37544 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42647 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63295 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66471 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59908 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57667 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66065 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62783 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.638 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58609 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59189 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58327 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6243 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61415 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57512 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3879 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52582 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48511 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50712 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.47582 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49968 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53902 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48989 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.50478 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52701 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51846 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5176 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49343 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52165 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51719 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.202 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26951 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2011 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49516 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47336 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41001 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44932 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42124 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.447 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47453 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43813 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48135 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47087 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4787 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.59026 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48306 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39289 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49047 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42314 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5305 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48996 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41436 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52921 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40227 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45763 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66036 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69696 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63516 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59646 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6902 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65401 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66297 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61145 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62361 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60864 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64682 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64326 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60176 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41639 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55185 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5146 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53881 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50202 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52527 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.57061 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51779 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53144 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55285 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54746 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51893 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5553 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54533 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26121 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3251 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26118 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57818 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53967 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49077 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54763 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51881 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54005 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58145 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54961 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58724 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56083 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56491 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.63128 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57611 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49994 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54759 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.52125 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61006 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55998 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52079 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56618 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48727 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50036 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69944 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72937 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.68185 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65621 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74084 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69377 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71559 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67661 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68302 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66438 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68574 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69751 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66044 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47708 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63686 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59266 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.59854 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57253 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59855 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63767 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59294 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.61422 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63746 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61469 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.61337 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60013 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62269 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6235 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27993 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34058 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27928 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60179 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55488 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51095 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57351 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54926 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56443 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.60849 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.57925 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61073 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58109 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58532 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64181 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60092 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53528 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56219 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.54579 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63281 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57214 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.55573 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57335 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.50471 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51367 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73648 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6929 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67345 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75344 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70384 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72763 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69133 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69803 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67761 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69626 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71228 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67434 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49353 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.65893 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60795 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61101 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58747 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61273 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64941 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60968 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.63255 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65333 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62965 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62957 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61643 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63699 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63881 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31378 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37556 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3158 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62319 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57758 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.54425 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.59916 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57669 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58951 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63277 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60521 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63247 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60332 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60655 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65102 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.624 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.56974 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58487 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57959 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.65305 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58818 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58775 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58937 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53265 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54012 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71986 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74405 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70944 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69004 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76441 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71648 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73969 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7066 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71403 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69232 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70656 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6888 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5257 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67818 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62462 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6276 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61016 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.63077 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66323 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62809 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64974 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66935 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64533 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64626 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63364 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6505 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65527 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05412 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10262 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04887 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20012 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12443 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14347 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14255 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1689 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1399 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11778 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.13501 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.14555 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17593 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33006 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16607 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.12512 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21743 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10245 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25477 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18368 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.11819 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30692 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11154 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2018 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.42277 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40668 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37059 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33475 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.40962 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42388 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.39711 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31906 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32033 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34479 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39668 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37883 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32119 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1918 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23369 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.21762 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24772 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20877 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22703 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.25261 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22435 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21213 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.21605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26362 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25658 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23398 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26156 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24011 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09176 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15875 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08992 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30345 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.30739 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21666 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24013 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22325 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25908 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2438 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21472 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.24279 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25086 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2807 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44976 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.26782 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20957 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32969 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1943 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.34612 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29452 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.20923 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41845 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20167 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33591 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.52578 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54481 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.47105 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43534 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.52929 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51936 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50243 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.43133 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43961 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.449 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.50866 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48479 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43541 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27315 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33888 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31989 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36238 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.31639 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3345 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.37678 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32317 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.32652 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33572 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.37206 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.36278 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3298 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37682 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34624 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11143 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18187 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10919 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.34931 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26092 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28481 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26194 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29569 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.29275 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26063 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.2948 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.29985 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32643 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48333 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31272 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24375 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.36708 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24187 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3822 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.343 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25197 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4481 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24733 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36966 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5536 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.58667 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.50633 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47187 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56412 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54641 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.53832 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47085 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47702 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4796 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.54081 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51795 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47179 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.29924 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38339 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36363 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40319 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35864 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38129 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4266 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36672 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.37393 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38942 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41705 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40479 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37129 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.41733 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38999 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13516 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20575 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13186 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38852 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39157 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30395 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33297 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30537 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33576 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35165 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31293 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35642 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35609 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37293 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50999 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36411 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39575 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29748 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41925 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38966 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30116 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47236 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29203 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39599 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57592 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61743 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.53718 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50268 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59647 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57251 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56774 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50619 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51378 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50705 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56178 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54737 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50172 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32427 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42937 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.40574 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.44448 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39898 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42008 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46832 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41009 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41984 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44187 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45396 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44129 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41069 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45872 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43519 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15754 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22706 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15394 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42784 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42311 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34096 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37991 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3487 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37773 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40647 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36745 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41275 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.401 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.413 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.52502 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40841 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32306 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4178 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34508 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45383 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42216 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35072 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48768 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33145 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41213 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59203 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63241 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55709 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52982 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6195 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58956 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59181 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53619 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54097 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53239 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57771 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57071 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52801 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34688 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47025 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44179 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47143 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43268 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45396 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50063 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44475 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.45975 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48326 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48055 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47131 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44877 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48914 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47312 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16046 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22948 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15673 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43259 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42581 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34468 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38556 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35511 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38273 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41262 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37434 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41825 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40536 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4174 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.52655 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.41372 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33058 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42012 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35038 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45856 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42437 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35847 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48876 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33476 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41397 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59378 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63364 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55903 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53297 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62194 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59137 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59419 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53912 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54388 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53493 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57953 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57348 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53065 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34965 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47509 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44493 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47363 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43547 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45678 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50288 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44817 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46372 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.4866 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48336 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47432 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45222 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49194 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47632 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16273 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23145 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15897 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43491 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42734 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34724 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38857 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35835 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38568 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41579 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37752 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42087 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40757 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41963 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5271 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.41652 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33538 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42166 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35347 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46088 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.4255 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36289 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48944 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3371 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41545 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59468 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63416 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56027 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53464 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62294 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59244 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59539 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54077 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54546 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53616 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58035 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57471 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53198 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35183 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47753 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44635 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47496 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43714 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45837 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50406 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45001 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46556 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48816 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48472 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47584 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4538 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49312 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47801 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05412 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10262 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04887 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20012 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12443 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14347 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14255 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1689 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1399 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11778 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.13501 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.14555 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17593 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33006 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16607 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.12512 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21743 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10245 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25477 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18368 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.11819 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30692 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11154 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2018 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.42277 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40668 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37059 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33475 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.40962 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42388 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.39711 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31906 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32033 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34479 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39668 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37883 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32119 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1918 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23369 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.21762 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24772 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20877 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22703 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.25261 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22435 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21213 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.21605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26362 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25658 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23398 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26156 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24011 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11424 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19337 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1134 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34694 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35722 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.257 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26925 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25468 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.30227 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27403 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24639 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.27683 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28745 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31921 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53605 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.30358 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24223 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38011 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22476 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38181 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.35148 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2355 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46681 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23971 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39012 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59285 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.59662 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51326 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47147 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5693 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.567 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54702 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47292 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.48192 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.49954 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57184 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5252 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48903 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31892 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38024 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.3691 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41829 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.36122 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3838 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43161 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37161 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.37631 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38314 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.42342 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41906 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37422 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42842 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39358 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15732 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24424 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15565 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42161 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43534 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3406 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34579 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32826 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37317 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35617 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32347 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3624 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37363 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40026 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62669 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38278 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30452 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46587 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30881 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45255 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44851 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30803 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53015 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32521 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45634 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65811 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67772 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58747 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53765 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63195 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62875 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61598 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54613 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55479 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56564 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64592 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59265 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37966 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46262 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45673 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49503 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44107 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47522 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.52488 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45716 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46357 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48009 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51656 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50891 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45777 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5073 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47747 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22893 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31227 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23018 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52489 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45739 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46054 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43897 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4795 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49004 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44511 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49683 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50087 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51479 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.72682 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50564 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39365 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55569 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43793 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55773 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57373 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.423 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5973 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43259 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5386 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73135 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76124 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.68223 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61635 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71841 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70465 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69528 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63998 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65268 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64759 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71189 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64959 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46528 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5762 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5688 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60089 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54589 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57582 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63854 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56707 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.58081 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60034 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62041 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60904 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56515 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62069 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59344 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.3915 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47872 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.39487 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7408 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71854 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.67416 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71316 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.69311 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.7221 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75626 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.72236 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.76049 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73318 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.7423 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.8674 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.74629 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66091 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72975 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.68627 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.77933 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78183 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68614 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71718 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.66131 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.6784 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84705 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85861 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82185 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78732 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.8684 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82222 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.84655 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82362 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.82325 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80639 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.82845 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83813 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81797 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65029 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80189 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.78298 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77423 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.74057 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.78478 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83052 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.77186 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.80201 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81354 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.799 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.79451 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.78242 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81641 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.80434 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.46315 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.54387 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4647 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.8273 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.78039 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.75306 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.80494 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.80431 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81241 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.85056 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.82385 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84328 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.81658 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.92095 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83689 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78331 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.79583 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77593 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86684 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.83442 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.80466 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.75283 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.72846 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.74 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88911 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89034 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86882 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85765 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.92053 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86331 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89472 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8822 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88405 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86067 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87433 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89941 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87361 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.72112 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88422 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.84187 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.8259 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.80153 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.84168 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.87977 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.83622 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87041 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.87604 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.85987 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.86005 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84458 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.87404 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.86295 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.64007 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.76027 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.66007 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.92901 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.90868 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.92651 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.92222 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.9279 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.9261 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.95597 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.93846 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.94168 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.91477 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.92015 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.98443 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.94147 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.92598 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.92816 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.9414 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.9664 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.93522 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.93909 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.87033 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.87373 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.9244 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.94609 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.93745 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.96126 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.94407 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.97986 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.93223 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.95595 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.95837 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.96733 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.94076 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.93331 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.96811 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.95082 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.90905 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.97217 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.93042 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.91966 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.92875 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.93921 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.96062 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.92967 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.95648 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.96112 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.9446 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.94556 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.93515 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.95119 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.94518 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20086 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26162 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20116 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4404 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53152 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48355 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47964 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55605 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51876 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53905 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50943 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51113 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48749 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5466 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.498 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61199 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45246 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65239 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69754 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6994 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68044 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.775 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66739 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70557 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68087 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64886 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72802 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43899 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63459 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53155 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56922 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53874 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55088 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5938 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54698 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55839 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55447 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55548 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57517 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16117 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18344 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16208 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.37599 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.32482 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33014 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39589 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35002 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.34937 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42306 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40572 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43285 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39381 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37587 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29738 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40705 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3635 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32504 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.394 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37136 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33796 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37892 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.29574 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28766 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.3448 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40328 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37326 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38893 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.35242 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40107 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41642 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42124 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.37756 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.35209 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.38851 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37731 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27581 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42161 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37154 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36042 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3707 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37195 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.39236 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36672 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.39626 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42122 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.35625 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.36221 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3629 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.36527 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38705 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14103 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14906 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13849 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30484 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26718 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2785 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32407 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29213 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28157 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35192 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33997 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36337 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32975 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.30371 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2195 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33018 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28974 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.24846 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3336 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.28826 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27994 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.31279 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.21625 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29141 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21532 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.24508 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.29566 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27232 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.29151 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.30471 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.25116 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.29279 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.30979 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.30896 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.27249 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.25655 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.28008 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28066 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20996 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33386 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29568 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28053 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.29206 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2994 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31089 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29386 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.31947 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.34549 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28266 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.28476 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2919 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.28491 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31087 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10681 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10451 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10535 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21222 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.18413 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19617 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23073 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21073 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.19852 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.25826 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24769 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26697 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23774 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21402 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.13563 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23499 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20128 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.15688 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24393 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.19434 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.19139 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.23089 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.13336 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20429 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13566 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14754 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17771 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.16942 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.18236 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.18588 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.155 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.18026 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.19586 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.1961 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.16934 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.1505 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.17225 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.17539 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.13668 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22598 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.20062 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.18726 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.19525 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19641 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.20232 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.20219 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21858 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23656 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.18304 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.18701 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.19644 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19008 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.21157 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03742 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03384 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03711 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.06678 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05387 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.06131 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0756 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.07104 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.06687 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08479 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.08437 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.08582 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07316 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.06715 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03432 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.07454 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.074 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04392 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.07792 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.05992 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05423 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.081 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0342 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.06294 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03564 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03846 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04232 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04438 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.05153 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04876 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04041 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04881 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05544 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.0537 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04723 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03905 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04692 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04917 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04097 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.06873 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0603 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05122 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.05709 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05716 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05637 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06035 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06622 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.06829 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05155 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05394 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05451 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06307 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01934 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02171 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03787 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.0294 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03408 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.04294 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.04135 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03802 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04795 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04834 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04763 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.04038 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03749 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01824 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04207 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04444 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02392 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04361 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03395 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02888 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04805 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01795 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.0345 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0196 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02067 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02379 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02858 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02632 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.0218 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02639 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.03014 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02928 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02572 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.021 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02572 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02686 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02294 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03846 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02753 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03093 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03095 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02998 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03314 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03644 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03679 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02811 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0296 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03331 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02959 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03423 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00296 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00426 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00336 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00411 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00488 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00478 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00437 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00537 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00546 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00527 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00453 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00421 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00474 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00531 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00279 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00514 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0038 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00559 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00199 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00229 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00226 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00232 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00269 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00318 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00242 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00287 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00331 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00285 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00228 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00281 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00296 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00287 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00426 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00361 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00304 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00353 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00343 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00369 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.004 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00399 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0031 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0033 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00368 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00318 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00377 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20086 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26162 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20116 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4404 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53152 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48355 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47964 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55605 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51876 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53905 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50943 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51113 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48749 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5466 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.498 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61199 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45246 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65239 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69754 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6994 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68044 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.775 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66739 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70557 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68087 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64886 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72802 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43899 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63459 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53155 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56922 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53874 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55088 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5938 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54698 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55839 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55447 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55548 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57517 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25968 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32096 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26025 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61858 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51716 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49632 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60733 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.56712 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.57057 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63164 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60558 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62946 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.59422 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59261 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5732 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62722 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.57629 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57003 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58189 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67485 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54233 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56369 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54522 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51674 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46298 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73081 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75639 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7567 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73469 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82635 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7349 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79473 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.76167 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78456 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74616 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72139 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7769 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7185 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51264 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71635 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62091 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61274 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61111 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62942 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65027 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62683 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64086 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.67836 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62796 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64501 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63408 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63198 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65741 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27561 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33244 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27534 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63254 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53442 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51421 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61969 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58522 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58655 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64683 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62207 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64512 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60975 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60644 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.59075 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6432 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59025 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58533 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59872 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68926 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55958 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58187 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5535 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53609 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47123 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74015 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76555 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76622 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74362 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83124 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74621 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80249 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77059 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7933 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75608 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73414 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78641 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72974 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5265 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72941 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63491 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62621 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62317 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64601 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66345 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64119 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65435 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.69254 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64572 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66005 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65059 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64593 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67233 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28687 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33976 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28947 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64111 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54249 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52556 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63058 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59681 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59811 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65802 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63457 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65473 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6192 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.61752 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6008 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65247 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60081 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5932 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60913 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69909 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56853 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59238 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55778 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54555 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47767 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74636 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77023 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77215 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74789 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83505 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75035 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80733 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77531 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.798 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76177 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73947 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79109 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73552 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53561 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73629 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64474 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63385 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63121 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65224 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67119 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64903 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66404 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6992 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65343 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66865 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65866 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65463 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68055 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29466 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34695 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29718 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64578 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54814 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53126 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63616 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60252 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60354 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66235 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63922 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65871 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62433 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62254 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60521 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65742 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60735 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59826 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61387 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70251 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5728 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.599 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5614 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55135 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48295 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74869 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77179 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77413 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75092 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83674 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75244 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80892 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79956 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76354 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74133 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79368 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54088 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73891 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64876 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63846 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63521 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6566 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67516 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65328 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66824 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70213 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67208 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66307 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65865 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68412 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29541 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34756 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29803 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64617 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5486 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53183 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.6364 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60293 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60389 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66262 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63945 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6589 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62453 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62281 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6057 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65769 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60767 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59868 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61414 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70275 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57308 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59938 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56173 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55171 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48362 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74882 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77193 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77428 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75121 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83685 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75263 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80902 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77798 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79971 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76368 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7415 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79385 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73841 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73906 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64898 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63873 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63555 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65681 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67539 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65356 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66841 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70234 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65739 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67238 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66328 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65888 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68433 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29588 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34808 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29859 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64629 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54891 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53206 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63652 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60303 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60398 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6627 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.6395 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65897 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62464 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62291 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60586 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59891 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61431 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70285 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57332 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59944 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56205 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55193 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48419 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74888 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77203 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77435 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75132 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83689 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75271 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80906 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77807 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7998 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76377 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74158 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79392 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73849 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54167 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73912 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64912 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6389 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63571 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65697 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67553 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65368 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66847 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70245 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65748 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67247 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6634 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65902 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6844 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64497 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59946 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40356 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47339 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.56443 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55962 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5328 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63449 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48778 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5409 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47304 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58983 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48582 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44348 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54922 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54356 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.53461 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54014 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62543 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54972 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48401 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6149 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51546 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46858 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59214 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57029 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58092 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5885 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66719 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51834 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59108 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53137 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63883 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55608 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51485 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67848 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6572 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65669 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74693 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59693 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64846 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61595 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66395 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60749 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57894 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69014 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67115 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67587 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66945 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60907 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6629 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62929 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66914 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.6156 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59363 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70416 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68896 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67891 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7642 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63168 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67993 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64499 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.67358 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.6204 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6097 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18839 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20713 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.28245 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24857 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2319 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.31481 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.23724 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22335 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.33603 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.33359 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.34554 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.40609 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.42465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.43465 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34985 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55489 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44106 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.345 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.40258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.39345 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.40382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44833 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.49026 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.39724 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46524 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.39131 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46207 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38643 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.47267 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45039 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46013 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48351 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.55304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4288 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.49554 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43159 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57913 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4814 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42128 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52013 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49539 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.501 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51091 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59749 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46259 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51594 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4677 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58466 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49554 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44485 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52254 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4983 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50366 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5131 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60006 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51853 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58511 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4966 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44716 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52372 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.50013 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50481 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51389 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60062 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51999 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4713 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58533 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49693 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4482 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18839 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20713 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.28245 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24857 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2319 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.31481 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.23724 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22335 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.37629 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37536 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.38407 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.45666 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46935 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.40395 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.4905 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.38632 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69076 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54797 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.39966 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48228 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.47603 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49961 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54794 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.57378 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47593 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5584 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47395 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61029 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49481 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6359 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.606 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64119 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67308 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70978 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56454 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65637 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.82329 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.71934 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61246 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.86737 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.8432 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.87396 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.88929 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92413 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.84016 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.85108 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.93574 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.92507 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.82564 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.91717 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.89949 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.92717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.94563 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.97235 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.85298 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.90235 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.90892 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.96787 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.9686 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.89631 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.997 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.99852 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.99663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.99157 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 1.0 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.99966 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 1.0 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64497 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59946 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40356 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47339 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48949 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46943 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43834 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.36808 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.5154 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.36508 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35484 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.23025 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.23937 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.31933 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37515 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.35318 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.41467 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.26129 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.27104 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.1502 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.16736 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.24706 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.27658 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.25385 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.17521 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.275 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.17292 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.16237 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.1806 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08233 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10237 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.1605 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.07724 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07343 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.04885 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07484 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0519 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04452 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.05393 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01871 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02706 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04398 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.04036 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03564 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02614 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03927 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02765 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02433 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0288 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.01424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02373 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00428 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00426 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00404 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00271 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00313 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00147 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64497 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59946 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40356 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47339 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.71271 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71647 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.69509 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66808 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60764 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67159 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.6102 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55489 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50593 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54575 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72307 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72623 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71561 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68131 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79035 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62044 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68665 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52047 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5613 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73023 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69099 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79406 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69422 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63419 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57913 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53471 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57337 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73311 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73562 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72366 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6961 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63201 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69831 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64133 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58466 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54204 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58043 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.7334 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73587 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72384 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79658 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63241 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6985 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.6416 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58511 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54239 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58085 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-10-03T03:14:48Z", + "is_anonymous": false, + "revision": "6d9654ae264fd1b8a7c7cc8ce2c114d6" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73355 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73604 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72394 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69639 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79661 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63277 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69861 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58533 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54249 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5811 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/bge-m3/NoReranker/results_20241201071239-70de025455132e3b6d6a7786130cf91f.json b/AIR-Bench_24.05/bge-m3/NoReranker/results_20241201071239-70de025455132e3b6d6a7786130cf91f.json new file mode 100644 index 0000000000000000000000000000000000000000..e6d9b2370ea042103f54a370b632142be20fbd50 --- /dev/null +++ b/AIR-Bench_24.05/bge-m3/NoReranker/results_20241201071239-70de025455132e3b6d6a7786130cf91f.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20086 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26162 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20116 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4404 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53152 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48355 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47964 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55605 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51876 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53905 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50943 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51113 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48749 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5466 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.498 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61199 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45246 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65239 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69754 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6994 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68044 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.775 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66739 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70557 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68087 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64886 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72802 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43899 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63459 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53155 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56922 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53874 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55088 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5938 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54698 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55839 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55447 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55548 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57517 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18331 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24047 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18059 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48632 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43908 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38021 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46039 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41813 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4368 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48249 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.45349 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48673 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45919 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46276 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.52564 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48407 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42002 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44348 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42871 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51274 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43937 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42743 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49137 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38355 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40993 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62086 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64641 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59066 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58416 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66518 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6187 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63943 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59534 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60023 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58508 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60594 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61504 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57075 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38602 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54349 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48758 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5067 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.48113 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49726 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53228 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49155 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51085 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53187 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50594 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51057 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49487 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51699 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52144 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18251 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2473 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17851 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47684 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44824 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37904 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43469 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40271 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42474 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42606 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46404 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44476 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45229 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55326 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46302 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39021 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45771 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40163 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5021 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45021 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40195 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50558 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37544 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42647 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63295 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66471 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59908 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57667 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66065 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62783 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.638 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58609 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59189 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58327 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6243 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61415 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57512 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3879 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52582 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48511 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50712 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.47582 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49968 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53902 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.48989 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.50478 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52701 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51846 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5176 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49343 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52165 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51719 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.202 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26951 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2011 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49516 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47336 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41001 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44932 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42124 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.447 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.47453 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43813 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48135 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47087 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4787 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.59026 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48306 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39289 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49047 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42314 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5305 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48996 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41436 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52921 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40227 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45763 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66036 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69696 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63516 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59646 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6902 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65401 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66297 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.61145 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62361 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60864 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64682 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64326 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60176 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41639 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55185 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5146 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53881 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50202 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52527 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.57061 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51779 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53144 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55285 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54746 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51893 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5553 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54533 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26121 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3251 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26118 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57818 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53967 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49077 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54763 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51881 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54005 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58145 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54961 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58724 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56083 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56491 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.63128 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57611 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49994 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54759 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.52125 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61006 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55998 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52079 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56618 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48727 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50036 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69944 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72937 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.68185 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65621 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74084 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69377 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71559 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67661 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68302 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66438 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68574 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69751 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66044 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47708 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63686 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59266 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.59854 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57253 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59855 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63767 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59294 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.61422 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63746 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61469 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.61337 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60013 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62269 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6235 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27993 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34058 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27928 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60179 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55488 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51095 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57351 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54926 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56443 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.60849 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.57925 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61073 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58109 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58532 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64181 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60092 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53528 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56219 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.54579 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63281 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57214 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.55573 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57335 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.50471 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51367 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70927 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73648 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6929 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67345 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75344 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70384 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72763 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69133 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69803 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67761 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69626 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71228 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67434 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49353 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.65893 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60795 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61101 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58747 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61273 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64941 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60968 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.63255 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65333 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62965 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62957 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61643 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63699 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63881 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31378 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37556 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3158 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62319 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57758 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.54425 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.59916 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.57669 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58951 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63277 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60521 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63247 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60332 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60655 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65102 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.624 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.56974 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58487 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57959 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.65305 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58818 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58775 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58937 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53265 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54012 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71986 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74405 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70944 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69004 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76441 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71648 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73969 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7066 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71403 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69232 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70656 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72529 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6888 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5257 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67818 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62462 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6276 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61016 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.63077 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66323 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62809 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64974 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66935 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64533 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64626 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63364 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6505 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65527 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05412 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10262 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04887 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20012 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12443 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14347 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14255 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1689 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1399 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11778 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.13501 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.14555 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17593 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33006 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16607 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.12512 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21743 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10245 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25477 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18368 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.11819 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30692 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11154 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2018 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.42277 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40668 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37059 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33475 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.40962 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42388 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.39711 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31906 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32033 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34479 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39668 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37883 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32119 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1918 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23369 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.21762 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24772 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20877 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22703 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.25261 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22435 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21213 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.21605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26362 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25658 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23398 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26156 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24011 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09176 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15875 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08992 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30345 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.30739 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21666 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24013 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22325 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25908 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2438 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21472 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.24279 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25086 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2807 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44976 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.26782 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20957 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32969 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1943 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.34612 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29452 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.20923 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.41845 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20167 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33591 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.52578 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54481 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.47105 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43534 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.52929 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51936 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.50243 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.43133 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43961 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.449 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.50866 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48479 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.43541 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27315 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33888 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31989 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36238 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.31639 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3345 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.37678 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32317 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.32652 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33572 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.37206 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.36278 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3298 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37682 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34624 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11143 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18187 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10919 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.34931 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26092 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28481 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26194 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29569 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.29275 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26063 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.2948 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.29985 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32643 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48333 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31272 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24375 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.36708 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24187 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3822 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.343 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25197 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4481 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24733 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36966 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.5536 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.58667 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.50633 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47187 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56412 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54641 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.53832 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47085 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47702 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4796 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.54081 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51795 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47179 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.29924 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38339 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36363 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40319 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35864 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38129 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4266 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36672 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.37393 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38942 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41705 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40479 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37129 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.41733 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38999 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13516 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20575 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13186 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38852 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39157 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30395 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33297 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30537 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33576 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35165 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31293 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.35642 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35609 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37293 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50999 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36411 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39575 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29748 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41925 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38966 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30116 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47236 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29203 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39599 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57592 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61743 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.53718 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50268 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59647 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57251 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56774 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50619 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51378 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50705 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56178 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54737 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50172 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32427 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42937 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.40574 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.44448 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39898 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42008 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46832 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41009 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41984 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44187 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45396 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44129 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41069 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45872 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43519 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15754 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22706 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15394 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42784 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42311 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34096 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37991 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3487 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37773 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40647 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36745 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41275 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.401 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.413 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.52502 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40841 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32306 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4178 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34508 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45383 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42216 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35072 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48768 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33145 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41213 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59203 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63241 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55709 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52982 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6195 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58956 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59181 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53619 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54097 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53239 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57771 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57071 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52801 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34688 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47025 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44179 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47143 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43268 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45396 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50063 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44475 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.45975 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48326 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48055 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47131 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44877 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48914 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47312 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16046 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22948 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15673 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43259 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42581 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34468 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38556 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35511 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38273 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41262 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37434 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41825 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40536 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4174 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.52655 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.41372 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33058 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42012 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35038 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45856 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.42437 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35847 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48876 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33476 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41397 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59378 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63364 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55903 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53297 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62194 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59137 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59419 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53912 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54388 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53493 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57953 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57348 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53065 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34965 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47509 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44493 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47363 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43547 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45678 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50288 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44817 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46372 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.4866 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48336 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47432 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45222 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49194 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47632 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16273 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23145 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15897 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43491 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42734 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34724 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38857 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35835 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38568 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41579 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37752 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42087 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40757 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41963 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5271 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.41652 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33538 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42166 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35347 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46088 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.4255 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36289 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48944 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3371 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41545 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59468 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63416 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56027 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53464 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62294 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59244 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59539 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54077 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54546 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.53616 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58035 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57471 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53198 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35183 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47753 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44635 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47496 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.43714 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45837 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50406 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45001 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46556 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48816 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48472 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47584 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4538 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49312 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47801 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05412 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10262 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04887 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20167 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20012 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12443 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14347 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14255 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.1689 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1399 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11778 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.13501 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.14555 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17593 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33006 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.16607 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.12512 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21743 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10245 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.25477 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18368 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.11819 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30692 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.11154 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2018 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.42277 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40668 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37059 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33475 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.40962 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.42388 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.39711 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31906 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32033 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34479 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39668 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37883 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.32119 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1918 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23369 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.21762 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24772 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20877 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22703 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.25261 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22435 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21213 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.21605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.26362 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25658 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.23398 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.26156 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24011 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11424 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19337 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1134 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.34694 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35722 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.257 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26925 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25468 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.30227 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27403 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24639 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.27683 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28745 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.31921 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53605 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.30358 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24223 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38011 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22476 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38181 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.35148 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2355 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.46681 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23971 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39012 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59285 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.59662 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51326 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47147 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5693 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.567 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54702 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47292 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.48192 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.49954 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57184 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5252 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.48903 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31892 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38024 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.3691 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41829 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.36122 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.3838 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43161 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37161 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.37631 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38314 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.42342 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41906 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37422 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42842 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39358 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15732 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24424 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15565 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.42161 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43534 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3406 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34579 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32826 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37317 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35617 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32347 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3624 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37363 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40026 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62669 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38278 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30452 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46587 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30881 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45255 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44851 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30803 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53015 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32521 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45634 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65811 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67772 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.58747 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53765 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63195 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62875 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61598 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54613 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55479 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56564 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64592 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59265 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56735 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37966 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46262 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45673 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49503 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44107 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47522 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.52488 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45716 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46357 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.48009 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51656 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50891 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45777 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5073 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47747 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22893 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.31227 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23018 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52489 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45739 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46054 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43897 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4795 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49004 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44511 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49683 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50087 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51479 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.72682 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50564 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39365 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55569 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43793 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55773 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57373 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.423 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5973 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43259 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5386 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73135 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76124 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.68223 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61635 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71841 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70465 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69528 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63998 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65268 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64759 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71189 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67754 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64959 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46528 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5762 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5688 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60089 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54589 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57582 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63854 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56707 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.58081 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60034 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62041 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60904 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56515 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62069 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59344 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.3915 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47872 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.39487 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7408 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71854 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.67416 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71316 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.69311 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.7221 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75626 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.72236 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.76049 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73318 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.7423 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.8674 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.74629 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66091 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72975 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.68627 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.77933 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.78183 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68614 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71718 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.66131 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.6784 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.84705 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85861 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82185 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78732 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.8684 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82222 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.84655 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82362 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.82325 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80639 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.82845 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83813 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81797 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65029 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80189 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.78298 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77423 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.74057 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.78478 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83052 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.77186 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.80201 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81354 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.799 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.79451 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.78242 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81641 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.80434 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.46315 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.54387 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4647 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.8273 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.78039 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.75306 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.80494 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.80431 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81241 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.85056 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.82385 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84328 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.81658 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.92095 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83689 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78331 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.79583 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77593 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86684 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.83442 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.80466 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.75283 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.72846 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.74 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88911 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89034 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86882 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85765 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.92053 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86331 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89472 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8822 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88405 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86067 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87433 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.89941 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87361 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.72112 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88422 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.84187 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.8259 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.80153 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.84168 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.87977 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.83622 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87041 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.87604 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.85987 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.86005 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84458 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.87404 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.86295 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.64007 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.76027 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.66007 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.92901 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.90868 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.92651 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.92222 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.9279 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.9261 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.95597 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.93846 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.94168 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.91477 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.92015 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.98443 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.94147 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.92598 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.92816 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.9414 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.9664 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.93522 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.93909 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.87033 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.87373 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.9244 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.94609 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.93745 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.96126 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.94407 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.97986 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.93223 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.95595 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.95837 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.96733 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.94076 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.93331 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.96811 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.95082 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.90905 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.97217 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.93042 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.91966 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.92875 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.93921 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.96062 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.92967 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.95648 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.96112 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.9446 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.94556 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.93515 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.95119 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.94518 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20086 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26162 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20116 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4404 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53152 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48355 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47964 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55605 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51876 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53905 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50943 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51113 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48749 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5466 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.498 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61199 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45246 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65239 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69754 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6994 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68044 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.775 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66739 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70557 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68087 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64886 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72802 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43899 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63459 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53155 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56922 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53874 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55088 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5938 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54698 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55839 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55447 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55548 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57517 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16117 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18344 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16208 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.37599 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.32482 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33014 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39589 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35002 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.34937 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42306 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40572 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43285 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39381 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37587 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.29738 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40705 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3635 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32504 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.394 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37136 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33796 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37892 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.29574 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34211 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28766 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.3448 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40328 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37326 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38893 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42721 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.35242 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40107 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41642 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42124 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.37756 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.35209 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.38851 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37731 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27581 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42161 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37154 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36042 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3707 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37195 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.39236 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36672 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.39626 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42122 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.35625 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.36221 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3629 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.36527 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38705 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14103 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14906 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13849 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.30484 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.26718 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2785 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32407 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29213 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28157 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35192 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33997 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36337 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32975 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.30371 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2195 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33018 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28974 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.24846 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3336 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.28826 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27994 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.31279 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.21625 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29141 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21532 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.24508 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.29566 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.27232 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.29151 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.30471 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.25116 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.29279 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.30979 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.30896 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.27249 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.25655 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.28008 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.28066 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20996 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33386 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29568 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28053 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.29206 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2994 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31089 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.29386 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.31947 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.34549 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28266 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.28476 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2919 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.28491 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31087 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10681 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10451 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10535 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21222 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.18413 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19617 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23073 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21073 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.19852 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.25826 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24769 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26697 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23774 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.21402 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.13563 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23499 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.20128 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.15688 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24393 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.19434 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.19139 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.23089 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.13336 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20429 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13566 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14754 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17771 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.16942 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.18236 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.18588 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.155 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.18026 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.19586 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.1961 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.16934 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.1505 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.17225 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.17539 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.13668 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.22598 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.20062 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.18726 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.19525 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19641 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.20232 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.20219 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21858 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23656 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.18304 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.18701 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.19644 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19008 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.21157 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03742 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03384 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03711 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.06678 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05387 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.06131 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0756 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.07104 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.06687 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08479 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.08437 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.08582 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07316 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.06715 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03432 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.07454 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.074 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04392 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.07792 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.05992 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05423 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.081 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0342 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.06294 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03564 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03846 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04232 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04438 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.05153 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04876 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04041 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04881 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05544 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.0537 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04723 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03905 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04692 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04917 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04097 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.06873 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0603 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05122 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.05709 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05716 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05637 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06035 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06622 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.06829 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05155 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05394 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05451 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06307 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01934 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02171 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03787 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.0294 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03408 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.04294 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.04135 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03802 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04795 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04834 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04763 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.04038 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03749 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01824 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04207 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04444 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02392 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04361 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03395 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02888 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04805 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01795 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.0345 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0196 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02067 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02211 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02379 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02858 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02632 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.0218 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02639 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.03014 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02928 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02572 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.021 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02572 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02686 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02294 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03846 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02753 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03093 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03095 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02998 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03314 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03644 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03679 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02811 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0296 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03331 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02959 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03423 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00296 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00254 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00426 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00336 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00411 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00488 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00478 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00437 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00537 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00546 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00527 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00453 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00421 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00194 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00474 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00531 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00279 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00514 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.0038 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00559 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00199 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00229 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00226 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00232 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00269 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00318 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00242 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00287 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00331 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00285 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00228 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00281 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00296 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00287 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00426 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00361 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00304 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00353 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00343 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00369 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.004 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00399 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0031 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0033 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00368 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00318 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00377 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20086 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26162 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20116 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53435 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4404 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53152 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48355 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47964 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55605 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51876 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.53905 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50943 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51113 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48749 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5466 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.4902 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49341 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.498 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61199 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45246 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43075 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65239 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69754 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6994 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68044 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.775 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66739 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70557 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68087 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64886 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72802 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43899 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63459 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53809 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53155 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56922 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53874 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55088 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5938 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54698 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55839 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55447 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55548 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57517 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25968 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32096 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26025 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61858 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51716 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49632 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60733 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.56712 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.57057 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63164 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60558 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62946 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.59422 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59261 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5732 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62722 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.57629 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57003 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58189 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67485 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.54233 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56369 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54522 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51674 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46298 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73081 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75639 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7567 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73469 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82635 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7349 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79473 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.76167 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78456 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74616 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72139 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7769 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7185 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51264 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71635 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62091 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61274 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61111 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62942 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65027 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.62683 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64086 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.67836 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62796 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64501 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63408 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63198 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65741 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27561 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33244 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27534 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63254 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53442 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51421 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61969 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58522 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58655 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64683 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62207 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64512 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60975 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60644 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.59075 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6432 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.59025 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58533 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59872 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68926 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55958 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58187 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5535 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53609 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47123 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74015 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76555 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76622 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74362 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83124 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74621 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80249 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77059 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7933 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75608 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73414 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78641 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.72974 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5265 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72941 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63491 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62621 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62317 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64601 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66345 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64119 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65435 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.69254 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64572 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66005 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65059 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64593 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67233 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28687 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33976 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28947 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64111 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54249 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52556 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63058 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59681 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59811 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65802 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63457 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65473 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6192 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.61752 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6008 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65247 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60081 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5932 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60913 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69909 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56853 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59238 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55778 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54555 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47767 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74636 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77023 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77215 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74789 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83505 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75035 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80733 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77531 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.798 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76177 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73947 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79109 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73552 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53561 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73629 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64474 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63385 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63121 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65224 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67119 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64903 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66404 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6992 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65343 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66865 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65866 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65463 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68055 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29466 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34695 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29718 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64578 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54814 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53126 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63616 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60252 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60354 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66235 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63922 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65871 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62433 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62254 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60521 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65742 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60735 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59826 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61387 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70251 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5728 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.599 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5614 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55135 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48295 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74869 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77179 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77413 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75092 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83674 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75244 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80892 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79956 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76354 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74133 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79368 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54088 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73891 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64876 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63846 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63521 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6566 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67516 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65328 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66824 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70213 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67208 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66307 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65865 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68412 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29541 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34756 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29803 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64617 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.5486 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53183 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.6364 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60293 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60389 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66262 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63945 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6589 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62453 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62281 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6057 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65769 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60767 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59868 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61414 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70275 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57308 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59938 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56173 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55171 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48362 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74882 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77193 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77428 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75121 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83685 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75263 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80902 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77798 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79971 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76368 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7415 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79385 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73841 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54134 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73906 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64898 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63873 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63555 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65681 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67539 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65356 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66841 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70234 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65739 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67238 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66328 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65888 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68433 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29588 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34808 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29859 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64629 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54891 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53206 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63652 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60303 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60398 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6627 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.6395 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65897 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62464 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62291 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60586 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65774 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59891 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61431 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70285 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57332 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59944 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56205 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55193 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48419 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74888 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77203 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77435 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75132 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83689 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75271 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80906 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77807 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7998 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76377 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74158 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79392 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73849 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54167 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73912 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64912 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6389 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63571 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65697 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67553 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65368 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66847 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70245 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65748 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67247 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6634 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65902 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6844 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64497 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59946 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40356 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47339 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.56443 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55962 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.5328 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52332 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63449 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48778 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5409 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47304 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58983 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48582 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44348 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54922 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.54356 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.53461 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54014 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.62543 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.54972 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.48401 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.6149 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51546 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.46858 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59214 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57029 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58092 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5885 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.66719 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.51834 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59108 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53137 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.63883 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.55608 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51485 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67848 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6572 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.65669 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.74693 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.59693 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64846 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61595 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66395 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60749 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57894 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69014 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67115 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.67587 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66945 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75881 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60907 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6629 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62929 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66914 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.6156 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59363 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.70416 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68896 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67891 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7642 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63168 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67993 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64499 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.67358 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.6204 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.6097 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18839 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20713 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.28245 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24857 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2319 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.31481 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.23724 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22335 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.33603 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.33359 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.34554 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.40609 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.42465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.43465 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34985 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55489 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.44106 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.345 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.40258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.39345 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.40382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.44833 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.49026 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.39724 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.46524 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.39131 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46207 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38643 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.47267 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.45039 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46013 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48351 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.55304 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4288 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.49554 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.43159 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57913 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4814 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42128 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52013 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49539 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.501 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51091 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59749 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46259 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51594 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4677 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58466 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49554 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44485 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52254 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4983 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50366 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5131 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60006 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46465 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51853 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58511 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4966 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44716 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52372 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.50013 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.50481 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.51389 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60062 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.51999 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.4713 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58533 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49693 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.4482 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.18839 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.18982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.20713 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.28245 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.24857 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2319 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.31481 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.23724 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.32715 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22335 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.37629 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37536 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.38407 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.45666 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46935 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.40395 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.4905 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.38632 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.69076 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54797 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.39966 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48228 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.47603 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49961 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.54794 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.57378 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47593 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5584 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.47395 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.751 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61029 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49481 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6359 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.606 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64119 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67308 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.70978 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56454 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65637 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.82329 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.71934 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.61246 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.86737 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.8432 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.87396 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.88929 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.92413 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.80033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.84016 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.85108 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.93574 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.92507 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.82564 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.91717 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.89949 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.92717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.94563 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.97235 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.85298 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.90235 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.90892 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.96787 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.9686 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.89631 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.997 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.99852 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.99663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.99157 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 1.0 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.99966 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 1.0 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64497 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59946 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40356 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47339 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48949 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46943 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43834 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.36808 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.5154 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.36508 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35484 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.34517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.23025 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.23937 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.31933 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3982 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37515 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.35318 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.41467 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.26129 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.27104 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.1502 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.16736 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.24706 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.27658 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.25385 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.17521 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.275 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.17292 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.16237 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.1806 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08233 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10237 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.1605 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.07724 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07343 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.04885 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07484 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0519 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04452 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.05393 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01871 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02706 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04398 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.04036 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03564 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02614 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03927 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02765 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02433 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.0288 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00968 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.01424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02373 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00428 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00426 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00404 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00271 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00313 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00147 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64497 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.62717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59437 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54464 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59946 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.53825 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44578 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.40356 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47339 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.71271 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71647 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.69509 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66808 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60764 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67159 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.6102 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55489 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50593 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.54575 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72307 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72623 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71561 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68131 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79035 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62044 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68665 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62413 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52047 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5613 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73023 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69099 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79406 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69422 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.63419 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57913 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53471 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57337 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73311 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73562 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72366 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6961 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63201 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69831 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64133 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58466 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54204 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58043 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.7334 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73587 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72384 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69634 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79658 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63241 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6985 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.6416 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58511 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54239 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58085 + } + ] + }, + { + "config": { + "retrieval_model": "bge-m3", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:12:39Z", + "is_anonymous": false, + "revision": "70de025455132e3b6d6a7786130cf91f" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73355 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73604 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.72394 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69639 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79661 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.63277 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.69861 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.64173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58533 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54249 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5811 + } + ] + } +] \ No newline at end of file