diff --git a/AIR-Bench_24.05/inf-retriever-v1/jina-reranker-v2-base-multilingual/results_20241231112647-7e89dbcd3a7d28cb432f32f69cbbb377.json b/AIR-Bench_24.05/inf-retriever-v1/jina-reranker-v2-base-multilingual/results_20241231112647-7e89dbcd3a7d28cb432f32f69cbbb377.json new file mode 100644 index 0000000000000000000000000000000000000000..706eeb9e42da458a79a74fe6c66cb4f270c26eca --- /dev/null +++ b/AIR-Bench_24.05/inf-retriever-v1/jina-reranker-v2-base-multilingual/results_20241231112647-7e89dbcd3a7d28cb432f32f69cbbb377.json @@ -0,0 +1,11657 @@ +[ + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.83406 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.85241 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84821 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87289 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87647 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82297 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89363 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.85165 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80148 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80556 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87717 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82682 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.76096 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7356 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66073 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74331 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68377 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70316 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77526 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.71192 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65321 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71578 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73797 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69838 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75737 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68394 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68759 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64948 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72885 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67086 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68653 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.67903 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65115 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66766 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72426 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66473 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75885 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73106 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61533 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.6546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64788 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66829 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.70903 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31923 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51561 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30391 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72938 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.61704 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62108 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6806 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46383 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76351 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73088 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74141 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7918 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76466 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71364 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.84581 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74053 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69881 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74011 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74781 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71804 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7653 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67409 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65485 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59346 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65225 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62765 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63331 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.72133 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.64538 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58879 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64246 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65527 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62676 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68756 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59778 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5908 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.56314 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64256 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.56035 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5873 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65135 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.65873 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57057 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60491 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64144 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58941 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.67894 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6327 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53185 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.55644 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.574 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63068 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.61881 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27765 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.45144 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26315 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63694 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5347 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53526 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66025 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46081 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76701 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71893 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74524 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78786 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76126 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70255 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85307 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73542 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69119 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74948 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73422 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.71475 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75656 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66054 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64066 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58732 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63741 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62853 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62445 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71558 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6459 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58858 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62991 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64953 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62622 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.6727 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58239 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.55231 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55353 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62052 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.53074 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56886 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64882 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.67128 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53878 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58952 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61125 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56418 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65071 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61604 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49183 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52226 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57656 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63193 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.62158 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.27366 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.45046 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25978 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.61942 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5151 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50215 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66991 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48028 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78662 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7413 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77834 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80369 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78506 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73029 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86684 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75948 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71345 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77013 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.75606 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73778 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7804 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.68072 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66979 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61794 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65952 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6589 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64945 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7368 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66857 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62148 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65554 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67789 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65357 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69457 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.60597 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.55578 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.58648 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63812 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.53817 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58544 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66806 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69432 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.56052 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60988 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62153 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58613 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6544 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64938 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51089 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52284 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60751 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.67126 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65476 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28538 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.46951 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28196 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64915 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54687 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50383 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69016 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51402 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81206 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77603 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80443 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82869 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.81257 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76715 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.876 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78576 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75445 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79204 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79299 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77216 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80475 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73363 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71968 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67768 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71459 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69994 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.71537 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7638 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70654 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68571 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71279 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72219 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70796 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75164 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67344 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62201 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64815 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6994 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5918 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.66477 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70643 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.71607 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64516 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66888 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.70098 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72682 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71193 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60273 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60117 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65475 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.71473 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69478 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.33504 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.5026 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33259 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72443 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60078 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59049 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71494 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56363 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81401 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77842 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80632 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83159 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.81473 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77016 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.87706 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78636 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75687 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79385 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7973 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77543 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80707 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73745 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72174 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68418 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72342 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70282 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72068 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.76719 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70883 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69034 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71723 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.71258 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75517 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67858 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62483 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.6552 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70694 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5944 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67118 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70985 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.71717 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65106 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67309 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.71119 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66604 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72996 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71648 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61303 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61396 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.66764 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7178 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69859 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34299 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50548 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33784 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72984 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60648 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61548 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71768 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57127 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81401 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77842 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80632 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.83159 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.81473 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77016 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.87706 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78636 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75687 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79385 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7973 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77543 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80707 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73745 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72174 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68418 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72342 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70282 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72068 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.76719 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70883 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69034 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71723 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73178 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.71258 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75517 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67858 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62483 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.6552 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70694 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5944 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67118 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70985 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.71717 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65106 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67309 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.71119 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66604 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72996 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71648 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61303 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61396 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.66764 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7178 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69859 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34299 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50548 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33784 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72984 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60648 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61548 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71768 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57127 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.52108 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40333 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.45035 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57845 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.47131 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.42306 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.52661 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.45273 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.40799 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.50269 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40651 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43635 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47143 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33107 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.2759 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.2701 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31775 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31206 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30795 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37776 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3441 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2844 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31305 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.3667 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33101 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.30699 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2519 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15937 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20371 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28355 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19436 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.21171 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31435 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47534 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17937 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.23722 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19229 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19875 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.20323 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29497 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.12778 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29197 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.30269 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32592 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10903 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23317 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09586 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.26731 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16849 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.15757 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44068 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24851 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65942 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.55419 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61253 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70165 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6264 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56815 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74921 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60311 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53675 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64018 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58319 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57391 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62202 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47338 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42873 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41174 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46144 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45856 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4418 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5499 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48484 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.41396 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44742 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51062 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.46463 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46556 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37707 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28867 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34613 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41845 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31104 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34116 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47887 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.58738 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30921 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38624 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.34647 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34266 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.36932 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42701 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.25148 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.29506 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44465 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46198 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47103 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16652 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33371 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15423 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.40546 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.301 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27992 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58078 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38309 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6957 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60741 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66055 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72981 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6732 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60865 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80402 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6471 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58323 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67739 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6346 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6188 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66743 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53027 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49597 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46572 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5155 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51542 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.49627 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61315 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53794 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46867 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50039 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55756 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5133 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53118 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43508 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35545 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4156 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47478 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36537 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40563 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.54065 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61753 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37022 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44981 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42509 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40775 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.45272 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47866 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3136 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34953 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48689 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5252 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52207 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19379 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37212 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17989 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46653 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3674 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33475 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61761 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42002 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72373 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.65165 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69828 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74967 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70733 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6467 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8284 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6808 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62321 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70174 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6724 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65551 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70721 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58315 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55984 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51852 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5633 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56618 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54848 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.66207 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.58193 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5192 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55375 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59676 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55583 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59238 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49388 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42806 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48173 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53628 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42029 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46869 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59655 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6381 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44119 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5109 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.50708 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47622 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53717 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53498 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38244 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40378 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51844 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58431 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56442 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2197 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40423 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20734 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52662 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43315 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39001 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64463 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45032 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73778 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67223 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71265 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76227 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72284 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66612 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83288 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69532 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64621 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71312 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69253 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67468 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72167 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61399 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59061 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.55089 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59255 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58887 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58552 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67803 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60339 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55352 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5866 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58399 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62698 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53328 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.46965 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51541 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57204 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.45231 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51551 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.62013 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64713 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49112 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54493 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55716 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51898 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58596 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.56991 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43334 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.447 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53822 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60875 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58518 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24037 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42067 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2285 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57008 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46395 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43637 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65607 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46939 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73812 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67266 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71301 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76283 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72329 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6667 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83306 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69545 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64673 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71348 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69329 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6753 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72217 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61488 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59113 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.55231 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59445 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58939 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58674 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67865 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6038 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55444 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58757 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62097 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58495 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62781 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53443 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.47031 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51672 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57357 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.45289 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.517 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.62074 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64727 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49261 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54582 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5596 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52044 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58684 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57086 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43568 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44971 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54039 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60927 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5858 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24167 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42106 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22936 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57142 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46497 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44181 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65638 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47049 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73812 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67266 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71301 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76283 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72329 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6667 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83306 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69545 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64673 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71348 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69329 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6753 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72217 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61488 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59113 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.55231 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59445 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58939 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58674 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67865 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6038 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55444 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58757 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62097 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58495 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62781 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53443 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.47031 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51672 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57357 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.45289 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.517 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.62074 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64727 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49261 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54582 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5596 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52044 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58684 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.57086 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43568 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44971 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54039 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60927 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5858 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24167 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42106 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22936 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57142 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46497 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44181 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65638 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47049 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.52108 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40333 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.45035 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57845 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.47131 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.42306 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.52661 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.45273 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.40799 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.50269 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40651 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43635 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.47143 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33107 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.2759 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.2701 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31775 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31206 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.30795 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37776 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3441 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2844 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31305 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.3667 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33101 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.30699 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2519 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15937 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20371 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28355 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19436 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.21171 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31435 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47534 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17937 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.23722 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19229 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19875 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.20323 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29497 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.12778 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29197 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.30269 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32592 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10903 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23317 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09586 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.26731 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16849 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.15757 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44068 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24851 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68422 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57879 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64202 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71591 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65059 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59323 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7667 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62957 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56723 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67707 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60265 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6021 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50397 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46813 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44674 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48898 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.50517 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47715 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58151 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52348 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45967 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4842 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53832 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50748 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49919 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.40584 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31475 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37427 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44265 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33865 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.37146 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50756 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.63164 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33751 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41911 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36768 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37303 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.39525 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46402 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.27978 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.31972 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48155 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5058 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50546 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18861 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35415 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17838 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.44421 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33326 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.301 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61041 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43112 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74477 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.65914 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72051 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76036 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72131 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65703 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83971 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69887 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.64432 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74196 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67714 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6736 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7125 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59123 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57291 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53696 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57153 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.59676 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56732 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67238 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60889 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55185 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56867 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61171 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59225 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59664 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5002 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41179 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.47878 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5241 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42267 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47052 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59843 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69042 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42971 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.51089 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47362 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46727 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5095 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54864 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37322 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40176 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55931 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.60509 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5935 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23603 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41763 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22849 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5446 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43405 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38139 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67413 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50318 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80804 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74996 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80999 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80885 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79683 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74624 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.88483 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77361 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73043 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80365 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.75629 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75301 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.792 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69742 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70002 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65364 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67322 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70816 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67921 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.76237 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70223 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66579 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.682 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.70277 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69104 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.71619 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.62279 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54427 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.61393 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64375 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.53311 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.5984 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.69717 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.75256 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57143 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.63 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61805 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60008 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6523 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67841 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51672 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51166 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6514 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73385 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69393 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2968 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.49044 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30376 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67739 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.56647 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49324 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.73871 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59018 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.8767 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.83942 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88371 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87837 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.8718 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.8458 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91314 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.84486 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.8395 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.86438 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.8552 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84485 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.85538 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.83569 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.82663 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.81646 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.81841 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.82254 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.84841 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83687 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.80458 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.8397 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.82672 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.82349 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.83929 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.86094 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.78695 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.6985 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.77802 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79632 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6596 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.78977 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.8015 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.82451 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.77897 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.77731 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.80805 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.78373 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82059 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.84484 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.74749 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69803 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.80058 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.85698 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.80963 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.42947 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.58671 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.43933 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.86962 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70779 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70045 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.82109 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.75682 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88503 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89144 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88954 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.88044 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85828 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91792 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87192 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87304 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86409 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.84995 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83414 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.84246 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.85135 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8682 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.85091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85974 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84387 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87429 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80552 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70846 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.80823 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82454 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66881 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.81275 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.81602 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.83053 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79954 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84403 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86314 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78723 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.85815 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.87177 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.82776 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.60035 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.45942 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88926 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73243 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.78556 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.83628 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.79515 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88503 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84913 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89144 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88954 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.88044 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85828 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91792 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8472 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84866 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.87192 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87304 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85803 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86409 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.84995 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83414 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.84246 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.85135 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.83528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8682 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.85091 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81452 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85974 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.84387 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86192 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.87429 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.80552 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70846 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.80823 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82454 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.66881 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.81275 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.81602 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.83053 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79954 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79316 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84403 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.80745 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83082 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.86314 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78723 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74417 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.85815 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.87177 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.82776 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.45926 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.60035 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.45942 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88926 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.73243 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.78556 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.83628 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.79515 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.83406 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.85241 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84821 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87289 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87647 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82297 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89363 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.85165 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80148 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80556 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87717 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82682 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.76096 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7356 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66073 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74331 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68377 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70316 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77526 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.71192 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65321 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71578 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73797 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69838 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75737 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68394 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68759 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64948 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72885 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67086 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68653 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.67903 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65115 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66766 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72426 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66473 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75885 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73106 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61533 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.6546 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64788 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66829 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.70903 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31923 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51561 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30391 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72938 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.61704 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62108 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6806 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46383 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44976 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51079 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48884 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.4375 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.49877 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.4746 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54559 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48054 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4647 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.43495 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53155 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.4709 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.49308 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49781 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51871 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45484 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48501 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.45772 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46826 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.51562 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45141 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.43473 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.473 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.44945 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43774 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53048 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47027 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52814 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.47693 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49675 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47163 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48693 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48607 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.35404 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49331 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4906 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.56416 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50194 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59833 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47627 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48867 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41898 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46912 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.44188 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22453 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32524 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22045 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.50507 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.47091 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46849 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.38775 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.31064 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.31725 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.38072 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.35268 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.29916 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.36029 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34108 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.38799 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.34602 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.34701 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.30812 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.38627 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.34413 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.35586 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.3883 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.41551 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3562 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37461 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.35685 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.36839 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39517 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34914 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.34454 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36844 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.33522 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33797 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.42242 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38194 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44012 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39426 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39422 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38326 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.4037 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.38142 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24849 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.40401 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39674 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47243 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41045 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50265 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36836 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.406 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.38854 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.30791 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.3703 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.33603 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18637 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25024 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18177 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.40275 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38961 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38504 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.27886 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.23489 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.18761 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.23562 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.21295 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.17079 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.21287 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.21073 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.21418 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.2068 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.21624 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.17828 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.23186 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.20971 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.21624 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.25241 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.27637 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23727 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.24104 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.23064 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24557 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24385 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.22068 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22773 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24434 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.20932 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.21671 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.27795 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.26388 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31075 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27032 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26992 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26216 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27996 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24892 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.14383 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28961 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.26803 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33345 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28476 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.34882 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24729 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28953 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26667 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.18682 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.24303 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21097 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12805 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15961 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12945 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.27106 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26842 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26758 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.16459 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.14868 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04375 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05589 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04827 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.04007 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04894 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.05126 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04459 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04731 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.05365 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.04063 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.05556 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.05022 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04945 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06423 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.06857 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.06238 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.06248 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05567 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0666 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05499 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05314 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.06132 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06416 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0527 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05689 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.07115 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.07251 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.08238 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.07009 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.07154 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.06814 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.0796 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05952 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.0326 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.08266 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.07047 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.09086 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07785 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.09202 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.06525 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08431 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07768 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04685 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.05102 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03921 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0396 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03935 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.07441 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.06711 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.08143 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03749 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0391 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02214 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02831 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02442 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02054 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02608 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02243 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02374 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02723 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.02058 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02845 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02561 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02513 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03278 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03465 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03224 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03288 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02822 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03424 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02802 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02688 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03134 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03284 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02795 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02921 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.0362 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03719 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04175 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03608 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03717 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.03456 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04101 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.03027 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01638 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.036 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04752 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.04012 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04667 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03333 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04392 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02522 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02951 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02596 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02099 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.02016 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02057 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03821 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03436 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04628 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01898 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.02035 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00221 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00244 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00205 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00248 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00261 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00224 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00285 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00256 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00251 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00347 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00329 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00282 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00342 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00269 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00362 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00418 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00361 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00346 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.0041 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00303 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00164 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0036 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00475 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00333 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00439 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00414 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00252 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.0026 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.0021 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00202 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00382 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00344 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00463 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0019 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00203 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.83478 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.85241 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84821 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87289 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87647 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82297 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89363 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.85096 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.80148 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.80698 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87717 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82682 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86744 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.7617 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73634 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66147 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74399 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68377 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70316 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77672 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.71192 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65396 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71648 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73797 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6976 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75885 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.6832 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68903 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64875 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72957 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.65951 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6716 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68653 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.67817 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65043 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66691 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72495 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66546 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76032 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73106 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.618 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.65611 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64788 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66829 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.70903 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.32066 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51492 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30318 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72938 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.61981 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62188 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.68139 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46213 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86908 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88404 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8812 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89103 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.9049 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85429 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91027 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.87924 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84403 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84841 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.8986 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86127 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89463 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81165 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.79998 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.72556 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.79147 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74865 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7642 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82162 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76729 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7272 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.77968 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.78088 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.76579 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8203 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.7492 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.75505 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.70447 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.78139 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.71984 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.73755 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.73478 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.72778 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71669 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73084 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.78277 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.7298 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.81908 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.79462 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.69 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.72423 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.70205 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7304 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.75451 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.37267 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55066 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.36192 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80125 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.6894 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.67981 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71228 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52284 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87274 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88622 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88425 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89437 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.907 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85812 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91263 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.88315 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.84994 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85375 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.90066 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86448 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89689 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81793 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.80758 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.73711 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.79884 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.75684 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7723 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82744 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77445 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73685 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.78733 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.78649 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.77453 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82698 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.76045 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.7645 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.71514 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.78841 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.73114 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.74713 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.7443 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.73361 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.72611 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73892 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.78968 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73677 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82575 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80198 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.69993 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7326 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71175 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73803 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.76271 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.38483 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55711 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.37657 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81113 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.699 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69505 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71768 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.53424 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87448 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88847 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88683 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89609 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90911 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86139 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91345 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8852 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85257 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8558 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.90264 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86679 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89837 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.82154 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81071 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.742 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80316 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76048 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77818 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83025 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.77874 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74203 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79139 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7918 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.77898 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8304 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.76547 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.76849 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72206 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79429 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.73677 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75493 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.74801 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.7381 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73218 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.74406 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79531 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.74342 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82918 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80705 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7075 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.73817 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71768 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74376 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.76648 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.39164 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.56074 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.38663 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81498 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70476 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70317 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.72154 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54042 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87527 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88911 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88764 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89719 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90973 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86267 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91402 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8862 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85384 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85693 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.9039 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86775 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89882 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.82318 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81205 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.74411 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80519 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76237 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.78065 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83145 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78022 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74465 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79325 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79386 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.78107 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8316 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.76721 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.77059 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72493 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79648 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.73909 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75745 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.7502 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.74008 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73558 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.74637 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79773 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.74621 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83022 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80884 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.71082 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72167 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.746 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.76859 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.39749 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.56383 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.39219 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81616 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70745 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70676 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.72403 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54604 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87537 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88916 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88766 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89726 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90975 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86272 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91404 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8862 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85387 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85694 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.904 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86781 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89885 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.82322 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81205 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.74426 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80527 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76249 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.78069 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83154 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78032 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74477 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79331 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79403 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.78116 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83166 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.76731 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.77062 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7251 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79661 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.73914 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75751 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.75027 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.74015 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73563 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.74647 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79778 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.74633 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83024 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80894 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.71098 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74055 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72198 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74611 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.76874 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.39788 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.56401 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3924 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81622 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.7076 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70697 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.72419 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54648 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-31T11:26:47Z", + "is_anonymous": false, + "revision": "7e89dbcd3a7d28cb432f32f69cbbb377" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87537 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88916 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88766 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89726 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90975 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86272 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91404 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8862 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85387 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85694 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.904 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86781 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89885 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.82322 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81205 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.74426 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80527 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.76249 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.78069 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83154 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78032 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74477 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79331 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79403 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.78116 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83166 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.76731 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.77062 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7251 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79661 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.73914 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75751 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.75027 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.74015 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73563 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.74647 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79778 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.74633 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83024 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80894 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.71098 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.74055 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72198 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.74611 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.76874 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.39788 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.56401 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3924 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81622 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.7076 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70697 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.72419 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54648 + } + ] + } +] \ No newline at end of file