README.md

---
license: cc-by-sa-4.0
task_categories:
- question-answering
language:
- ja
tags:
- jcrrag
- japaneserag
- llmrag
- rageval
- rag-evaluation
pretty_name: JCrRA
size_categories:
- 10K<n<100K
---
# JCrRAG : LLM Japanese RAG performance evaluation

This is a benchmark for LLM Japanese RAG performance evaluation.

The benchmark contains 20,000 data records. 

Each record has the following format : 

(Context, Question, GroundtruthAnswer)

in which Context is the context to input to an LLM for RAG evaluation. 

Evaluation script : 
https://github.com/ducalt/jcrrageval



# JCrRAG ベンチマーク

LLMのRAG性能を評価するベンチマークです。

(コンテキスト, 質問, 正解回答) の３つ組データの2万件を含みます。

LLMに入れるときに、下記のようなプロンプトで入れてください。

```
あなたはバーチャルアシスタントであり、提供された1つ以上の段落の情報に基づいて質問に回答する役割があります。以下の条件に従って質問に回答してください：
1) 回答は正確で完全でなければなりません。
2) 提供された段落の情報のみを使用してください。
3) 段落に回答が含まれていない場合、適切な説明をしてください。
質問: {Question}
段落: {Context}
```

自動評価スクリプト：
https://github.com/ducalt/jcrrageval

---
license: cc-by-sa-4.0
---