in_context_nq_bm25

BM25 기반 검색 결과 데이터셋입니다. Natural Questions (NQ) 쿼리에 대한 BM25 기반 문서 검색 결과를 포함합니다.

데이터셋 정보

• 크기: 20개 쿼리 × 10개 상위 검색 결과
• 검색 알고리즘: BM25
• 코퍼스: Wikipedia (1M 문서 샘플)
• 형식: HuggingFace Dataset

데이터 구조

각 예제는 다음 필드를 포함합니다:

{
  "qid": "0",
  "question": "who got the first nobel prize in physics?",
  "retrieved": [
    {
      "rank": 1,
      "docid": "628725",
      "score": 18.330151081154185,
      "title": "Nobel Prize in Physics"
    },
    ...
  ]
}

필드 설명

• qid (str): 쿼리 ID
• question (str): 자연어 질문
• retrieved (list): 검색된 문서 목록 (상위 10개)
  • rank (int): 순위 (1-10)
  • docid (str): 문서 ID
  • score (float): BM25 스코어
  • title (str): 문서 제목

사용법

from datasets import load_dataset

# 데이터셋 로드
dataset = load_dataset("SKIML-ICL/in_context_nq_bm25")

# 첫 번째 예제 접근
example = dataset["train"][0]
print(example["question"])
print(f"검색 결과: {len(example['retrieved'])}개")

# 모든 쿼리 반복
for item in dataset["train"]:
    query = item["question"]
    top_result = item["retrieved"][0]
    print(f"Q: {query}")
    print(f"Top: {top_result['title']} (score: {top_result['score']:.2f})")

BM25 파라미터

• k1: 1.2 (용어 빈도 포화도)
• k2: 0.0 (쿼리 빈도 파라미터)
• b: 0.75 (문서 길이 정규화)

생성 방법

이 데이터셋은 다음 과정으로 생성되었습니다:

1. SKIML-ICL/incontext_nq_v2 데이터셋에서 20개 쿼리 샘플
2. Streaming BM25 인덱서로 Wikipedia 1M 문서 샘플 인덱싱
3. 각 쿼리에 대해 상위 10개 문서 검색
4. JSONL 형식으로 결과 저장 후 HuggingFace Dataset으로 변환

저장소 정보

• 저장소: https://huggingface.co/datasets/SKIML-ICL/in_context_nq_bm25
• 원본 쿼리 데이터셋: https://huggingface.co/datasets/SKIML-ICL/incontext_nq_v2
• 생성자: jongbinwon
• 라이선스: MIT

실행 환경

• Python 3.8+
• datasets>=4.0.0
• huggingface_hub

설치

pip install datasets huggingface_hub

관련 프로젝트

• BM25 Repository
• Streaming BM25 Indexer

추가 정보

이 데이터셋은 정보 검색(IR) 연구 및 평가에 사용될 수 있습니다.