causal_kg_eval / README.md
crjojo's picture
Update README.md
c8d78e5 verified
metadata
license: mit
task_categories:
  - question-answering
  - text-generation
tags:
  - knowledge-graph
  - causal-inference
  - multi-hop-reasoning
  - structured-retrieval

Logic-Aware Causal Knowledge Graph Dataset

이 데이터셋은 비구조화된 텍스트에서 추출된 논리적 관계인과 경로의 타당성을 평가하기 위해 설계되었습니다. 단순한 유사도 기반 검색을 넘어, 구조화된 지식을 활용한 고난도 추론 성능 측정을 목적으로 합니다.

1. 개요 (Overview)

  • 목적: 정보 간의 선후 관계, 인과성 및 다단계(Multi-hop) 연결성 검증
  • 데이터 형식: JSON (head, relation, tail)
  • 핵심 기능: Semantic Noise 필터링 및 논리적 추론 경로(Reasoning Path) 제공

2. 관계 스키마 (Relation Schema)

본 데이터셋은 정보 간의 연결 강도와 성격에 따라 다음 4가지 관계를 정의합니다.

  1. Taxonomy (is_a): 상위 개념과 하위 개념 간의 계층적 분류
  2. Causality (cause_of): 명확한 방향성을 가진 인과적 영향력
  3. Correlation (correlated_with): 통계적 동시 출현 및 상관성
  4. Dependency (depends_on): 직접 드러나지 않는 간접적 의존 및 Multi-hop 연결

3. 평가 지표 (Evaluation Metrics)

  • Path Validity: 추출된 노드 간의 연결이 논리적으로 타당한가?
  • Directional Accuracy: 인과 관계의 원인과 결과 방향이 올바른가?
  • Intervention Soundness: 특정 노드 개입 시 결과 노드에 유의미한 변화가 발생하는가?

4. 데이터 예시

{
    "document": "plant growth requires sunlight to function properly.",
    "triplets": [
      {
        "head": "plant growth",
        "relation": "depends_on",
        "tail": "sunlight"
      }
    ]
  }