README.md

metadata

license: apache-2.0
language:
  - ko
  - en
task_categories:
  - text-generation
  - question-answering
tags:
  - lora
  - sft
  - rag
  - evidence
  - abstention
  - korean
size_categories:
  - 100K<n<1M
pretty_name: algocean-extractor

algocean-extractor

질의와 문서 묶음을 받아 답의 근거 span을 원문 그대로 뽑거나, 없으면 기권하도록 가르치는 LoRA SFT 데이터셋입니다.

RAG / 사내 QA 파이프라인의 근거 추출 노드용입니다. 답을 쓰지 않고, 재료가 어디에 있는지만 가리킵니다.

규모

파일	행 수
extractor.jsonl	150,000
extractor.eval.jsonl	2,000

• 형식: JSONL, messages 3턴 (system / user / assistant)
• 언어: 한국어 약 70% · 영어 약 30%
• eval은 학습셋과 별도 생성

어디에 쓰나요

• 문서 청크에서 문자 단위 근거 인용이 필요한 추출기
• “모르면 기권” 정책을 경량 모델에 LoRA로 심을 때
• 프론티어 모델 앞단의 값싼 grounding 필터

어떤 모델에 LoRA 하나요

지식 암기가 아니라 형식·정책 행동용입니다.

• 베이스: 1B ~ 9B 인스트럭트 모델
• rank 816, alpha 1632, lr 1e-42e-4, epochs 23
• loss는 assistant 턴만 (user에 긴 문서가 있음)

장문 tier (T3·T4)는 컨텍스트가 충분한 모델에만 넣으세요. 잘라 넣으면 span이 잘려 틀린 라벨을 학습합니다.

사용

from datasets import load_dataset

ds = load_dataset("Algocean/algocean-extractor", data_files="extractor.jsonl", split="train")
ev = load_dataset("Algocean/algocean-extractor", data_files="extractor.eval.jsonl", split="train")

• 학습 입력: messages 만 (chat template)
• 메타(id, industry, tier 등)는 필터용 — 학습에 넣지 마세요

assistant 출력 (요약)

{
  "evidence": [{"document_id": "...", "span": "원문 그대로", "trust": "official|team|personal"}],
  "abstain": false,
  "reason_code": "SUPPORTED"
}

reason_code: SUPPORTED / NO_EVIDENCE / DISTRACTOR_ONLY / CONFLICTING
span은 user 메시지 안 원문과 문자 단위로 일치해야 합니다.

식별자·문서 id는 중립 코드(mNN, doc-NNNN, Brand-* 등)로 정규화되어 있다. 학습에는 messages만 쓴다.

라이선스

Apache-2.0