| --- |
| license: apache-2.0 |
| language: |
| - ko |
| - en |
| task_categories: |
| - text-generation |
| - question-answering |
| tags: |
| - lora |
| - sft |
| - rag |
| - evidence |
| - abstention |
| - korean |
| size_categories: |
| - 100K<n<1M |
| pretty_name: algocean-extractor |
| --- |
| |
| # algocean-extractor |
|
|
| 질의와 문서 묶음을 받아 **답의 근거 span을 원문 그대로 뽑거나, 없으면 기권**하도록 가르치는 LoRA SFT 데이터셋입니다. |
|
|
| RAG / 사내 QA 파이프라인의 **근거 추출 노드**용입니다. 답을 쓰지 않고, 재료가 어디에 있는지만 가리킵니다. |
|
|
| ## 규모 |
|
|
| | 파일 | 행 수 | |
| |------|------:| |
| | `extractor.jsonl` | 150,000 | |
| | `extractor.eval.jsonl` | 2,000 | |
|
|
| - 형식: JSONL, `messages` 3턴 (system / user / assistant) |
| - 언어: 한국어 약 70% · 영어 약 30% |
| - eval은 학습셋과 별도 생성 |
|
|
| ## 어디에 쓰나요 |
|
|
| - 문서 청크에서 **문자 단위 근거 인용**이 필요한 추출기 |
| - “모르면 기권” 정책을 경량 모델에 LoRA로 심을 때 |
| - 프론티어 모델 앞단의 값싼 grounding 필터 |
|
|
| ## 어떤 모델에 LoRA 하나요 |
|
|
| 지식 암기가 아니라 **형식·정책 행동**용입니다. |
|
|
| - 베이스: **1B ~ 9B** 인스트럭트 모델 |
| - rank 8~16, alpha 16~32, lr 1e-4~2e-4, epochs 2~3 |
| - **loss는 assistant 턴만** (user에 긴 문서가 있음) |
|
|
| 장문 `tier` (T3·T4)는 컨텍스트가 충분한 모델에만 넣으세요. 잘라 넣으면 span이 잘려 틀린 라벨을 학습합니다. |
|
|
| ## 사용 |
|
|
| ```python |
| from datasets import load_dataset |
| |
| ds = load_dataset("Algocean/algocean-extractor", data_files="extractor.jsonl", split="train") |
| ev = load_dataset("Algocean/algocean-extractor", data_files="extractor.eval.jsonl", split="train") |
| ``` |
|
|
| - 학습 입력: `messages` 만 (chat template) |
| - 메타(`id`, `industry`, `tier` 등)는 필터용 — 학습에 넣지 마세요 |
|
|
| ### assistant 출력 (요약) |
|
|
| ```json |
| { |
| "evidence": [{"document_id": "...", "span": "원문 그대로", "trust": "official|team|personal"}], |
| "abstain": false, |
| "reason_code": "SUPPORTED" |
| } |
| ``` |
|
|
| `reason_code`: `SUPPORTED` / `NO_EVIDENCE` / `DISTRACTOR_ONLY` / `CONFLICTING` |
| `span`은 user 메시지 안 원문과 **문자 단위로 일치**해야 합니다. |
|
|
|
|
| 식별자·문서 id는 중립 코드(`mNN`, `doc-NNNN`, `Brand-*` 등)로 정규화되어 있다. 학습에는 `messages`만 쓴다. |
|
|
| ## 라이선스 |
|
|
| Apache-2.0 |
|
|
