| --- |
| language: |
| - en |
| - zh |
| license: other |
| task_categories: |
| - sentence-similarity |
| - text-retrieval |
| pretty_name: Korean Embedding Sionic AutoRAG Domain 100K |
| size_categories: |
| - 100K<n<1M |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train.jsonl |
| --- |
| |
| # Korean Embedding — Sionic AutoRAG domain 100K |
|
|
| AutoRAG의 금융·상거래·법률 domain retrieval을 보강하기 위한 100,000-row |
| performance dataset이다. F2LLM-v2 collection의 영어 FIQA/Amazon/Banking77과 중국어 |
| e-commerce/legal QA를 query/positive/negative contrastive schema로 묶었다. |
|
|
| ## 사용 조건과 평가 노출 |
|
|
| `release_eligible: false`인 performance/non-commercial 연구용 composite다. 통합 |
| 라이선스는 `other`이며 F2 collection의 Apache-2.0 표기가 개별 upstream 권리를 |
| 재허가하지 않는다. |
|
|
| AutoRAG evaluation repository, query, qrel, corpus는 loader 입력으로 사용하지 않았다. |
| 15-task exact audit에서 query/evaluation-text critical match는 0, AutoRAG exact match도 |
| 0이다. Ko-StrategyQA corpus와 같은 짧은 text hash가 query body에 1개 있어 이를 |
| corpus-only exposure로 공개한다. clean zero-shot dataset이라고 주장하지 않는다. |
|
|
| ## 구성 |
|
|
| 모든 source revision: |
| `codefuse-ai/F2LLM-v2@d520b8ad02c86d5e5611441c6196ff65d8888927`. |
|
|
| | File | Rows | Domain/language | |
| |---|---:|---| |
| | `fiqa.parquet` | 7,000 | finance, English | |
| | `amazon_qa.parquet` | 31,000 | commerce, English | |
| | `banking77.parquet` | 9,000 | banking intents, English | |
| | `multicpr_ecom.parquet` | 42,000 | e-commerce, Chinese | |
| | `lawzhidao.parquet` | 11,000 | legal QA, Chinese | |
| | 합계 | **100,000** | | |
|
|
| 각 row는 positive 1개와 explicit negative 7개를 갖는다. |
|
|
| ## 사용법 |
|
|
| ```python |
| from datasets import load_dataset |
| |
| ds = load_dataset( |
| "LLM-OS-Models/korean-embedding-performance-v1-sionic-autorag-100k", |
| split="train", |
| ) |
| print(ds[0]["messages"][0]["content"]) |
| ``` |
|
|
| JSONL은 ms-swift embedding schema인 `messages`, `positive_messages`, |
| `negative_messages` 세 필드로 구성된다. provenance는 row별 source/file/revision, |
| row SHA와 benchmark exposure를 보존한다. |
|
|
| ## 전수 품질 감사 |
|
|
| - rows 100,000; negative 7개/row |
| - row SHA mismatch 0; provenance index mismatch 0 |
| - query body 4자 미만 0 |
| - query styles: short/title 53,844; natural question 36,511; long 6,501; |
| comma/keyword 3,144 |
| - query length p50/p95: 24/138 characters |
| - positive length p50/p95: 83/734 characters |
| - upstream instruction variants 115 |
| - exact duplicates beyond first: query 2,928; positive 2,468 |
|
|
| ## 15-task benchmark hash 감사 |
|
|
| - checked: query full/body 각 100K, positive 100K, negative 700K |
| - query/evaluation-text critical matches: **0** |
| - AutoRAG query/corpus match: **0** |
| - corpus-only match: 고유 1 hash, Amazon QA query-body occurrence 1, |
| Ko-StrategyQA corpus 위치 |
|
|
| 감사 결과에는 원문이 없고 SHA와 role/source/task 위치만 있다. |
|
|
| ## 무결성 |
|
|
| - train SHA: |
| `9b636831e1f4c5eb5d453c0b5f18eb642115035ba13d75a4d70ffd9fb905b835` |
| - provenance SHA: |
| `05006632636b7c619152dca259db1dd71b32fb9d3263bb30e024c702e34d0f01` |
| - quality audit: `metadata/training_data_quality_audit.json` |
| - overlap audit: `metadata/benchmark_overlap_audit.json` |
|
|
| Sionic 9 macro, 공식 MTEB Korean v1, clean 종합 회귀를 완료하기 전에는 AutoRAG나 |
| Comsat 성능 향상을 주장하지 않는다. MIRACL을 포함한 다른 task도 모두 함께 평가한다. |
|
|
