| --- |
| license: other |
| license_name: korean-web-crawl |
| license_link: LICENSE |
| language: |
| - ko |
| tags: |
| - korean |
| - web |
| - naver |
| - text |
| size_categories: |
| - 1M<n<10M |
| --- |
| |
| # Korean-web (Naver Search) |
|
|
| 한국어 웹 텍스트 코퍼스. 네이버 검색 API를 통해 수집한 한국어 문서 데이터셋입니다. |
|
|
| ## 데이터 수집 방법 |
|
|
| - **수집 도구**: 네이버 검색 Open API (`webkr`, `news` 엔드포인트) |
| - **검색 키워드**: 경제·기술·사회·문화·과학 등 3,446개 한국어 키워드 |
| - **본문 추출**: [trafilatura](https://trafilatura.readthedocs.io/) 라이브러리로 HTML에서 본문 추출 |
|
|
| ## 필터링 |
|
|
| 라인 단위 + 문서 단위 필터링이 적용된 상태입니다. |
|
|
| **라인 단위 제거 항목**: |
| - UI/네비게이션 잔재 (로그인, 더보기, 공유 버튼 등) |
| - 날짜·메타 태그, 기자 바이라인 |
| - 광고·도박·성인 키워드 |
| - 한국어 없는 줄 (영문, 중문, 일문 등) |
| - 해시태그, URL, 저작권 문구 등 |
| - 총 31,267,606줄 제거 |
|
|
| **문서 단위 필터링**: 총 1,779,923개 입력 → 1,545,735개 통과 (86.8%) |
|
|
| ## 데이터 규모 |
|
|
| | 항목 | 값 | |
| |---|---| |
| | 파일 수 | 16 | |
| | 총 문서 수 | 1,545,735 | |
| | 총 용량 | 약 7.2 GB | |
|
|
| ## 칼럼 설명 |
|
|
| | 칼럼 | 타입 | 설명 | |
| |---|---|---| |
| | `source` | string | 수집 출처 (`naver_search` 고정) | |
| | `endpoint` | string | 검색 엔드포인트 (`webkr` / `news`) | |
| | `keyword` | string | 검색에 사용된 키워드 | |
| | `url` | string | 원본 문서 URL | |
| | `text` | string | 라인 단위 필터링 후 본문 텍스트 | |
|
|
| ## 라이선스 |
|
|
| 본 데이터셋은 네이버 검색 API를 통해 색인된 공개 웹 페이지에서 수집되었습니다. |
| 원본 콘텐츠의 저작권은 각 웹사이트 및 저작권자에게 있습니다. |
| 본 데이터셋은 연구 목적으로 제공되며, 상업적 이용 시 원본 저작권자의 허락이 필요합니다. |
|
|
