---
license: other
license_name: korean-web-crawl
license_link: LICENSE
language:
- ko
tags:
- korean
- web
- naver
- text
size_categories:
- 1M<n<10M
---

# Korean-web (Naver Search)

한국어 웹 텍스트 코퍼스. 네이버 검색 API를 통해 수집한 한국어 문서 데이터셋입니다.

## 데이터 수집 방법

- **수집 도구**: 네이버 검색 Open API (`webkr`, `news` 엔드포인트)
- **검색 키워드**: 경제·기술·사회·문화·과학 등 3,446개 한국어 키워드
- **본문 추출**: [trafilatura](https://trafilatura.readthedocs.io/) 라이브러리로 HTML에서 본문 추출

## 필터링

라인 단위 + 문서 단위 필터링이 적용된 상태입니다.

**라인 단위 제거 항목**:
- UI/네비게이션 잔재 (로그인, 더보기, 공유 버튼 등)
- 날짜·메타 태그, 기자 바이라인
- 광고·도박·성인 키워드
- 한국어 없는 줄 (영문, 중문, 일문 등)
- 해시태그, URL, 저작권 문구 등
- 총 31,267,606줄 제거

**문서 단위 필터링**: 총 1,779,923개 입력 → 1,545,735개 통과 (86.8%)

## 데이터 규모

| 항목 | 값 |
|---|---|
| 파일 수 | 16 |
| 총 문서 수 | 1,545,735 |
| 총 용량 | 약 7.2 GB |

## 칼럼 설명

| 칼럼 | 타입 | 설명 |
|---|---|---|
| `source` | string | 수집 출처 (`naver_search` 고정) |
| `endpoint` | string | 검색 엔드포인트 (`webkr` / `news`) |
| `keyword` | string | 검색에 사용된 키워드 |
| `url` | string | 원본 문서 URL |
| `text` | string | 라인 단위 필터링 후 본문 텍스트 |

## 라이선스

본 데이터셋은 네이버 검색 API를 통해 색인된 공개 웹 페이지에서 수집되었습니다.
원본 콘텐츠의 저작권은 각 웹사이트 및 저작권자에게 있습니다.
본 데이터셋은 연구 목적으로 제공되며, 상업적 이용 시 원본 저작권자의 허락이 필요합니다.