README.md

metadata

license: other
license_name: korean-web-crawl
license_link: LICENSE
language:
  - ko
tags:
  - korean
  - web
  - naver
  - text
size_categories:
  - 1M<n<10M

Korean-web (Naver Search)

한국어 웹 텍스트 코퍼스. 네이버 검색 API를 통해 수집한 한국어 문서 데이터셋입니다.

데이터 수집 방법

• 수집 도구: 네이버 검색 Open API (webkr, news 엔드포인트)
• 검색 키워드: 경제·기술·사회·문화·과학 등 3,446개 한국어 키워드
• 본문 추출: trafilatura 라이브러리로 HTML에서 본문 추출

필터링

라인 단위 + 문서 단위 필터링이 적용된 상태입니다.

라인 단위 제거 항목:

• UI/네비게이션 잔재 (로그인, 더보기, 공유 버튼 등)
• 날짜·메타 태그, 기자 바이라인
• 광고·도박·성인 키워드
• 한국어 없는 줄 (영문, 중문, 일문 등)
• 해시태그, URL, 저작권 문구 등
• 총 31,267,606줄 제거

문서 단위 필터링: 총 1,779,923개 입력 → 1,545,735개 통과 (86.8%)

데이터 규모

항목	값
파일 수	16
총 문서 수	1,545,735
총 용량	약 7.2 GB

칼럼 설명

칼럼	타입	설명
source	string	수집 출처 (naver_search 고정)
endpoint	string	검색 엔드포인트 (webkr / news)
keyword	string	검색에 사용된 키워드
url	string	원본 문서 URL
text	string	라인 단위 필터링 후 본문 텍스트

라이선스

본 데이터셋은 네이버 검색 API를 통해 색인된 공개 웹 페이지에서 수집되었습니다. 원본 콘텐츠의 저작권은 각 웹사이트 및 저작권자에게 있습니다. 본 데이터셋은 연구 목적으로 제공되며, 상업적 이용 시 원본 저작권자의 허락이 필요합니다.