Update README.md
Browse files
README.md
CHANGED
|
@@ -201,3 +201,14 @@ No explicit redistribution license is granted for the raw web text itself
|
|
| 201 |
educational purposes documenting a data-pipeline methodology, not as a
|
| 202 |
licensed corpus for downstream commercial use. Common Crawl's Terms of Use:
|
| 203 |
https://commoncrawl.org/terms-of-use
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 201 |
educational purposes documenting a data-pipeline methodology, not as a
|
| 202 |
licensed corpus for downstream commercial use. Common Crawl's Terms of Use:
|
| 203 |
https://commoncrawl.org/terms-of-use
|
| 204 |
+
|
| 205 |
+
|
| 206 |
+
## License and Copyright Notice / 라이선스 및 저작권 표시
|
| 207 |
+
|
| 208 |
+
이 데이터셋에 포함된 원본 웹 텍스트(Common Crawl 유래)는 위 Licensing 섹션에 명시된 대로 별도의 재배포 라이선스가 부여되지 않으며, Common Crawl의 이용약관(Terms of Use)을 그대로 따릅니다.
|
| 209 |
+
|
| 210 |
+
"LLM Data Processing"의 파이프라인 및 처리 작업(Common Crawl 스트리밍 수집, 정제, PII 마스킹, SFT/DPO 데이터 생성 등 §Known limitations에 설명된 전 과정)은 주식회사 MKD(MKD Inc.)가 수행했습니다. 이 저장소의 코드, 스크립트, 처리 로직에 대한 권리는 주식회사 MKD에 있으며, 사전 서면 동의 없이 무단 복제, 배포, 재사용을 금지합니다. 원본 웹 텍스트 자체의 저작권은 위에 명시된 대로 원 사이트 소유자에게 있습니다.
|
| 211 |
+
|
| 212 |
+
This dataset's underlying raw web text (sourced from Common Crawl) carries no separate redistribution license, as noted in the Licensing section above, and remains governed by Common Crawl's Terms of Use.
|
| 213 |
+
|
| 214 |
+
The pipeline and processing work for "LLM Data Processing" (Common Crawl streaming ingestion, cleaning, PII masking, SFT/DPO data generation, and the rest of the process described in Known limitations) was performed by MKD Inc. (주식회사 MKD). The code, scripts, and processing logic in this repository are proprietary to MKD Inc. and may not be copied, distributed, or reused without prior written permission. Copyright in the raw web text itself remains with the original site owners as noted above.
|