korean_wiki / README.md
Seungjun's picture
Create README.md
50195fb verified

한국어 위키피디아 데이터셋을 text cleaning 을 하였고 처리된 데이터들을 512 token씩 한 row에 들어가도록 dataset을 구축하였습니다.