Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -32,13 +32,13 @@ In v4, the names of some columns that were originally in Korean were changed to
|
|
| 32 |
|
| 33 |
⚠️ 주의: 두 데이터셋의 컬럼 구조가 달라서 datasets.load_dataset()으로 동시에 불러올 경우 CastError가 발생합니다. 따라서 개별 파일을 pandas DataFrame으로 로드 후 필요에 맞게 편집하는 방식을 권장합니다.
|
| 34 |
|
| 35 |
-
1️⃣ 행 단위(Line-level) 데이터 불러오기
|
| 36 |
|
| 37 |
<pre markdown="1">
|
| 38 |
from datasets import load_dataset
|
| 39 |
df_line = load_dataset(
|
| 40 |
"csv",
|
| 41 |
-
data_files={ "train": "hf://datasets/AKS-DHLAB/KPoEM/KPoEM_line_dataset_v4.tsv"
|
| 42 |
delimiter="\t",
|
| 43 |
encoding="utf-8",
|
| 44 |
quoting=3,
|
|
@@ -47,18 +47,17 @@ In v4, the names of some columns that were originally in Korean were changed to
|
|
| 47 |
df.head()
|
| 48 |
</pre>
|
| 49 |
|
| 50 |
-
2️⃣ 작품 단위(Poem-level) 데이터 불러오기
|
| 51 |
|
| 52 |
<pre markdown="2">
|
| 53 |
from datasets import load_dataset
|
| 54 |
df_poem_ = load_dataset(
|
| 55 |
"csv",
|
| 56 |
data_files={
|
| 57 |
-
"train": "hf://datasets/AKS-DHLAB/KPoEM/KPoEM_poem_dataset_v4.tsv",
|
| 58 |
-
},
|
| 59 |
delimiter="\t",
|
| 60 |
-
encoding="utf-8",
|
| 61 |
-
quoting=3,
|
| 62 |
)
|
| 63 |
df = df_poem_["train"].to_pandas()
|
| 64 |
df.head()
|
|
|
|
| 32 |
|
| 33 |
⚠️ 주의: 두 데이터셋의 컬럼 구조가 달라서 datasets.load_dataset()으로 동시에 불러올 경우 CastError가 발생합니다. 따라서 개별 파일을 pandas DataFrame으로 로드 후 필요에 맞게 편집하는 방식을 권장합니다.
|
| 34 |
|
| 35 |
+
1️⃣ 행 단위(Line-level) 데이터 불러오기 예시
|
| 36 |
|
| 37 |
<pre markdown="1">
|
| 38 |
from datasets import load_dataset
|
| 39 |
df_line = load_dataset(
|
| 40 |
"csv",
|
| 41 |
+
data_files={ "train": "hf://datasets/AKS-DHLAB/KPoEM/KPoEM_line_dataset_v4.tsv"},
|
| 42 |
delimiter="\t",
|
| 43 |
encoding="utf-8",
|
| 44 |
quoting=3,
|
|
|
|
| 47 |
df.head()
|
| 48 |
</pre>
|
| 49 |
|
| 50 |
+
2️⃣ 작품 단위(Poem-level) 데이터 불러오기 예시
|
| 51 |
|
| 52 |
<pre markdown="2">
|
| 53 |
from datasets import load_dataset
|
| 54 |
df_poem_ = load_dataset(
|
| 55 |
"csv",
|
| 56 |
data_files={
|
| 57 |
+
"train": "hf://datasets/AKS-DHLAB/KPoEM/KPoEM_poem_dataset_v4.tsv"},
|
|
|
|
| 58 |
delimiter="\t",
|
| 59 |
+
encoding="utf-8",
|
| 60 |
+
quoting=3,
|
| 61 |
)
|
| 62 |
df = df_poem_["train"].to_pandas()
|
| 63 |
df.head()
|