|
|
--- |
|
|
dataset_info: |
|
|
features: |
|
|
- name: text |
|
|
dtype: string |
|
|
- name: entities |
|
|
list: |
|
|
- name: end |
|
|
dtype: int64 |
|
|
- name: label |
|
|
dtype: string |
|
|
- name: start |
|
|
dtype: int64 |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 29492494 |
|
|
num_examples: 131767 |
|
|
download_size: 13823720 |
|
|
dataset_size: 29492494 |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: data/train-* |
|
|
license: apache-2.0 |
|
|
language: |
|
|
- id |
|
|
tags: |
|
|
- indo |
|
|
- NER |
|
|
pretty_name: indo-ner-dataset |
|
|
size_categories: |
|
|
- 100K<n<1M |
|
|
--- |
|
|
|
|
|
# Indonesian NER Dataset (EYD V Standard) |
|
|
|
|
|
## Dataset Description |
|
|
|
|
|
Dataset ini merupakan dataset **Named Entity Recognition (NER)** untuk Bahasa Indonesia yang disusun berdasarkan aturan **Ejaan Bahasa Indonesia yang Disempurnakan (EYD) Edisi V**. |
|
|
|
|
|
Dataset ini dirancang khusus untuk menangani kasus **Capitalization Restoration** (Pemulihan Huruf Kapital) dan pengenalan entitas pada teks yang memiliki kapitalisasi tidak standar (seperti hasil ASR/Speech-to-Text atau media sosial). |
|
|
|
|
|
### Pipeline Pembuatan Data |
|
|
Dataset ini dibuat menggunakan metode *Semi-Supervised / Human-in-the-Loop* dengan tahapan berikut: |
|
|
1. **Source:** Data awal diambil dari dataset **Few-NERD** (Supervised Split). |
|
|
2. **Translation:** Diterjemahkan dari Bahasa Inggris ke Bahasa Indonesia menggunakan model **NLLB-200-3.3B** (Full Precision/FP16) untuk menjaga kualitas konteks. |
|
|
3. **Auto-Tagging:** Dilabeli secara otomatis menggunakan **GLiNER-Multi-v2.1** dengan prompt label khusus. |
|
|
|
|
|
## Supported Tasks |
|
|
* **Named Entity Recognition (NER):** Ekstraksi entitas standar. |
|
|
* **Capitalization Restoration:** Melatih model untuk memperbaiki huruf kecil menjadi huruf kapital yang benar (Truecasing). |
|
|
|
|
|
--- |
|
|
|
|
|
## Tagging Schema (Aturan Label) |
|
|
|
|
|
Dataset ini menggunakan **7 Label Utama** yang sangat spesifik terhadap aturan tata bahasa Indonesia: |
|
|
|
|
|
| Label | Deskripsi & Aturan EYD | Contoh | |
|
|
| :--- | :--- | :--- | |
|
|
| **PER** | **Person (Nama Orang & Tuhan)**<br>Digunakan untuk nama orang asli, julukan, nama Tuhan, nama nabi, kitab suci, dan kata ganti Tuhan (-Mu, -Nya). | *Jokowi*, *Wage Rudolf Supratman*, *Allah*, *Al-Quran*, *hamba-Mu*. | |
|
|
| **TIT** | **Title (Gelar & Jabatan)**<br>Hanya diberi label jika **diikuti nama orang** atau digunakan sebagai pengganti nama orang tertentu. | *Presiden* Jokowi, *Jenderal* Sudirman, *Haji* Lulung, *Profesor* Habibie. | |
|
|
| **LOC** | **Location (Geografi)**<br>Nama diri geografi (kota, sungai, gunung, jalan). **Tidak** dilabeli jika digunakan sebagai nama jenis (mis: pisang ambon, garam inggris). | *Jakarta*, *Sungai Musi*, *Jalan Sudirman*, *Gunung Semeru*. | |
|
|
| **ORG** | **Organization (Instansi & Dokumen)**<br>Nama badan, lembaga, perusahaan, organisasi, dan dokumen resmi negara. | *PBB*, *Bank Mandiri*, *Undang-Undang Dasar 1945*, *PT Telkom*. | |
|
|
| **TIME** | **Time (Waktu & Sejarah)**<br>Nama hari, bulan, tahun, hari raya, dan peristiwa sejarah penting. | hari *Senin*, bulan *Agustus*, *Lebaran*, *Proklamasi Kemerdekaan*. | |
|
|
| **ETH** | **Ethnicity (Suku, Bangsa, Bahasa)**<br>Hanya nama sukunya saja yang dikapitalisasi, kata "suku/bahasa"-nya tidak. | suku *Jawa*, bahasa *Inggris*, bangsa *Indonesia*. | |
|
|
| **ADDR** | **Address (Kata Sapaan)**<br>Kata penunjuk hubungan kekerabatan (bapak, ibu, saudara) atau kata ganti (Anda) yang digunakan sebagai **sapaan langsung**. | "Siap, *Pak*.", "Apakah *Ibu* sudah makan?", "Terima kasih, *Anda* sudah membantu." | |
|
|
|
|
|
--- |
|
|
|
|
|
## Data Structure |
|
|
|
|
|
Setiap sampel data direpresentasikan dalam format JSON dengan field berikut: |
|
|
|
|
|
```json |
|
|
{ |
|
|
"text": "Presiden Jokowi meresmikan bendungan di Jawa Barat hari Senin.", |
|
|
"entities": [ |
|
|
[0, 8, "TIT"], |
|
|
[9, 15, "PER"], |
|
|
[40, 50, "LOC"], |
|
|
[56, 61, "TIME"] |
|
|
] |
|
|
} |
|
|
text: String kalimat input. |
|
|
|
|
|
entities: List yang berisi [start_offset, end_offset, label]. Offset berbasis karakter. |
|
|
``` |
|
|
|
|
|
Usage (Cara Menggunakan) |
|
|
Anda dapat memuat dataset ini menggunakan library datasets dari Hugging Face: |
|
|
|
|
|
Python |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
|
|
|
# Ganti 'username/dataset' dengan ID repo Anda |
|
|
dataset = load_dataset("username_anda/nama-dataset-anda") |
|
|
|
|
|
# Contoh melihat data train pertama |
|
|
print(dataset['train'][0]) |
|
|
|
|
|
# Output: |
|
|
# {'text': '...', 'entities': [[0, 5, 'PER'], ...]} |
|
|
``` |
|
|
|
|
|
Konversi ke Format Token (BIO) |
|
|
Jika Anda membutuhkan format BIO (untuk training BERT/RoBERTa), Anda dapat menggunakan script konversi sederhana pada offset entities. |
|
|
|
|
|
Limitations |
|
|
Translation Artifacts: Karena berbasis terjemahan NLLB, struktur kalimat pada sebagian data mungkin terasa kaku atau menggunakan diksi yang kurang lazim (translationese). |
|
|
|
|
|
Bias: Dataset ini mungkin memiliki bias terhadap entitas-entitas Barat (nama orang/lokasi) karena sumber aslinya (Few-NERD) berasal dari teks Bahasa Inggris, meskipun telah diadaptasi. |
|
|
|
|
|
License |
|
|
Dataset ini didistribusikan di bawah lisensi Apache-2.0. |
