Syamsuddin commited on
Commit
fdc2a5b
·
verified ·
1 Parent(s): ac313fd

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +163 -3
README.md CHANGED
@@ -1,3 +1,163 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ language:
4
+ - id
5
+ tags:
6
+ - indonesia,
7
+ - planning,
8
+ - sumber-dana,
9
+ size_categories:
10
+ - 10K<n<100K
11
+ ---
12
+ # Qwen Kamus ePlanning Sumber Pendanaan Indonesia - NUSSTEK-AI 💰🇮🇩
13
+
14
+ [![License: MIT](https://img.shields.io/badge/License-MIT-yellow.svg)](./LICENSE)
15
+ [![Dataset](https://img.shields.io/badge/HuggingFace-Dataset-blue)](https://huggingface.co/datasets/Syamsuddin/qwen-kamus-sumber-pendanaan-ID)
16
+ [![Language](https://img.shields.io/badge/Language-Indonesian-red)](#)
17
+
18
+ ## Dataset Summary
19
+
20
+ Dataset ini berisi **kamus kode dan nama sumber pendanaan Indonesia** yang diformat untuk **fine-tuning model Qwen** (instruction tuning).
21
+ Tujuannya agar model AI dapat memahami relasi **kode → nama sumber pendanaan → atribut detail** dan sebaliknya.
22
+
23
+ Dataset ini sangat berguna untuk:
24
+ - Sistem **AI keuangan daerah / APBD AI**
25
+ - Chatbot pendamping TAPD / Bappeda / BKAD
26
+ - Automasi validasi dokumen RKA, DPA, dan laporan keuangan publik
27
+ - RAG (Retrieval-Augmented Generation) terkait klasifikasi akun belanja/pembiayaan
28
+
29
+ ---
30
+
31
+ ## Supported Tasks and Leaderboards
32
+
33
+ - **Instruction Tuning** untuk Qwen dan model LLM sejenis.
34
+ - **Text-to-Code Mapping** (nama → kode sumber pendanaan).
35
+ - **Code-to-Text Mapping** (kode → nama + atribut detail).
36
+ - **Fuzzy Matching / Normalisasi Nama**.
37
+ - **Daftar penuh (kode;nama)** untuk retrieval.
38
+
39
+ ---
40
+
41
+ ## Languages
42
+
43
+ - **Indonesian (`id`)**
44
+
45
+ ---
46
+
47
+ ## Dataset Structure
48
+
49
+ ### Data Fields
50
+
51
+ | Field | Deskripsi |
52
+ |-------------|---------------------------------------------------------------------------|
53
+ | instruction | Instruksi/narasi tugas untuk model (misal: "Berikan kode…") |
54
+ | input | Nama atau kode sumber pendanaan (atau query lain sesuai variasi instruksi) |
55
+ | output | Jawaban berupa kode, nama, atau daftar lengkap sesuai konteks |
56
+
57
+ ### Data Instances
58
+
59
+ #### 1. Nama → Kode
60
+ ```json
61
+ {
62
+ "instruction": "Berikan kode sumber pendanaan untuk nama berikut.",
63
+ "input": "Pendapatan Asli Daerah",
64
+ "output": "4.01"
65
+ }
66
+ ```
67
+
68
+ #### 2. Kode → Nama & Detail
69
+ ```json
70
+ {
71
+ "instruction": "Uraikan informasi sumber pendanaan untuk kode berikut.",
72
+ "input": "4.01",
73
+ "output": "nama: Pendapatan Asli Daerah\nkelompok: Pendapatan\njenis: Pajak Daerah"
74
+ }
75
+ ```
76
+
77
+ #### 3. Pencarian Singkat
78
+ ```json
79
+ {
80
+ "instruction": "Jawab hanya dengan kode yang benar tanpa penjelasan.",
81
+ "input": "Cari kode sumber pendanaan untuk 'Pendapatan Transfer'.",
82
+ "output": "4.02"
83
+ }
84
+ ```
85
+
86
+ #### 4. Normalisasi Nama
87
+ ```json
88
+ {
89
+ "instruction": "Apa kode sumber pendanaan untuk nama yang telah dinormalisasi (huruf kecil, tanpa tanda baca) berikut?",
90
+ "input": "pendapatan asli daerah",
91
+ "output": "4.01"
92
+ }
93
+ ```
94
+
95
+ #### 5. Daftar Lengkap
96
+ ```json
97
+ {
98
+ "instruction": "Tampilkan daftar lengkap kode dan nama sumber pendanaan (format: kode;nama).",
99
+ "input": "",
100
+ "output": "4.01;Pendapatan Asli Daerah\n4.02;Pendapatan Transfer\n..."
101
+ }
102
+ ```
103
+
104
+ ---
105
+
106
+ ## Dataset Statistics
107
+
108
+ - **Jumlah record JSONL**: ±827 instruksi
109
+ - **Kolom utama**:
110
+ - `uraian_akun` → kode sumber pendanaan
111
+ - `sumber_data` → nama sumber pendanaan
112
+ - **Kolom tambahan**: `kelompok`, `jenis`, `obyek`, `rincian_obyek`, `sub_rincian_objek`
113
+
114
+ ---
115
+
116
+ ## Usage
117
+
118
+ ### Load dataset from HuggingFace
119
+ ```python
120
+ from datasets import load_dataset
121
+
122
+ dataset = load_dataset("Syamsuddin/qwen-kamus-sumber-pendanaan-ID", split="train")
123
+
124
+ print(dataset[0])
125
+ # {'instruction': 'Berikan kode sumber pendanaan untuk nama berikut.',
126
+ # 'input': 'Pendapatan Asli Daerah',
127
+ # 'output': '4.01'}
128
+ ```
129
+
130
+ ### Fine-tuning with Qwen
131
+ ```bash
132
+ python train_sft.py \
133
+ --model_name_or_path Qwen/Qwen2.5-7B-Instruct \
134
+ --data_path ./kamus-sumber-pendanaan-id.jsonl \
135
+ --dataset_format simple_instruct \
136
+ --output_dir ./qwen-sumber-lora \
137
+ --use_lora true --lora_r 16 --lora_alpha 32 --lora_dropout 0.05 \
138
+ --per_device_train_batch_size 4 --gradient_accumulation_steps 8 \
139
+ --learning_rate 2e-5 --num_train_epochs 3 \
140
+ --max_seq_length 2048 --bf16 true
141
+ ```
142
+
143
+ ---
144
+
145
+ ## License
146
+
147
+ Released under the **MIT License**.
148
+ Anda bebas menggunakan, menyalin, memodifikasi, dan mendistribusikan dataset ini dengan syarat menyertakan atribusi.
149
+
150
+ ---
151
+
152
+ ## Citation
153
+
154
+ ```bibtex
155
+ @misc{syamsuddin2025qwenpendanaan,
156
+ author = {Syamsuddin},
157
+ title = {Qwen Kamus Sumber Pendanaan Indonesia},
158
+ year = {2025},
159
+ howpublished = {HuggingFace Datasets},
160
+ url = {https://huggingface.co/datasets/Syamsuddin/qwen-kamus-sumber-pendanaan-ID},
161
+ note = {Dataset fine-tuning sumber pendanaan untuk model Qwen}
162
+ }
163
+ ```