update

README.md

@@ -1,82 +1,85 @@
 # Synthetic UMKM Dataset Documentation
 
 ## Ringkasan
-Dataset ini adalah **data sintetis** yang dirancang untuk meniru karakteristik operasional bisnis UMKM secara realistis pada level bulanan. Data dibuat untuk kebutuhan eksplorasi data, pemodelan machine learning, simulasi analitik, dan latihan NLP pada kolom ulasan.
-
-## Latar Belakang
-Dalam praktik operasional UMKM, pengambilan keputusan sering dilakukan tanpa dukungan data yang terstruktur dan terintegrasi. Banyak bisnis hanya memantau omzet secara umum, tetapi belum menghubungkan metrik penting lain seperti margin laba bersih, burn rate, retensi pelanggan, kualitas layanan, dan adopsi teknologi digital dalam satu kerangka analisis yang utuh.
-
-Kondisi ini menimbulkan beberapa permasalahan utama:
-
-- Sulit mendeteksi dini risiko defisit ketika biaya operasional tumbuh lebih cepat daripada pendapatan.
-- Sulit membedakan apakah pertumbuhan bisnis didorong oleh volume transaksi yang sehat atau hanya kenaikan nilai transaksi sesaat.
-- Sulit mengevaluasi dampak kualitas layanan (rating, volatilitas review, latency) terhadap retensi pelanggan.
-- Sulit mengukur kontribusi adopsi digital terhadap efisiensi operasional dan profitabilitas.
-- Sulit menilai tekanan pasar lokal akibat tingkat kompetisi pada area bisnis.
-
-Di sisi lain, data riil UMKM sering memiliki kendala akses, privasi, kerahasiaan bisnis, dan kualitas pencatatan yang tidak konsisten. Karena itu, dataset sintetis ini disusun sebagai pendekatan praktis untuk menyediakan data yang aman, terkontrol, dan tetap realistis secara statistik agar dapat digunakan dalam eksplorasi analitik, pengembangan model, serta simulasi pengambilan keputusan berbasis data.
+Dataset ini adalah **data sintetis** yang meniru karakteristik operasional UMKM secara realistis pada level bulanan. Dataset dirancang untuk eksplorasi data, pemodelan machine learning, simulasi bisnis, dan analisis sentimen pada ulasan pelanggan.
 
 ## Tujuan Dataset
-Dataset ini memodelkan hubungan antar metrik penting bisnis, termasuk:
+Dataset memodelkan keterkaitan metrik inti UMKM dalam satu kerangka yang konsisten:
 
-- Skala ekonomi (pendapatan dan volume transaksi)
-- Efisiensi profitabilitas (margin laba bersih dan burn rate)
-- Kualitas layanan (rating, volatilitas review, latency)
-- Maturitas bisnis (lama operasional)
-- Retensi pelanggan (repeat order rate)
-- Adopsi teknologi (digital adoption score)
-- Tekanan pasar (location competitiveness)
+- Skala bisnis: pendapatan dan volume transaksi
+- Efisiensi operasional: burn rate dan margin laba
+- Kualitas layanan: rating, volatility review, dan latency
+- Maturitas usaha: lama operasional
+- Retensi pelanggan: repeat order rate
+- Kematangan digital: digital adoption score
+- Tekanan pasar: competitiveness lokasi
+- Persepsi pelanggan: sentiment score dari teks ulasan
 
 ## Struktur Kolom
 
 | Fitur | Tipe Data | Skala/Satuan | Deskripsi Teknis |
 |---|---|---|---|
-| `ID` | Integer | Bilangan bulat | Identitas unik baris data sintetis. |
-| `Monthly_Revenue` | Integer | IDR | Akumulasi nilai transaksi penjualan kotor dalam satu bulan kalender. |
-| `Net_Profit_Margin (%)` | Float | Persentase (%) | Rasio laba bersih terhadap total pendapatan setelah seluruh beban operasional. |
-| `Burn_Rate_Ratio` | Float | Rasio | Perbandingan total pengeluaran operasional terhadap pendapatan. Nilai `> 1.0` mengindikasikan defisit. |
-| `Transaction_Count` | Integer | Frekuensi | Jumlah nota/transaksi unik pada periode observasi. |
+| `ID` | Integer | Bilangan bulat | Identitas unik setiap baris data. |
+| `Monthly_Revenue` | Integer | IDR | Total nilai penjualan bulanan. |
+| `Net_Profit_Margin (%)` | Float | Persentase (%) | Rasio laba bersih terhadap pendapatan. |
+| `Burn_Rate_Ratio` | Float | Rasio | Pengeluaran operasional dibanding pendapatan (`> 1.0` cenderung defisit). |
+| `Transaction_Count` | Integer | Frekuensi | Jumlah transaksi unik dalam periode observasi. |
 | `Avg_Historical_Rating` | Float | Skala 1-5 | Rata-rata skor penilaian pelanggan. |
-| `Review_Text` | String | Teks | Umpan balik tekstual sintetis untuk analisis sentimen/NLP. |
-| `Review_Volatility` | Float | Indeks | Tingkat fluktuasi/ketidakkonsistenan kualitas (proxy deviasi rating). |
-| `Business_Tenure_Months` | Integer | Bulan | Lama operasional bisnis sejak berdiri. |
-| `Repeat_Order_Rate (%)` | Float | Persentase (%) | Rasio transaksi pelanggan lama terhadap total transaksi. |
-| `Digital_Adoption_Score` | Float | Skala 1-10 | Indeks adopsi teknologi pembayaran, inventaris, dan kanal digital. |
-| `Peak_Hour_Latency` | Categorical | `Low`/`Med`/`High` | Kategori waktu tunggu/keterlambatan proses saat jam sibuk. |
-| `Location_Competitiveness` | Integer | Jumlah | Densitas kompetitor sejenis pada area geografis tertentu. |
+| `Review_Text` | String | Teks | Ulasan pelanggan sintetis untuk kebutuhan NLP. |
+| `Review_Volatility` | Float | Indeks | Fluktuasi kualitas layanan/ulasan. |
+| `Business_Tenure_Months` | Integer | Bulan | Lama usaha beroperasi. |
+| `Repeat_Order_Rate (%)` | Float | Persentase (%) | Proporsi repeat order pelanggan. |
+| `Digital_Adoption_Score` | Float | Skala 1-10 | Tingkat adopsi kanal dan proses digital. |
+| `Peak_Hour_Latency` | Categorical | `Low`/`Med`/`High` | Kualitas layanan saat jam sibuk. |
+| `Location_Competitiveness` | Integer | Jumlah | Kerapatan kompetitor di area yang sama. |
+| `Sentiment_Score` | Float | -1.0 s/d 1.0 | Skor sentimen hasil konversi `Review_Text`. |
+| `Class` | Categorical | `Elite`/`Growth`/`Struggling`/`Critical` | Variabel target kelas bisnis (diletakkan pada kolom paling kanan). |
 
 ## Logika Sintesis Data
-Generator tidak membuat nilai secara acak murni, tetapi memodelkan hubungan yang masuk akal secara bisnis.
-
-1. `Business_Tenure_Months` dan `Location_Competitiveness` dibangkitkan terlebih dahulu sebagai faktor dasar.
-2. `Digital_Adoption_Score` dipengaruhi positif oleh maturitas bisnis (dengan noise).
-3. `Transaction_Count` dipengaruhi oleh maturitas, adopsi digital, dan kompetisi lokasi.
-4. `Monthly_Revenue` dihitung dari `Transaction_Count` x AOV lognormal + noise musiman.
-5. `Peak_Hour_Latency` diturunkan dari tekanan volume transaksi, adopsi digital, dan kompetisi.
-6. `Burn_Rate_Ratio` memburuk ketika kompetisi dan latency tinggi.
-7. `Net_Profit_Margin (%)` berelasi terbalik dengan `Burn_Rate_Ratio`.
-8. `Repeat_Order_Rate (%)` meningkat dengan adopsi digital dan maturitas, turun saat kompetisi tinggi.
-9. `Review_Volatility` naik ketika latency tinggi dan burn rate buruk.
-10. `Avg_Historical_Rating` dipengaruhi positif digital/profitabilitas dan negatif volatilitas/latency tinggi.
-11. `Review_Text` dipilih dari template sentimen yang disejajarkan dengan sinyal kualitas (rating, volatilitas, latency), lalu diberi variasi kalimat tambahan.
+Generator tidak mengacak nilai secara independen, tetapi mengikuti logika operasional berikut:
+
+1. Bangkitkan faktor dasar: `Business_Tenure_Months` dan `Location_Competitiveness`.
+2. Turunkan `Digital_Adoption_Score` dari maturitas bisnis dengan noise.
+3. Bentuk `Transaction_Count` dari maturitas, adopsi digital, dan kompetisi.
+4. Hitung `Monthly_Revenue` dari `Transaction_Count` x AOV lognormal + noise musiman.
+5. Turunkan `Peak_Hour_Latency` dari tekanan transaksi, adopsi digital, dan kompetisi.
+6. Bentuk `Burn_Rate_Ratio` dari kompetisi, latency, adopsi digital, dan noise.
+7. Hitung `Net_Profit_Margin (%)` dengan hubungan terbalik terhadap burn rate.
+8. Bentuk `Repeat_Order_Rate (%)` dari digital adoption, tenure, kompetisi, dan noise.
+9. Turunkan `Review_Volatility` dari latency dan kondisi burn rate.
+10. Bentuk `Avg_Historical_Rating` dari sinyal kualitas operasional.
+11. Generate `Review_Text` yang konsisten dengan rating, volatility, dan latency.
+12. Konversi `Review_Text` menjadi `Sentiment_Score` berbasis keyword.
+13. Klasifikasikan `Class` menggunakan threshold persentil agar distribusi kelas lebih seimbang.
+
+## Logika Variabel Target `Class`
+Label target dibentuk secara rule-based dengan prioritas kondisi dan threshold persentil:
+
+- `Elite`: kombinasi margin tinggi, burn rate rendah, repeat order tinggi, dan rating tinggi.
+- `Struggling`: sinyal profitabilitas melemah dan/atau kualitas layanan menurun.
+- `Critical`: kondisi risiko tinggi (burn rate ekstrem, usaha sangat baru di pasar kompetitif, atau kombinasi rugi berat + rating rendah).
+- `Growth`: kondisi default di luar tiga kondisi ekstrem di atas.
 
 ## Karakteristik Realisme
-- Distribusi pendapatan menggunakan lognormal agar mencerminkan skew ekonomi nyata.
-- Hubungan antar variabel dibuat konsisten secara kausal-operasional (bukan random independent).
-- Terdapat noise untuk menghindari data terlalu sempurna.
-- Ada post-adjustment untuk bisnis dengan defisit berat agar rating/retensi lebih realistis.
+
+- Distribusi finansial menggunakan lognormal agar mengikuti pola skew data ekonomi nyata.
+- Antarvariabel dibangun saling terkait (bukan random independent).
+- Terdapat noise terkontrol untuk menghindari data terlalu sempurna.
+- Ada post-adjustment untuk bisnis dengan burn rate sangat tinggi agar rating dan repeat order tetap masuk akal.
 
 ## Contoh Use Case
-- EDA: distribusi revenue, margin, burn rate, segmentasi risiko.
-- Machine Learning: prediksi `Net_Profit_Margin (%)`, klasifikasi `Peak_Hour_Latency`.
-- NLP: sentiment analysis pada `Review_Text`.
-- Simulasi bisnis: evaluasi dampak adopsi digital terhadap retensi dan profitabilitas.
+
+- EDA: analisis distribusi pendapatan, margin, burn rate, dan segmentasi kelas bisnis.
+- ML klasifikasi: prediksi `Class`.
+- ML regresi: prediksi `Net_Profit_Margin (%)`.
+- NLP: analisis sentimen pada `Review_Text` dan validasi terhadap `Sentiment_Score`.
 
 ## Batasan Dataset
-- Ini **bukan data riil** dan tidak merepresentasikan entitas bisnis tertentu.
-- Distribusi dan hubungan variabel tetap merupakan asumsi desain generator.
-- Tidak cocok untuk inferensi kausal kebijakan nyata tanpa kalibrasi ke data empiris.
-- Template `Review_Text` masih semi-terstruktur, bukan hasil percakapan pengguna asli.
+
+- Dataset ini **bukan data riil** dan tidak merepresentasikan entitas bisnis spesifik.
+- Hubungan antarvariabel adalah asumsi desain generator.
+- Tidak ditujukan untuk inferensi kausal kebijakan nyata tanpa kalibrasi ke data empiris.
+- `Review_Text` bersifat template-based, bukan percakapan pengguna asli.
 
 ## Panduan Pemakaian Cepat
 
@@ -86,7 +89,8 @@ import pandas as pd
 df = pd.read_csv("synthetic_umkm_data.csv")
 print(df.shape)
 print(df.head())
+print(df["Class"].value_counts())
 ```
 
 ## Reproducibility
-Generator menggunakan seed tetap (`SEED = 42`), sehingga data dapat direproduksi selama parameter generator tidak diubah.
+Generator menggunakan seed tetap (`SEED = 42`) sehingga data dapat direproduksi selama parameter generator tidak diubah.

create-data.ipynb

@@ -6,7 +6,9 @@
    "metadata": {},
    "source": [
     "# Synthetic Dummy Data Generator (UMKM)\n",
-    "Notebook ini membuat data sintetis yang meniru pola data bisnis riil untuk fitur:\n",
+    "Notebook ini membuat data sintetis yang meniru pola data bisnis riil UMKM untuk analisis operasional, NLP, dan klasifikasi bisnis.\n",
+    "\n",
+    "Fitur utama yang dihasilkan:\n",
     "\n",
     "- Monthly_Revenue (IDR)\n",
     "- Net_Profit_Margin (%)\n",
@@ -20,17 +22,28 @@
     "- Digital_Adoption_Score\n",
     "- Peak_Hour_Latency\n",
     "- Location_Competitiveness\n",
+    "- Sentiment_Score (-1.0 s/d 1.0)\n",
+    "- Class (Elite, Growth, Struggling, Critical)\n",
+    "\n",
+    "Karakteristik realisme yang dimodelkan:\n",
     "\n",
-    "Karakteristik realistis yang dimodelkan:\n",
-    "- Korelasi antar fitur (contoh: adopsi digital cenderung meningkatkan repeat order dan rating)\n",
-    "- Trade-off operasional (kompetisi tinggi dan latency tinggi dapat menekan margin)\n",
+    "- Korelasi antar fitur operasional (contoh: adopsi digital cenderung meningkatkan retensi dan rating)\n",
+    "- Trade-off bisnis (kompetisi tinggi dan latency tinggi menekan profitabilitas)\n",
+    "- Distribusi finansial tidak simetris (AOV lognormal)\n",
     "- Noise terkontrol agar data tidak terlalu \"rapi\"\n",
-    "- Review teks yang selaras dengan rating/sentimen"
+    "- Review teks konsisten dengan sinyal kualitas (rating, volatility, latency)\n",
+    "- Sentiment score diekstrak dari `Review_Text`\n",
+    "\n",
+    "Catatan target:\n",
+    "\n",
+    "- Variabel target adalah `Class` (kolom paling kanan)\n",
+    "- Klasifikasi menggunakan threshold berbasis persentil agar distribusi kelas lebih seimbang\n",
+    "- Urutan kelas: `Elite`, `Growth`, `Struggling`, `Critical`"
    ]
   },
   {
    "cell_type": "code",
-   "execution_count": 20,
+   "execution_count": 29,
    "id": "af962614",
    "metadata": {},
    "outputs": [
@@ -128,7 +141,7 @@
          "type": "string"
         }
        ],
-       "ref": "e324e734-b4c6-4b99-8012-db2ed3fbd2fe",
+       "ref": "f3816b53-8a85-4cea-a3c9-d8cfc2031baa",
        "rows": [
         [
          "0",
@@ -675,7 +688,7 @@
          "type": "unknown"
         }
        ],
-       "ref": "d8e517b0-a5d5-456e-ade6-4559283eed4c",
+       "ref": "97626024-31ed-4e88-8d10-a524d1d63c40",
        "rows": [
         [
          "ID",
@@ -1455,7 +1468,7 @@
     "    np.random.uniform(3, 30, deficit_mask.sum()),\n",
     ")\n",
     "\n",
-    "# 13) Target class with percentile-based thresholds (balanced by design)\n",
+    "# 13) Target Class with percentile-based thresholds (balanced by design)\n",
     "target_class = np.full(N_SAMPLES, \"Growth\", dtype=object)\n",
     "\n",
     "elite_mask = (\n",
@@ -1515,164 +1528,6 @@
     "print(\"\\nClass counts:\")\n",
     "print(df[\"Class\"].value_counts())"
    ]
-  },
-  {
-   "cell_type": "markdown",
-   "id": "90ebddda",
-   "metadata": {},
-   "source": [
-    "## Class Variable - Balanced Distribution\n",
-    "Dataset dilengkapi dengan variabel target `class` yang mengklasifikasikan setiap UMKM ke dalam 4 kategori bisnis berdasarkan kondisi operasional. Logika menggunakan **percentile-based thresholding** untuk menciptakan distribusi yang lebih balanced dan realistic.\n",
-    "\n",
-    "### Perubahan dari Versi Sebelumnya\n",
-    "\n",
-    "**Masalah yang Diidentifikasi:**\n",
-    "- Dataset sebelumnya sangat imbalanced (93% Growth, 6% Struggling, 0.2% Critical, 0% Elite)\n",
-    "- Penyebabnya bukan hanya di logic classification, tetapi di fundamental logic variabel-variabel input:\n",
-    "  - Burn_Rate_Ratio base terlalu rendah → mayoritas bisnis punya burn rate rendah\n",
-    "  - Digital_Adoption memiliki efek positif yang terlalu besar\n",
-    "  - Noise di variabel tidak cukup untuk create diverse outcomes\n",
-    "\n",
-    "**Perbaikan yang Dilakukan:**\n",
-    "\n",
-    "1. **Burn_Rate_Ratio Logic (Step 6):**\n",
-    "   - Base dinaikkan: 0.72 → 0.82\n",
-    "   - Noise ditingkatkan: σ=0.08 → σ=0.11 (lebih banyak variance)\n",
-    "   - Latency penalty diperkuat: [0, 0.08, 0.18] → [0, 0.10, 0.22]\n",
-    "   - Location competitiveness effect: +0.018 (meningkat efeknya)\n",
-    "\n",
-    "2. **Net Profit Margin Logic (Step 7):**\n",
-    "   - Base rating lowered: 4.15 → 4.0 (lebih realistis marginal bisnis)\n",
-    "   - Noise ditingkatkan: σ=2.8 → σ=3.2\n",
-    "   - Ini menghasilkan distribusi margin yang lebih spread\n",
-    "\n",
-    "3. **Digital Adoption Logic (Step 2):**\n",
-    "   - Noise ditingkatkan: σ=1.4 → σ=2.2 (lebih independent dari tenure)\n",
-    "   - Ini mengurangi strong coupling dengan business maturity\n",
-    "\n",
-    "4. **Transaction Count & Repeat Order (Step 3 & 8):**\n",
-    "   - Noise ditambahkan untuk lebih realistic variability\n",
-    "   - Repeat Order ratios lebih conservative\n",
-    "\n",
-    "5. **Classification Logic (Step 14):**\n",
-    "   - Dari hard-coded thresholds → **Percentile-based thresholds**\n",
-    "   - Elite: top 10% dengan kombinasi high margin, low burn, strong rating\n",
-    "   - Struggling: bottom 45% dengan kombinasi low margin & high burn, atau high latency & low rating\n",
-    "   - Critical: bottom 8% dengan severe burn rate, new+competitive, atau deep losses\n",
-    "   - Growth: sisa bisnis (default)\n",
-    "\n",
-    "### Class Distribution Logic (Percentile-Based)\n",
-    "\n",
-    "| Class | % Target | Kriteria |\n",
-    "|-------|----------|----------|\n",
-    "| **Elite** | ~10% | Margin > P70 AND Burn < P25 AND Repeat > P70 AND Rating > P75 |\n",
-    "| **Growth** | ~37% | Default - bisnis dengan metrik moderate / recovering |\n",
-    "| **Struggling** | ~45% | (Margin < P35 AND Burn > P60) OR (High Latency AND Rating < P40) OR (Burn > P75 AND Rating < P65) |\n",
-    "| **Critical** | ~8% | Burn > P92 OR (Tenure < 7 AND Competition ≥ 12) OR (Margin < P5 AND Rating < 3.0) |\n",
-    "\n",
-    "### Kolom Baru\n",
-    "- `class`: Klasifikasi tier (Elite, Growth, Struggling, Critical)\n",
-    "- `Sentiment_Score`: Angka sentimen dari review text, skala -1.0 (sangat negatif) hingga 1.0 (sangat positif)\n",
-    "\n",
-    "### Penggunaan\n",
-    "Dataset dengan balanced class distribution cocok untuk:\n",
-    "- **Classification Model**: Training lebih stabil dengan distribusi lebih balanced\n",
-    "- **Risk Assessment**: Bisa identify minority classes (Elite dan Critical)\n",
-    "\n",
-    "Dokumentasi lengkap di [README.md](README.md)."
-   ]
-  },
-  {
-   "cell_type": "code",
-   "execution_count": 21,
-   "id": "b4494280",
-   "metadata": {},
-   "outputs": [
-    {
-     "name": "stdout",
-     "output_type": "stream",
-     "text": [
-      "======================================================================\n",
-      "CLASS DISTRIBUTION - UPDATED\n",
-      "======================================================================\n"
-     ]
-    },
-    {
-     "ename": "KeyError",
-     "evalue": "'class'",
-     "output_type": "error",
-     "traceback": [
-      "\u001b[31m---------------------------------------------------------------------------\u001b[39m",
-      "\u001b[31mKeyError\u001b[39m                                  Traceback (most recent call last)",
-      "\u001b[36mFile \u001b[39m\u001b[32m~\\AppData\\Roaming\\Python\\Python311\\site-packages\\pandas\\core\\indexes\\base.py:3812\u001b[39m, in \u001b[36mIndex.get_loc\u001b[39m\u001b[34m(self, key)\u001b[39m\n\u001b[32m   3811\u001b[39m \u001b[38;5;28;01mtry\u001b[39;00m:\n\u001b[32m-> \u001b[39m\u001b[32m3812\u001b[39m     \u001b[38;5;28;01mreturn\u001b[39;00m \u001b[38;5;28;43mself\u001b[39;49m\u001b[43m.\u001b[49m\u001b[43m_engine\u001b[49m\u001b[43m.\u001b[49m\u001b[43mget_loc\u001b[49m\u001b[43m(\u001b[49m\u001b[43mcasted_key\u001b[49m\u001b[43m)\u001b[49m\n\u001b[32m   3813\u001b[39m \u001b[38;5;28;01mexcept\u001b[39;00m \u001b[38;5;167;01mKeyError\u001b[39;00m \u001b[38;5;28;01mas\u001b[39;00m err:\n",
-      "\u001b[36mFile \u001b[39m\u001b[32mpandas/_libs/index.pyx:167\u001b[39m, in \u001b[36mpandas._libs.index.IndexEngine.get_loc\u001b[39m\u001b[34m()\u001b[39m\n",
-      "\u001b[36mFile \u001b[39m\u001b[32mpandas/_libs/index.pyx:196\u001b[39m, in \u001b[36mpandas._libs.index.IndexEngine.get_loc\u001b[39m\u001b[34m()\u001b[39m\n",
-      "\u001b[36mFile \u001b[39m\u001b[32mpandas/_libs/hashtable_class_helper.pxi:7088\u001b[39m, in \u001b[36mpandas._libs.hashtable.PyObjectHashTable.get_item\u001b[39m\u001b[34m()\u001b[39m\n",
-      "\u001b[36mFile \u001b[39m\u001b[32mpandas/_libs/hashtable_class_helper.pxi:7096\u001b[39m, in \u001b[36mpandas._libs.hashtable.PyObjectHashTable.get_item\u001b[39m\u001b[34m()\u001b[39m\n",
-      "\u001b[31mKeyError\u001b[39m: 'class'",
-      "\nThe above exception was the direct cause of the following exception:\n",
-      "\u001b[31mKeyError\u001b[39m                                  Traceback (most recent call last)",
-      "\u001b[36mCell\u001b[39m\u001b[36m \u001b[39m\u001b[32mIn[21]\u001b[39m\u001b[32m, line 6\u001b[39m\n\u001b[32m      3\u001b[39m \u001b[38;5;28mprint\u001b[39m(\u001b[33m\"\u001b[39m\u001b[33mCLASS DISTRIBUTION - UPDATED\u001b[39m\u001b[33m\"\u001b[39m)\n\u001b[32m      4\u001b[39m \u001b[38;5;28mprint\u001b[39m(\u001b[33m\"\u001b[39m\u001b[33m=\u001b[39m\u001b[33m\"\u001b[39m * \u001b[32m70\u001b[39m)\n\u001b[32m----> \u001b[39m\u001b[32m6\u001b[39m class_counts = \u001b[43mdf\u001b[49m\u001b[43m[\u001b[49m\u001b[33;43m'\u001b[39;49m\u001b[33;43mclass\u001b[39;49m\u001b[33;43m'\u001b[39;49m\u001b[43m]\u001b[49m.value_counts().sort_index()\n\u001b[32m      7\u001b[39m \u001b[38;5;28mprint\u001b[39m(\u001b[33m\"\u001b[39m\u001b[38;5;130;01m\\n\u001b[39;00m\u001b[33mClass counts:\u001b[39m\u001b[33m\"\u001b[39m)\n\u001b[32m      8\u001b[39m \u001b[38;5;28mprint\u001b[39m(class_counts)\n",
-      "\u001b[36mFile \u001b[39m\u001b[32m~\\AppData\\Roaming\\Python\\Python311\\site-packages\\pandas\\core\\frame.py:4107\u001b[39m, in \u001b[36mDataFrame.__getitem__\u001b[39m\u001b[34m(self, key)\u001b[39m\n\u001b[32m   4105\u001b[39m \u001b[38;5;28;01mif\u001b[39;00m \u001b[38;5;28mself\u001b[39m.columns.nlevels > \u001b[32m1\u001b[39m:\n\u001b[32m   4106\u001b[39m     \u001b[38;5;28;01mreturn\u001b[39;00m \u001b[38;5;28mself\u001b[39m._getitem_multilevel(key)\n\u001b[32m-> \u001b[39m\u001b[32m4107\u001b[39m indexer = \u001b[38;5;28;43mself\u001b[39;49m\u001b[43m.\u001b[49m\u001b[43mcolumns\u001b[49m\u001b[43m.\u001b[49m\u001b[43mget_loc\u001b[49m\u001b[43m(\u001b[49m\u001b[43mkey\u001b[49m\u001b[43m)\u001b[49m\n\u001b[32m   4108\u001b[39m \u001b[38;5;28;01mif\u001b[39;00m is_integer(indexer):\n\u001b[32m   4109\u001b[39m     indexer = [indexer]\n",
-      "\u001b[36mFile \u001b[39m\u001b[32m~\\AppData\\Roaming\\Python\\Python311\\site-packages\\pandas\\core\\indexes\\base.py:3819\u001b[39m, in \u001b[36mIndex.get_loc\u001b[39m\u001b[34m(self, key)\u001b[39m\n\u001b[32m   3814\u001b[39m     \u001b[38;5;28;01mif\u001b[39;00m \u001b[38;5;28misinstance\u001b[39m(casted_key, \u001b[38;5;28mslice\u001b[39m) \u001b[38;5;129;01mor\u001b[39;00m (\n\u001b[32m   3815\u001b[39m         \u001b[38;5;28misinstance\u001b[39m(casted_key, abc.Iterable)\n\u001b[32m   3816\u001b[39m         \u001b[38;5;129;01mand\u001b[39;00m \u001b[38;5;28many\u001b[39m(\u001b[38;5;28misinstance\u001b[39m(x, \u001b[38;5;28mslice\u001b[39m) \u001b[38;5;28;01mfor\u001b[39;00m x \u001b[38;5;129;01min\u001b[39;00m casted_key)\n\u001b[32m   3817\u001b[39m     ):\n\u001b[32m   3818\u001b[39m         \u001b[38;5;28;01mraise\u001b[39;00m InvalidIndexError(key)\n\u001b[32m-> \u001b[39m\u001b[32m3819\u001b[39m     \u001b[38;5;28;01mraise\u001b[39;00m \u001b[38;5;167;01mKeyError\u001b[39;00m(key) \u001b[38;5;28;01mfrom\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01merr\u001b[39;00m\n\u001b[32m   3820\u001b[39m \u001b[38;5;28;01mexcept\u001b[39;00m \u001b[38;5;167;01mTypeError\u001b[39;00m:\n\u001b[32m   3821\u001b[39m     \u001b[38;5;66;03m# If we have a listlike key, _check_indexing_error will raise\u001b[39;00m\n\u001b[32m   3822\u001b[39m     \u001b[38;5;66;03m#  InvalidIndexError. Otherwise we fall through and re-raise\u001b[39;00m\n\u001b[32m   3823\u001b[39m     \u001b[38;5;66;03m#  the TypeError.\u001b[39;00m\n\u001b[32m   3824\u001b[39m     \u001b[38;5;28mself\u001b[39m._check_indexing_error(key)\n",
-      "\u001b[31mKeyError\u001b[39m: 'class'"
-     ]
-    }
-   ],
-   "source": [
-    "\n",
-    "# Verification: Class Distribution\n",
-    "print(\"=\" * 70)\n",
-    "print(\"CLASS DISTRIBUTION - UPDATED\")\n",
-    "print(\"=\" * 70)\n",
-    "\n",
-    "class_counts = df['class'].value_counts().sort_index()\n",
-    "print(\"\\nClass counts:\")\n",
-    "print(class_counts)\n",
-    "\n",
-    "print(\"\\n\\nClass percentages:\")\n",
-    "total = len(df)\n",
-    "for cls in sorted(df['class'].unique()):\n",
-    "    if cls in class_counts.index:\n",
-    "        count = class_counts[cls]\n",
-    "    else:\n",
-    "        count = 0\n",
-    "    pct = (count / total * 100)\n",
-    "    print(f\"  {cls:15s}: {count:7,d} ({pct:6.2f}%)\")\n",
-    "\n",
-    "print(\"\\n\\n\" + \"=\" * 70)\n",
-    "print(\"CLASS - METRICS CORRELATION\")\n",
-    "print(\"=\" * 70)\n",
-    "\n",
-    "class_metrics = df.groupby('class')[['Net_Profit_Margin (%)', 'Burn_Rate_Ratio', \n",
-    "                                      'Repeat_Order_Rate (%)', 'Avg_Historical_Rating', \n",
-    "                                      'Sentiment_Score']].agg(['mean', 'min', 'max'])\n",
-    "print(class_metrics.round(2))\n",
-    "\n",
-    "print(\"\\n\\n\" + \"=\" * 70)\n",
-    "print(\"BURN_RATE_RATIO DISTRIBUTION\")\n",
-    "print(\"=\" * 70)\n",
-    "print(f\"Mean: {df['Burn_Rate_Ratio'].mean():.3f}\")\n",
-    "print(f\"Std:  {df['Burn_Rate_Ratio'].std():.3f}\")\n",
-    "print(f\"Min:  {df['Burn_Rate_Ratio'].min():.3f}\")\n",
-    "print(f\"Max:  {df['Burn_Rate_Ratio'].max():.3f}\")\n",
-    "print(f\"\\n% with Burn_Rate < 0.75: {(df['Burn_Rate_Ratio'] < 0.75).sum() / len(df) * 100:.1f}%\")\n",
-    "print(f\"% with Burn_Rate < 1.00: {(df['Burn_Rate_Ratio'] < 1.00).sum() / len(df) * 100:.1f}%\")\n",
-    "print(f\"% with Burn_Rate >= 1.00: {(df['Burn_Rate_Ratio'] >= 1.00).sum() / len(df) * 100:.1f}%\")\n",
-    "print(f\"% with Burn_Rate >= 1.20: {(df['Burn_Rate_Ratio'] >= 1.20).sum() / len(df) * 100:.1f}%\")\n",
-    "\n",
-    "print(\"\\n\\n\" + \"=\" * 70)\n",
-    "print(\"NET_PROFIT_MARGIN DISTRIBUTION\")\n",
-    "print(\"=\" * 70)\n",
-    "print(f\"Mean: {df['Net_Profit_Margin (%)'].mean():.2f}%\")\n",
-    "print(f\"Std:  {df['Net_Profit_Margin (%)'].std():.2f}%\")\n",
-    "print(f\"Min:  {df['Net_Profit_Margin (%)'].min():.2f}%\")\n",
-    "print(f\"Max:  {df['Net_Profit_Margin (%)'].max():.2f}%\")\n",
-    "print(f\"\\n% with Profit < 0: {(df['Net_Profit_Margin (%)'] < 0).sum() / len(df) * 100:.1f}%\")\n",
-    "print(f\"% with Profit 0-10%: {((df['Net_Profit_Margin (%)'] >= 0) & (df['Net_Profit_Margin (%)'] < 10)).sum() / len(df) * 100:.1f}%\")\n",
-    "print(f\"% with Profit >= 10%: {(df['Net_Profit_Margin (%)'] >= 10).sum() / len(df) * 100:.1f}%\")\n",
-    "print(f\"% with Profit >= 20%: {(df['Net_Profit_Margin (%)'] >= 20).sum() / len(df) * 100:.1f}%\")\n"
-   ]
   }
  ],
  "metadata": {