Upload xgboost_weekly_demand_hf

README.md

@@ -1,154 +1,186 @@
-# XGBoost Weekly Demand Forecasting Model
-
-[![Hugging Face](https://img.shields.io/badge/Hugging%20Face-XGBoost%20Demand-yellow)](https://huggingface.co/datasets/username/xgboost-weekly-demand)
-
-## Overview
-Model ini dikembangkan untuk meramalkan permintaan produk mingguan menggunakan algoritma XGBoost dengan fitur yang ditingkatkan. Model ini menggunakan pendekatan time series forecasting dengan validasi yang tepat menggunakan TimeSeriesSplit untuk mencegah kebocoran data masa depan.
-
-## Performa Model
-
-Model menunjukkan performa yang sangat baik dengan metrik sebagai berikut:
-
-- **R² Score**: 0.9677
-- **RMSE**: 15.06
-- **MAE**: 1.33
-- **MAPE**: 1.4%
-
-### Performa per Segmen
-
-Model memberikan hasil yang konsisten di semua segmen permintaan:
-
-| Segmen Permintaan | MAPE |
-|-------------------|------|
-| Rendah (≤25%)     | 0.6% |
-| Sedang (25-75%)   | 1.4% |
-| Tinggi (>75%)     | 2.3% |
-
-## Visualisasi Utama
-
-### Aktual vs Prediksi
-
-
-![image/png](https://cdn-uploads.huggingface.co/production/uploads/6864e8145ab55037659854db/7B3uqsNTIHRBPF65sZJdg.png)
-
-### Analisis Residual
-
-![image/png](https://cdn-uploads.huggingface.co/production/uploads/6864e8145ab55037659854db/9Nnn0hInsXZSjFHT-Lv56.png)
-
-### Distribusi Error
-
-![image/png](https://cdn-uploads.huggingface.co/production/uploads/6864e8145ab55037659854db/ohcrjoX4ZZnTkkokUvBHt.png)
-
-## Peningkatan yang Diimplementasikan
-
-1. **Feature Engineering Lanjutan**
-   - Fitur lag (1, 2, 3, 4 minggu)
-   - Fitur rolling window (mean, std, max dengan jendela 2, 4, 8 minggu)
-   - Fitur tren (2 minggu, 4 minggu)
-   - Fitur musiman (sin/cos transformasi bulan dan minggu)
-   - Fitur interaksi (harga, kategori, hari libur)
-   - Fitur relatif (permintaan vs rata-rata, harga vs kategori)
-   - Fitur level permintaan (permintaan nol, permintaan rendah)
-
-2. **Transformasi Target**
-   - Transformasi `log1p` untuk menangani distribusi permintaan yang miring
-
-3. **Optimasi Hyperparameter**
-   - Parameter terbaik dari RandomizedSearchCV:
-     - n_estimators: 300
-     - max_depth: 7
-     - learning_rate: 0.12
-     - subsample: 1.0
-     - colsample_bytree: 1.0
-     - reg_alpha: 0.1
-     - reg_lambda: 1.0
-
-4. **Validasi Time Series**
-   - Menggunakan TimeSeriesSplit untuk validasi yang sadar waktu
-   - 3 pembagian waktu untuk validasi yang kuat
-
-## Fitur yang Digunakan
-
-Total 37 fitur digunakan dalam model, termasuk 11 fitur dasar dan 26 fitur lanjutan:
-
-```python
-base_features = [
-    'Year', 'Month', 'Quarter', 'WeekNumber', 'IsHoliday',
-    'UnitPrice', 'ProductCategory_encoded',
-    'TotalDemand', 'AvgDemand', 'TotalRevenue', 'UniqueCustomers'
-]
-
-lag_features = ['Demand_lag_1', 'Demand_lag_2', 'Demand_lag_3', 'Demand_lag_4']
-rolling_features = ['Demand_rolling_mean_2', 'Demand_rolling_mean_4', ...]
-trend_features = ['Demand_trend_2w', 'Demand_trend_4w']
-seasonal_features = ['Month_sin', 'Month_cos', 'Week_sin', 'Week_cos']
-interaction_features = ['Price_Category_Interaction', 'Holiday_Category_Interaction', 'Price_Holiday_Interaction']
-relative_features = ['Demand_vs_AvgDemand', 'Price_vs_Category_Mean']
-demand_level_features = ['Is_Zero_Demand', 'Is_Low_Demand']
-```
-
-## Informasi Dataset
-
-- **Training**: 70,954 sampel
-- **Validasi**: 15,204 sampel
-- **Testing**: 15,205 sampel
-- **Periode Training**: 2010-W48 sampai 2011-W49
-- **Periode Testing**: 2010-W48 sampai 2011-W49
-
-## Penggunaan Model
-
-### Loading Model
-
-```python
-import joblib
-import json
-
-# Load model
-model_path = 'models/xgboost_weekly_demand_hf'
-model = joblib.load(f'{model_path}/xgboost_model.joblib')
-
-# Load feature names
-with open(f'{model_path}/feature_names.json', 'r') as f:
-    feature_names = json.load(f)
-    
-# Load model metadata
-with open(f'{model_path}/model_metadata.json', 'r') as f:
-    model_metadata = json.load(f)
-```
-
-### Membuat Prediksi
-
-```python
-import numpy as np
-
-def transform_target(y, method='log1p'):
-    if method == 'log1p':
-        return np.log1p(y)
-    elif method == 'sqrt':
-        return np.sqrt(y)
-    return y
-
-def inverse_transform_target(y_transformed, method='log1p'):
-    if method == 'log1p':
-        return np.expm1(y_transformed)
-    elif method == 'sqrt':
-        return np.square(y_transformed)
-    return y_transformed
-
-# Prediksi dengan data baru
-X_new = df[feature_names].fillna(0)
-y_pred_transformed = model.predict(X_new)
-y_pred = inverse_transform_target(y_pred_transformed, 'log1p')
-y_pred = np.maximum(y_pred, 0)  # Pastikan permintaan non-negatif
-```
-
-## Kesimpulan
-
-Model XGBoost yang ditingkatkan ini menunjukkan performa yang sangat baik untuk peramalan permintaan mingguan. Dengan R² score 0.968 dan MAPE hanya 1.4%, model ini memberikan prediksi yang akurat di semua segmen permintaan.
-
-Peningkatan utama dalam model ini meliputi feature engineering lanjutan, transformasi target, dan validasi time series yang tepat. Model siap untuk produksi dengan kemampuan monitoring yang komprehensif.
-
----
-
-Dibuat oleh: Tim Data Science  
+# XGBoost Weekly Demand Forecasting Model
+
+[![Hugging Face](https://img.shields.io/badge/Hugging%20Face-XGBoost%20Demand-yellow)](https://huggingface.co/datasets/username/xgboost-weekly-demand)
+
+## Overview
+Model ini dikembangkan untuk meramalkan permintaan produk mingguan menggunakan algoritma XGBoost dengan fitur yang ditingkatkan. Model ini menggunakan pendekatan time series forecasting dengan validasi yang tepat menggunakan TimeSeriesSplit untuk mencegah kebocoran data masa depan.
+
+![XGBoost Model Performance](https://huggingface.co/datasets/username/xgboost-weekly-demand/resolve/main/performance_chart.png)
+
+> **Catatan:** Gambar di atas akan tersedia setelah model diunggah ke Hugging Face
+
+## Performa Model
+
+Model menunjukkan performa yang sangat baik dengan metrik sebagai berikut:
+
+- **R² Score**: 0.9677
+- **RMSE**: 15.06
+- **MAE**: 1.33
+- **MAPE**: 1.4%
+
+### Performa per Segmen
+
+Model memberikan hasil yang konsisten di semua segmen permintaan:
+
+| Segmen Permintaan | MAPE |
+|-------------------|------|
+| Rendah (≤25%)     | 0.6% |
+| Sedang (25-75%)   | 1.4% |
+| Tinggi (>75%)     | 2.3% |
+
+## Visualisasi Utama
+
+### Aktual vs Prediksi
+
+```python
+# Visualisasi Performa Model
+plt.style.use('default')
+fig, axes = plt.subplots(2, 2, figsize=(15, 12))
+fig.suptitle('Analisis Performa Model XGBoost', fontsize=16, fontweight='bold')
+
+# 1. Scatter Plot Aktual vs Prediksi
+ax1 = axes[0, 0]
+ax1.scatter(y_test, y_test_pred, alpha=0.6, s=20)
+ax1.plot([y_test.min(), y_test.max()], [y_test.min(), y_test.max()], 'r--', lw=2)
+ax1.set_xlabel('Permintaan Aktual')
+ax1.set_ylabel('Permintaan Prediksi')
+ax1.set_title(f'Aktual vs Prediksi\nR² = {test_metrics["R2"]:.3f}')
+ax1.grid(True, alpha=0.3)
+```
+
+### Analisis Residual
+
+```python
+# 2. Plot Residual
+ax2 = axes[0, 1]
+residuals = y_test - y_test_pred
+ax2.scatter(y_test_pred, residuals, alpha=0.6, s=20)
+ax2.axhline(y=0, color='r', linestyle='--')
+ax2.set_xlabel('Permintaan Prediksi')
+ax2.set_ylabel('Residual')
+ax2.set_title('Plot Residual')
+ax2.grid(True, alpha=0.3)
+
+# 3. Distribusi Error
+ax3 = axes[1, 0]
+ax3.hist(residuals, bins=30, alpha=0.7, edgecolor='black')
+ax3.axvline(x=0, color='r', linestyle='--', linewidth=2)
+ax3.set_xlabel('Residual')
+ax3.set_ylabel('Frekuensi')
+ax3.set_title(f'Distribusi Error\nRata-rata = {np.mean(residuals):.2f}')
+ax3.grid(True, alpha=0.3)
+```
+
+## Peningkatan yang Diimplementasikan
+
+1. **Feature Engineering Lanjutan**
+   - Fitur lag (1, 2, 3, 4 minggu)
+   - Fitur rolling window (mean, std, max dengan jendela 2, 4, 8 minggu)
+   - Fitur tren (2 minggu, 4 minggu)
+   - Fitur musiman (sin/cos transformasi bulan dan minggu)
+   - Fitur interaksi (harga, kategori, hari libur)
+   - Fitur relatif (permintaan vs rata-rata, harga vs kategori)
+   - Fitur level permintaan (permintaan nol, permintaan rendah)
+
+2. **Transformasi Target**
+   - Transformasi `log1p` untuk menangani distribusi permintaan yang miring
+
+3. **Optimasi Hyperparameter**
+   - Parameter terbaik dari RandomizedSearchCV:
+     - n_estimators: 300
+     - max_depth: 7
+     - learning_rate: 0.12
+     - subsample: 1.0
+     - colsample_bytree: 1.0
+     - reg_alpha: 0.1
+     - reg_lambda: 1.0
+
+4. **Validasi Time Series**
+   - Menggunakan TimeSeriesSplit untuk validasi yang sadar waktu
+   - 3 pembagian waktu untuk validasi yang kuat
+
+## Fitur yang Digunakan
+
+Total 37 fitur digunakan dalam model, termasuk 11 fitur dasar dan 26 fitur lanjutan:
+
+```python
+base_features = [
+    'Year', 'Month', 'Quarter', 'WeekNumber', 'IsHoliday',
+    'UnitPrice', 'ProductCategory_encoded',
+    'TotalDemand', 'AvgDemand', 'TotalRevenue', 'UniqueCustomers'
+]
+
+lag_features = ['Demand_lag_1', 'Demand_lag_2', 'Demand_lag_3', 'Demand_lag_4']
+rolling_features = ['Demand_rolling_mean_2', 'Demand_rolling_mean_4', ...]
+trend_features = ['Demand_trend_2w', 'Demand_trend_4w']
+seasonal_features = ['Month_sin', 'Month_cos', 'Week_sin', 'Week_cos']
+interaction_features = ['Price_Category_Interaction', 'Holiday_Category_Interaction', 'Price_Holiday_Interaction']
+relative_features = ['Demand_vs_AvgDemand', 'Price_vs_Category_Mean']
+demand_level_features = ['Is_Zero_Demand', 'Is_Low_Demand']
+```
+
+## Informasi Dataset
+
+- **Training**: 70,954 sampel
+- **Validasi**: 15,204 sampel
+- **Testing**: 15,205 sampel
+- **Periode Training**: 2010-W48 sampai 2011-W49
+- **Periode Testing**: 2010-W48 sampai 2011-W49
+
+## Penggunaan Model
+
+### Loading Model
+
+```python
+import joblib
+import json
+
+# Load model
+model_path = 'models/xgboost_weekly_demand_hf'
+model = joblib.load(f'{model_path}/xgboost_model.joblib')
+
+# Load feature names
+with open(f'{model_path}/feature_names.json', 'r') as f:
+    feature_names = json.load(f)
+    
+# Load model metadata
+with open(f'{model_path}/model_metadata.json', 'r') as f:
+    model_metadata = json.load(f)
+```
+
+### Membuat Prediksi
+
+```python
+import numpy as np
+
+def transform_target(y, method='log1p'):
+    if method == 'log1p':
+        return np.log1p(y)
+    elif method == 'sqrt':
+        return np.sqrt(y)
+    return y
+
+def inverse_transform_target(y_transformed, method='log1p'):
+    if method == 'log1p':
+        return np.expm1(y_transformed)
+    elif method == 'sqrt':
+        return np.square(y_transformed)
+    return y_transformed
+
+# Prediksi dengan data baru
+X_new = df[feature_names].fillna(0)
+y_pred_transformed = model.predict(X_new)
+y_pred = inverse_transform_target(y_pred_transformed, 'log1p')
+y_pred = np.maximum(y_pred, 0)  # Pastikan permintaan non-negatif
+```
+
+## Kesimpulan
+
+Model XGBoost yang ditingkatkan ini menunjukkan performa yang sangat baik untuk peramalan permintaan mingguan. Dengan R² score 0.968 dan MAPE hanya 1.4%, model ini memberikan prediksi yang akurat di semua segmen permintaan.
+
+Peningkatan utama dalam model ini meliputi feature engineering lanjutan, transformasi target, dan validasi time series yang tepat. Model siap untuk produksi dengan kemampuan monitoring yang komprehensif.
+
+---
+
+Dibuat oleh: Tim Data Science  
 Tanggal: November 2023

feature_names.json

@@ -0,0 +1,39 @@
+[
+  "Year",
+  "Month",
+  "Quarter",
+  "WeekNumber",
+  "IsHoliday",
+  "UnitPrice",
+  "ProductCategory_encoded",
+  "TotalDemand",
+  "AvgDemand",
+  "TotalRevenue",
+  "UniqueCustomers",
+  "Demand_lag_1",
+  "Demand_lag_2",
+  "Demand_lag_3",
+  "Demand_lag_4",
+  "Demand_rolling_mean_2",
+  "Demand_rolling_mean_4",
+  "Demand_rolling_mean_8",
+  "Demand_rolling_std_2",
+  "Demand_rolling_std_4",
+  "Demand_rolling_std_8",
+  "Demand_rolling_max_2",
+  "Demand_rolling_max_4",
+  "Demand_rolling_max_8",
+  "Demand_trend_2w",
+  "Demand_trend_4w",
+  "Month_sin",
+  "Month_cos",
+  "Week_sin",
+  "Week_cos",
+  "Price_Category_Interaction",
+  "Holiday_Category_Interaction",
+  "Price_Holiday_Interaction",
+  "Demand_vs_AvgDemand",
+  "Price_vs_Category_Mean",
+  "Is_Zero_Demand",
+  "Is_Low_Demand"
+]

model_metadata.json

@@ -20,13 +20,13 @@
     }
   },
   "best_params": {
-    "subsample": 1.0,
-    "reg_lambda": 1.0,
-    "reg_alpha": 0.1,
-    "n_estimators": 300,
+    "subsample": 0.9,
+    "reg_lambda": 2.0,
+    "reg_alpha": 0.5,
+    "n_estimators": 250,
     "max_depth": 7,
-    "learning_rate": 0.12,
-    "colsample_bytree": 1.0
+    "learning_rate": 0.08,
+    "colsample_bytree": 0.9
   },
   "performance": {
     "train_r2": 0.9994686245918274,

requirements.txt

@@ -0,0 +1,24 @@
+# Dependencies for Machine Learning Project
+numpy>=1.21.0
+pandas>=1.3.0
+scikit-learn>=1.0.0
+matplotlib>=3.4.0
+seaborn>=0.11.0
+jupyter>=1.0.0
+plotly>=5.0.0
+scipy>=1.7.0
+
+# Machine Learning Models
+xgboost>=1.6.0
+joblib>=1.1.0
+
+# Data processing
+openpyxl>=3.0.0
+xlrd>=2.0.0
+
+# Model evaluation
+mlflow>=1.20.0
+
+# Utilities
+tqdm>=4.62.0
+python-dotenv>=0.19.0