cabbage_dataset / CabbageEDA.py
hyeon2525's picture
Upload folder using huggingface_hub
4a11767 verified
import os
import pandas as pd
# 파일 경로
cabbage_path = 'CabbagePrice_merged.xlsx'
intake_path = 'CabbageIntake_merged.xlsx'
# 시트 불러오기
cabbage_df = pd.read_excel(cabbage_path, sheet_name=0)
intake_df = pd.read_excel(intake_path, sheet_name=0)
# 특, 상 필터
grade_ratio = {
'특': ('SPECIAL', 0.05),
'상': ('HIGH', 0.35),
}
filtered = cabbage_df[cabbage_df['등급명'].isin(grade_ratio)].copy()
# 평균가격 정수형 변환 (컬럼명 체크)
if '평균가격' in filtered.columns:
price_col = '평균가격'
elif '당일' in filtered.columns:
price_col = '당일'
else:
raise ValueError("가격 정보를 찾을 수 없습니다.")
filtered['avg_price'] = filtered[price_col].astype(str).str.replace(',', '').astype(int)
# 0원인 데이터 제거
filtered = filtered[filtered['avg_price'] != 0]
# 레이블, 비율 컬럼 추가
filtered['rate'] = filtered['등급명'].map(lambda x: grade_ratio[x][0])
filtered['비율'] = filtered['등급명'].map(lambda x: grade_ratio[x][1])
# 반입량 합치기
intake_df = intake_df[['DATE', '총반입량']].copy()
intake_df.rename(columns={'총반입량': 'total_intake'}, inplace=True)
merged = pd.merge(filtered, intake_df, on='DATE', how='inner')
# intake 계산
merged['intake'] = (merged['total_intake'] * merged['비율']).round().astype(int)
# 날짜 분해
merged[['year', 'month', 'day']] = merged['DATE'].astype(str).str.split('-', expand=True).astype(int)
# gap 계산 (같은 등급 기준 전날과의 가격 차이)
merged.sort_values(['rate', 'DATE'], inplace=True)
merged['gap'] = merged.groupby('rate')['avg_price'].diff().fillna(0).astype(int)
# 최종 정리
final_df = merged[['year', 'month', 'day', 'intake', 'avg_price', 'gap', 'rate']]
final_df = final_df.sort_values(['year', 'month', 'day', 'rate'])
final_df.sort_values(by=['rate', 'year', 'month', 'day'], inplace=True)
# 저장
os.makedirs('store', exist_ok=True)
output_path = 'store/cabbage_separated.csv'
final_df.to_csv(output_path, index=False)
print(f"총 {len(final_df)}행 처리 완료")
print(f"날짜 범위: {final_df['year'].min()}-{final_df['month'].min()}-{final_df['day'].min()} ~ {final_df['year'].max()}-{final_df['month'].max()}-{final_df['day'].max()}")
print(f"\n등급별 데이터 수:")
print(final_df['rate'].value_counts())
print(f"\n처음 10행:")
print(final_df.head(10))
print(f"\n저장 완료: {output_path}")