Add DATASET_INDEX.md

DATASET_INDEX.md

@@ -0,0 +1,522 @@
+# FateFusion 데이터셋 다운로드 인덱스
+
+**목적**: 중복 크롤링/다운로드 방지를 위한 데이터셋 상태 추적
+**최종 업데이트**: 2026-01-14
+**총 확보 데이터**: 77,847건
+
+---
+
+## 📋 다운로드 상태 추적표
+
+### 범례
+- ✅ **DOWNLOADED**: 다운로드 완료, 로컬 저장됨
+- ⏳ **PENDING**: 발견했으나 아직 다운로드 안됨
+- ❌ **NOT_AVAILABLE**: 데이터셋 없음
+- ⚠️ **NEEDS_PROCESSING**: 다운로드됨, 구조화 필요
+- 🔄 **NEEDS_UPDATE**: 업데이트 가능한 데이터
+
+---
+
+## 🟢 서양 점술 - 타로 (Tarot)
+
+### 1. HuggingFace: Dendory/tarot
+```yaml
+상태: ✅ DOWNLOADED
+URL: https://huggingface.co/datasets/Dendory/tarot
+다운로드 날짜: 2026-01-14
+로컬 경로: ./datasets/tarot_dendory_5770.csv
+          ./datasets/tarot_dendory_5769.jsonl
+데이터 건수: 5,769건
+파일 크기: 2.9 MB (CSV) + 3.2 MB (JSONL)
+라이선스: MIT
+데이터 유형: spread_interpretation (3장 카드 조합)
+품질: ChatGPT 생성 (검증 필요)
+중복 체크: barissglc/tarot와 동일 가능성 높음
+재다운로드: ❌ 불필요 (이미 확보)
+```
+
+**다운로드 스크립트**: `download_csv.py`
+
+---
+
+### 2. HuggingFace: barissglc/tarot
+```yaml
+상태: ⏳ PENDING (Dendory/tarot와 중복 가능성)
+URL: https://huggingface.co/datasets/barissglc/tarot
+데이터 건수: 5,769건 (Dendory와 동일)
+중복 확인 필요: ✅ YES
+재다운로드: ❌ 불필요 (Dendory로 충분)
+```
+
+**Action**: 중복 확인 후 스킵
+
+---
+
+### 3. GitHub: dariusk/corpora - Tarot Interpretations
+```yaml
+상태: ✅ DOWNLOADED
+URL: https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json
+다운로드 날짜: 2026-01-14
+로컬 경로: ./datasets/tarot_corpora_interpretations.json
+데이터 건수: 78건 (전체 타로 카드 의미)
+파일 크기: 85 KB
+라이선스: CC0 (Public Domain)
+데이터 유형: multi_factor_interpretation (카드별 해석)
+품질: 전문가 해석 (Mark McElroy)
+재다운로드: ❌ 불필요
+```
+
+**다운로드 방법**:
+```bash
+wget https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json -O datasets/tarot_corpora_interpretations.json
+```
+
+---
+
+### 4. GitHub: ekelen/tarot-api
+```yaml
+상태: ✅ DOWNLOADED
+URL: https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json
+다운로드 날짜: 2026-01-14
+로컬 경로: ./datasets/tarot_api_card_data.json
+데이터 건수: 78건 (Rider-Waite-Smith 덱)
+파일 크기: 79 KB
+라이선스: Open Source
+데이터 유형: static_interpretation (카드 기본 정보)
+재다운로드: ❌ 불필요
+```
+
+**다운로드 방법**:
+```bash
+wget https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json -O datasets/tarot_api_card_data.json
+```
+
+---
+
+### 5. Kaggle: lsind18/tarot-json
+```yaml
+상태: ⏳ PENDING (우선순위 낮음)
+URL: https://www.kaggle.com/datasets/lsind18/tarot-json
+데이터 건수: 78건
+재다운로드: ❌ 불필요 (corpora/tarot-api로 충분)
+```
+
+**Action**: 스킵 (이미 78장 카드 데이터 확보됨)
+
+---
+
+## 🟢 서양 점술 - 점성술 (Astrology)
+
+### 6. Kaggle: shahp7575/horoscopes
+```yaml
+상태: ✅ DOWNLOADED
+URL: https://www.kaggle.com/datasets/shahp7575/horoscopes
+다운로드 날짜: 2026-01-14
+로컬 경로: ./datasets/horoscope_saved.csv
+데이터 건수: 12,000건
+파일 크기: 9.2 MB
+라이선스: Kaggle Public
+데이터 유형: temporal_prediction (12 별자리 × 5 카테고리)
+출처: Horoscope.com 스크래핑 (2021)
+재다운로드: ❌ 불필요
+업데이트 체크: 🔄 매년 1회 (최신 데이터 확인)
+```
+
+**다운로드 스크립트**: `download_kaggle.py`
+
+**다운로드 방법**:
+```bash
+kaggle datasets download -d shahp7575/horoscopes
+```
+
+---
+
+### 7. Kaggle: gokhanyu/open-astrology-datasets
+```yaml
+상태: ✅ DOWNLOADED
+URL: https://www.kaggle.com/datasets/gokhanyu/open-astrology-datasets
+다운로드 날짜: 2026-01-14
+로컬 경로:
+  - ./datasets/gauq-couples-aspects-REAL-7deg-20000-noa2b-cdata4.csv (18 MB)
+  - ./datasets/gauq-couples-aspects-RANDOMIZED-7deg-20000-noa2b-cdata4.csv (18 MB)
+  - ./datasets/gauq-couples-aspects-RANDOMIZED2-7deg-20000-noa2b-cdata4.csv (18 MB)
+데이터 건수: 60,000건 (20,000 × 3 파일)
+파일 크기: 54 MB
+라이선스: GPL 2
+데이터 유형: multi_factor_interpretation (커플 궁합)
+재다운로드: ❌ 불필요
+```
+
+**다운로드 스크립트**: `download_kaggle.py`
+
+**다운로드 방법**:
+```bash
+kaggle datasets download -d gokhanyu/open-astrology-datasets
+```
+
+---
+
+### 8. GitHub: g-battaglia/kerykeion
+```yaml
+상태: ⏳ PENDING (라이브러리만)
+URL: https://github.com/g-battaglia/kerykeion
+타입: 계산 라이브러리 (해석 데이터 없음)
+라이선스: AGPL-3.0
+활용: 점성술 차트 생성용
+재다운로드: ❌ 불필요 (데이터셋 아님)
+```
+
+**Action**: 스킵 (계산 라이브러리)
+
+---
+
+## 🟡 서양 점술 - 수비학 (Numerology)
+
+### 9. Kaggle: atharvakoshti/astrology-and-numerology-dataset
+```yaml
+상태: ⏳ PENDING (우선순위 중간)
+URL: https://www.kaggle.com/datasets/atharvakoshti/astrology-and-numerology-dataset
+데이터 건수: 불명 (PDF 추출 텍스트)
+파일 크기: 1.4 MB
+라이선스: Apache 2.0
+데이터 유형: multi_factor (PDF → TXT 변환 필요)
+최종 수정: 2024-12-26 (최신!)
+재다운로드: ⚠️ 필요 시 (구조화 작업 필요)
+```
+
+**다운로드 방법**:
+```bash
+kaggle datasets download -d atharvakoshti/astrology-and-numerology-dataset
+```
+
+**TODO**: PDF 텍스트 구조화 스크립트 작성
+
+---
+
+## 🔴 서양 점술 - 룬 (Runes)
+
+### 10. IEEE DataPort: Elder Futhark Recognition
+```yaml
+상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
+URL: https://ieee-dataport.org/documents/handwriting-elder-futhark-alphabet-recognition
+DOI: 10.21227/5grg-a785
+데이터 건수: 불명 (25 클래스)
+데이터 유형: 문자 인식용 (점술 해석 없음)
+재다운로드: ❌ 불필요 (점술 데이터 아님)
+```
+
+**Action**: 스킵 (이미지 인식용, 점술 해석 없음)
+
+---
+
+### 11. Roboflow: Elder Futhark Object Detection
+```yaml
+상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
+URL: https://universe.roboflow.com/brandon-aho-vjjr8/elder-futhark
+데이터 건수: 1,731장 이미지
+데이터 유형: 이미지 인식용 (점술 해석 없음)
+재다운로드: ❌ 불필요 (점술 데이터 아님)
+```
+
+**Action**: 스킵
+
+---
+
+### 12. GitHub: Rundata (스칸디나비아 룬 텍스트 DB)
+```yaml
+상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
+URL: https://github.com/Stiftet/rundata-net
+데이터 건수: ~4,000개 룬스톤 텍스트
+라이선스: GNU GPL
+데이터 유형: 역사 연구용 (점술 해석 없음)
+재다운로드: ❌ 불필요 (점술 데이터 아님)
+```
+
+**Action**: 스킵
+
+---
+
+## 🔴 동양 점술 - 사주팔자 (Saju/Bazi)
+
+### 13. GitHub: tommitoan/bazica
+```yaml
+상태: ❌ NOT_DOWNLOADED (라이브러리만)
+URL: https://github.com/tommitoan/bazica
+타입: 계산 라이브러리 (Go)
+제공 데이터: 60년 주기, 십간십이지, 절기 (JSON)
+해석 데이터: ❌ 없음 (계산만)
+라이선스: MIT
+재다운로드: ❌ 불필요 (해석 데이터 없음)
+```
+
+**Action**: 스킵 (계산 라이브러리)
+
+---
+
+### 14. 사주 해석 데이터셋
+```yaml
+상태: ❌ NOT_AVAILABLE
+검색 키워드:
+  - "사주팔자 데이터셋"
+  - "Four Pillars destiny dataset"
+  - "bazi dataset"
+  - "Chinese astrology birth chart"
+발견 결과: 0건
+대안:
+  - 수동 생성 (ChatGPT/Claude)
+  - 크롤링 (법적 리스크)
+  - 유료 데이터 구매
+```
+
+**Action**: Phase 2 작업 (별도 전략 필요)
+
+---
+
+## 🔴 동양 점술 - 관상/손금/토정비결/꿈해몽
+
+### 15. Kaggle: shyambhu/hands-and-palm-images-dataset
+```yaml
+상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
+URL: https://www.kaggle.com/datasets/shyambhu/hands-and-palm-images-dataset
+데이터 건수: 11,076장 손 이미지
+데이터 유형: 생체 인식용 (손금 해석 없음)
+재다운로드: ❌ 불필요 (점술 데이터 아님)
+```
+
+**Action**: 스킵
+
+---
+
+### 16. Roboflow: Palmistry Object Detection
+```yaml
+상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
+URL: https://universe.roboflow.com/palmistry-ccmq5/palmistry-dhpnb
+데이터 건수: 7,177장 이미지
+데이터 유형: 이미지 인식용 (손금 해석 없음)
+재다운로드: ❌ 불필요 (점술 데이터 아님)
+```
+
+**Action**: 스킵
+
+---
+
+### 17. Sleep and Dream Database
+```yaml
+상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
+URL: https://sleepanddreamdatabase.org/
+데이터 건수: 44,500+ 꿈 보고서
+데이터 유형: 서양 꿈 연구 (한국 꿈해몽 아님)
+재다운로드: ❌ 불필요 (한국 문화 데이터 아님)
+```
+
+**Action**: 스킵
+
+---
+
+### 18. 관상/토정비결/팔로산테
+```yaml
+상태: ❌ NOT_AVAILABLE
+검색 결과: 0건
+이유:
+  - 관상: 윤리적 이유로 공개 데이터셋 없음
+  - 토정비결: 공개 데이터셋 없음
+  - 팔로산테: 공개 데이터셋 없음
+```
+
+**Action**: Phase 2 작업 (별도 전략 필요)
+
+---
+
+## 📊 다운로드 통계 요약
+
+### 총 확보 데이터셋
+
+| 카테고리 | 다운로드 완료 | 보류 | 불필요 | 없음 |
+|---------|------------|------|-------|------|
+| **서양 타로** | 4개 | 1개 | 1개 | 0개 |
+| **서양 점성술** | 2개 | 0개 | 1개 | 0개 |
+| **서양 수비학** | 0개 | 1개 | 0개 | 0개 |
+| **서양 룬** | 0개 | 0개 | 3개 | 0개 |
+| **동양 사주** | 0개 | 0개 | 1개 | 1개 |
+| **동양 손금** | 0개 | 0개 | 2개 | 0개 |
+| **동양 기타** | 0개 | 0개 | 1개 | 3개 |
+
+**총 데이터셋**: 18개
+**✅ 다운로드 완료**: 6개 (33%)
+**⏳ 보류**: 2개 (11%)
+**❌ 불필요/없음**: 10개 (56%)
+
+---
+
+### 확보된 데이터 건수
+
+| 데이터셋 | 건수 | 크기 | 상태 |
+|---------|------|------|------|
+| Dendory/tarot | 5,769 | 6.1 MB | ✅ |
+| Corpora Tarot | 78 | 85 KB | ✅ |
+| Tarot API | 78 | 79 KB | ✅ |
+| Kaggle Horoscopes | 12,000 | 9.2 MB | ✅ |
+| Open Astrology | 60,000 | 54 MB | ✅ |
+| **총계** | **77,925** | **~70 MB** | ✅ |
+
+**중복 제거 후 예상**: ~77,847건
+
+---
+
+## 🚀 다운로드 프로세스
+
+### 1단계: 환경 설정
+```bash
+# Kaggle API 키 설정
+mkdir ~/.kaggle
+cp kaggle.json ~/.kaggle/
+chmod 600 ~/.kaggle/kaggle.json
+
+# 필요 패키지 설치
+uv pip install datasets pandas kaggle requests
+```
+
+### 2단계: 다운로드 스크립트 실행
+```bash
+cd C:\Users\SSAFY\projects\FateFusion_Datasets
+
+# HuggingFace 타로 (5,769건)
+uv run python download_csv.py
+
+# Kaggle 점성술 (72,000건)
+uv run python download_kaggle.py
+
+# GitHub 타로 해석 (156건)
+wget https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json -O datasets/tarot_corpora_interpretations.json
+wget https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json -O datasets/tarot_api_card_data.json
+```
+
+### 3단계: 다운로드 검증
+```bash
+# 파일 목록 확인
+ls -lh datasets/
+
+# 데이터 건수 확인
+uv run python verify_downloads.py
+```
+
+---
+
+## ⚠️ 중복 방지 규칙
+
+### Rule 1: 동일 소스 체크
+- **barissglc/tarot** vs **Dendory/tarot**: 건수 동일 (5,769) → 중복 가능성
+- **Action**: 다운로드 전 데이터 해시 비교
+
+### Rule 2: 동일 카테고리 체크
+- **타로 78장 카드 데이터**: 이미 3개 소스 확보
+  - corpora/tarot_interpretations.json ✅
+  - tarot-api/card_data.json ✅
+  - lsind18/tarot-json ⏳ (스킵)
+
+### Rule 3: 데이터 유형 체크
+- **이미지 인식용 데이터**: 점술 해석 없음 → 스킵
+  - Elder Futhark (룬 이미지)
+  - Hands and Palm (손금 이미지)
+
+### Rule 4: 라이브러리 vs 데이터셋
+- **계산 라이브러리**: 해석 데이터 없음 → 스킵
+  - kerykeion (점성술 계산)
+  - bazica (사주 계산)
+
+---
+
+## 📋 다운로드 체크리스트
+
+### 완료된 항목 ✅
+- [x] HuggingFace Dendory/tarot CSV (5,769건)
+- [x] GitHub Corpora Tarot JSON (78건)
+- [x] GitHub Tarot API JSON (78건)
+- [x] Kaggle Horoscopes (12,000건)
+- [x] Kaggle Open Astrology (60,000건)
+
+### 보류 항목 ⏳
+- [ ] Kaggle Astrology-Numerology (구조화 필요)
+- [ ] HuggingFace barissglc/tarot (중복 확인 필요)
+
+### 스킵 항목 ❌
+- [x] Kaggle lsind18/tarot-json (이미 확보됨)
+- [x] IEEE Elder Futhark (이미지 인식용)
+- [x] Roboflow Elder Futhark (이미지 인식용)
+- [x] Roboflow Palmistry (이미지 인식용)
+- [x] Kaggle Hands and Palm (이미지 인식용)
+- [x] GitHub Rundata (역사 연구용)
+- [x] GitHub kerykeion (계산 라이브러리)
+- [x] GitHub bazica (계산 라이브러리)
+- [x] Sleep and Dream DB (서양 꿈 연구)
+
+### 부재 항목 🔴
+- [ ] 사주 해석 데이터 (대안 전략 필요)
+- [ ] 관상 데이터 (윤리적 이슈)
+- [ ] 토정비결 데이터 (공개 데이터 없음)
+- [ ] 한국 꿈해몽 데이터 (공개 데이터 없음)
+- [ ] 팔로산테 데이터 (공개 데이터 없음)
+
+---
+
+## 🔄 업데이트 정책
+
+### 주기적 체크 필요
+| 데이터셋 | 체크 주기 | 이유 |
+|---------|----------|------|
+| Kaggle Horoscopes | 매년 1회 | 최신 운세 데이터 |
+| Kaggle Astrology-Numerology | 분기 1회 | 2024년 신규 |
+| HuggingFace Tarot | 필요 없음 | 정적 데이터 |
+
+### 자동 업데이트 스크립트
+```bash
+# TODO: 분기별 자동 체크 스크립트 작성
+# check_updates.py
+```
+
+---
+
+## 📁 파일 구조
+
+```
+FateFusion_Datasets/
+├── DATASET_INDEX.md              # 이 파일 (중복 방지 인덱스)
+├── datasets/                     # 다운로드된 데이터셋
+│   ├── tarot_dendory_5770.csv
+│   ├── tarot_dendory_5769.jsonl
+│   ├── tarot_corpora_interpretations.json
+│   ├── tarot_api_card_data.json
+│   ├── horoscope_saved.csv
+│   ├── gauq-couples-aspects-REAL-7deg-20000-noa2b-cdata4.csv
+│   ├── gauq-couples-aspects-RANDOMIZED-7deg-20000-noa2b-cdata4.csv
+│   └── gauq-couples-aspects-RANDOMIZED2-7deg-20000-noa2b-cdata4.csv
+├── download_csv.py               # HuggingFace 타로 다운로드
+├── download_kaggle.py            # Kaggle 데이터셋 다운로드
+├── download_huggingface_direct.py # HuggingFace Parquet 다운로드
+├── upload_to_gdrive.py           # 구글 드라이브 업로드 (Python)
+└── Colab_Upload_to_GDrive.ipynb  # 구글 드라이브 업로드 (Colab)
+```
+
+---
+
+## 🎯 다음 단계
+
+### Phase 1: 데이터 검증 및 구조화
+- [ ] 중복 데이터 제거 스크립트 작성
+- [ ] FateFusion JSONL 형식 변환
+- [ ] 데이터 품질 검증
+
+### Phase 2: 부족 데이터 확보
+- [ ] 수비학 데이터 구조화 (PDF → JSONL)
+- [ ] 동양 점술 데이터 수집 전략 수립
+- [ ] 크롤링 or 수동 생성 결정
+
+### Phase 3: 구글 드라이브 동기화
+- [ ] Colab 노트북 실행
+- [ ] 자동 업로드 스크립트 작성
+- [ ] 버전 관리 시스템 구축
+
+---
+
+**마지막 업데이트**: 2026-01-14
+**다음 체크**: 2026-04-01 (분기별)