Hugging Face's logo

Datasets:
tellang
/
yeji-datasets

Tasks:
Text Generation
Modalities:
Image
Formats:
imagefolder
Languages:
Korean
Chinese
Size:
< 1K
Tags:
fortune-telling
raw-data
collection
Libraries:
Datasets
License:
Dataset card Data Studio Files
xet
 Community
yeji-datasets / DATASET_INDEX.md
tellang's picture
tellang
Add DATASET_INDEX.md
6e85515 verified
preview code
|
raw
history blame contribute delete
15.6 kB

FateFusion 데이터셋 다운로드 인덱스

목적: 중복 크롤링/다운로드 방지를 위한 데이터셋 상태 추적 최종 업데이트: 2026-01-14 총 확보 데이터: 77,847건

📋 다운로드 상태 추적표

범례

  • ✅ DOWNLOADED: 다운로드 완료, 로컬 저장됨
  • ⏳ PENDING: 발견했으나 아직 다운로드 안됨
  • ❌ NOT_AVAILABLE: 데이터셋 없음
  • ⚠️ NEEDS_PROCESSING: 다운로드됨, 구조화 필요
  • 🔄 NEEDS_UPDATE: 업데이트 가능한 데이터

🟢 서양 점술 - 타로 (Tarot)

1. HuggingFace: Dendory/tarot 

상태: ✅ DOWNLOADED
URL: https://huggingface.co/datasets/Dendory/tarot
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/tarot_dendory_5770.csv
          ./datasets/tarot_dendory_5769.jsonl
데이터 건수: 5,769건
파일 크기: 2.9 MB (CSV) + 3.2 MB (JSONL)
라이선스: MIT
데이터 유형: spread_interpretation (3장 카드 조합)
품질: ChatGPT 생성 (검증 필요)
중복 체크: barissglc/tarot와 동일 가능성 높음
재다운로드: ❌ 불필요 (이미 확보)

다운로드 스크립트: download_csv.py

2. HuggingFace: barissglc/tarot 

상태: ⏳ PENDING (Dendory/tarot와 중복 가능성)
URL: https://huggingface.co/datasets/barissglc/tarot
데이터 건수: 5,769건 (Dendory와 동일)
중복 확인 필요: ✅ YES
재다운로드: ❌ 불필요 (Dendory로 충분)

Action: 중복 확인 후 스킵

3. GitHub: dariusk/corpora - Tarot Interpretations 

상태: ✅ DOWNLOADED
URL: https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/tarot_corpora_interpretations.json
데이터 건수: 78건 (전체 타로 카드 의미)
파일 크기: 85 KB
라이선스: CC0 (Public Domain)
데이터 유형: multi_factor_interpretation (카드별 해석)
품질: 전문가 해석 (Mark McElroy)
재다운로드: ❌ 불필요

다운로드 방법:

wget https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json -O datasets/tarot_corpora_interpretations.json

4. GitHub: ekelen/tarot-api 

상태: ✅ DOWNLOADED
URL: https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/tarot_api_card_data.json
데이터 건수: 78건 (Rider-Waite-Smith 덱)
파일 크기: 79 KB
라이선스: Open Source
데이터 유형: static_interpretation (카드 기본 정보)
재다운로드: ❌ 불필요

다운로드 방법:

wget https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json -O datasets/tarot_api_card_data.json

5. Kaggle: lsind18/tarot-json 

상태: ⏳ PENDING (우선순위 낮음)
URL: https://www.kaggle.com/datasets/lsind18/tarot-json
데이터 건수: 78건
재다운로드: ❌ 불필요 (corpora/tarot-api로 충분)

Action: 스킵 (이미 78장 카드 데이터 확보됨)

🟢 서양 점술 - 점성술 (Astrology)

6. Kaggle: shahp7575/horoscopes 

상태: ✅ DOWNLOADED
URL: https://www.kaggle.com/datasets/shahp7575/horoscopes
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/horoscope_saved.csv
데이터 건수: 12,000건
파일 크기: 9.2 MB
라이선스: Kaggle Public
데이터 유형: temporal_prediction (12 별자리 × 5 카테고리)
출처: Horoscope.com 스크래핑 (2021)
재다운로드: ❌ 불필요
업데이트 체크: 🔄 매년 1회 (최신 데이터 확인)

다운로드 스크립트: download_kaggle.py

다운로드 방법:

kaggle datasets download -d shahp7575/horoscopes

7. Kaggle: gokhanyu/open-astrology-datasets 

상태: ✅ DOWNLOADED
URL: https://www.kaggle.com/datasets/gokhanyu/open-astrology-datasets
다운로드 날짜: 2026-01-14
로컬 경로:
  - ./datasets/gauq-couples-aspects-REAL-7deg-20000-noa2b-cdata4.csv (18 MB)
  - ./datasets/gauq-couples-aspects-RANDOMIZED-7deg-20000-noa2b-cdata4.csv (18 MB)
  - ./datasets/gauq-couples-aspects-RANDOMIZED2-7deg-20000-noa2b-cdata4.csv (18 MB)
데이터 건수: 60,000건 (20,000 × 3 파일)
파일 크기: 54 MB
라이선스: GPL 2
데이터 유형: multi_factor_interpretation (커플 궁합)
재다운로드: ❌ 불필요

다운로드 스크립트: download_kaggle.py

다운로드 방법:

kaggle datasets download -d gokhanyu/open-astrology-datasets

8. GitHub: g-battaglia/kerykeion 

상태: ⏳ PENDING (라이브러리만)
URL: https://github.com/g-battaglia/kerykeion
타입: 계산 라이브러리 (해석 데이터 없음)
라이선스: AGPL-3.0
활용: 점성술 차트 생성용
재다운로드: ❌ 불필요 (데이터셋 아님)

Action: 스킵 (계산 라이브러리)

🟡 서양 점술 - 수비학 (Numerology)

9. Kaggle: atharvakoshti/astrology-and-numerology-dataset 

상태: ⏳ PENDING (우선순위 중간)
URL: https://www.kaggle.com/datasets/atharvakoshti/astrology-and-numerology-dataset
데이터 건수: 불명 (PDF 추출 텍스트)
파일 크기: 1.4 MB
라이선스: Apache 2.0
데이터 유형: multi_factor (PDF → TXT 변환 필요)
최종 수정: 2024-12-26 (최신!)
재다운로드: ⚠️ 필요 시 (구조화 작업 필요)

다운로드 방법:

kaggle datasets download -d atharvakoshti/astrology-and-numerology-dataset

TODO: PDF 텍스트 구조화 스크립트 작성

🔴 서양 점술 - 룬 (Runes)

10. IEEE DataPort: Elder Futhark Recognition 

상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://ieee-dataport.org/documents/handwriting-elder-futhark-alphabet-recognition
DOI: 10.21227/5grg-a785
데이터 건수: 불명 (25 클래스)
데이터 유형: 문자 인식용 (점술 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)

Action: 스킵 (이미지 인식용, 점술 해석 없음)

11. Roboflow: Elder Futhark Object Detection 

상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://universe.roboflow.com/brandon-aho-vjjr8/elder-futhark
데이터 건수: 1,731장 이미지
데이터 유형: 이미지 인식용 (점술 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)

Action: 스킵

12. GitHub: Rundata (스칸디나비아 룬 텍스트 DB) 

상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://github.com/Stiftet/rundata-net
데이터 건수: ~4,000개 룬스톤 텍스트
라이선스: GNU GPL
데이터 유형: 역사 연구용 (점술 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)

Action: 스킵

🔴 동양 점술 - 사주팔자 (Saju/Bazi)

13. GitHub: tommitoan/bazica 

상태: ❌ NOT_DOWNLOADED (라이브러리만)
URL: https://github.com/tommitoan/bazica
타입: 계산 라이브러리 (Go)
제공 데이터: 60년 주기, 십간십이지, 절기 (JSON)
해석 데이터: ❌ 없음 (계산만)
라이선스: MIT
재다운로드: ❌ 불필요 (해석 데이터 없음)

Action: 스킵 (계산 라이브러리)

14. 사주 해석 데이터셋 

상태: ❌ NOT_AVAILABLE
검색 키워드:
  - "사주팔자 데이터셋"
  - "Four Pillars destiny dataset"
  - "bazi dataset"
  - "Chinese astrology birth chart"
발견 결과: 0건
대안:
  - 수동 생성 (ChatGPT/Claude)
  - 크롤링 (법적 리스크)
  - 유료 데이터 구매

Action: Phase 2 작업 (별도 전략 필요)

🔴 동양 점술 - 관상/손금/토정비결/꿈해몽

15. Kaggle: shyambhu/hands-and-palm-images-dataset 

상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://www.kaggle.com/datasets/shyambhu/hands-and-palm-images-dataset
데이터 건수: 11,076장 손 이미지
데이터 유형: 생체 인식용 (손금 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)

Action: 스킵

16. Roboflow: Palmistry Object Detection 

상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://universe.roboflow.com/palmistry-ccmq5/palmistry-dhpnb
데이터 건수: 7,177장 이미지
데이터 유형: 이미지 인식용 (손금 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)

Action: 스킵

17. Sleep and Dream Database 

상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://sleepanddreamdatabase.org/
데이터 건수: 44,500+ 꿈 보고서
데이터 유형: 서양 꿈 연구 (한국 꿈해몽 아님)
재다운로드: ❌ 불필요 (한국 문화 데이터 아님)

Action: 스킵

18. 관상/토정비결/팔로산테 

상태: ❌ NOT_AVAILABLE
검색 결과: 0건
이유:
  - 관상: 윤리적 이유로 공개 데이터셋 없음
  - 토정비결: 공개 데이터셋 없음
  - 팔로산테: 공개 데이터셋 없음

Action: Phase 2 작업 (별도 전략 필요)

📊 다운로드 통계 요약

총 확보 데이터셋

카테고리 다운로드 완료 보류 불필요 없음
서양 타로 4개 1개 1개 0개
서양 점성술 2개 0개 1개 0개
서양 수비학 0개 1개 0개 0개
서양 룬 0개 0개 3개 0개
동양 사주 0개 0개 1개 1개
동양 손금 0개 0개 2개 0개
동양 기타 0개 0개 1개 3개

총 데이터셋: 18개 ✅ 다운로드 완료: 6개 (33%) ⏳ 보류: 2개 (11%) ❌ 불필요/없음: 10개 (56%)

확보된 데이터 건수

데이터셋 건수 크기 상태
Dendory/tarot 5,769 6.1 MB ✅
Corpora Tarot 78 85 KB ✅
Tarot API 78 79 KB ✅
Kaggle Horoscopes 12,000 9.2 MB ✅
Open Astrology 60,000 54 MB ✅
총계 77,925 ~70 MB ✅

중복 제거 후 예상: ~77,847건

🚀 다운로드 프로세스

1단계: 환경 설정 

# Kaggle API 키 설정
mkdir ~/.kaggle
cp kaggle.json ~/.kaggle/
chmod 600 ~/.kaggle/kaggle.json

# 필요 패키지 설치
uv pip install datasets pandas kaggle requests

2단계: 다운로드 스크립트 실행 

cd C:\Users\SSAFY\projects\FateFusion_Datasets

# HuggingFace 타로 (5,769건)
uv run python download_csv.py

# Kaggle 점성술 (72,000건)
uv run python download_kaggle.py

# GitHub 타로 해석 (156건)
wget https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json -O datasets/tarot_corpora_interpretations.json
wget https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json -O datasets/tarot_api_card_data.json

3단계: 다운로드 검증 

# 파일 목록 확인
ls -lh datasets/

# 데이터 건수 확인
uv run python verify_downloads.py

⚠️ 중복 방지 규칙

Rule 1: 동일 소스 체크

  • barissglc/tarot vs Dendory/tarot: 건수 동일 (5,769) → 중복 가능성
  • Action: 다운로드 전 데이터 해시 비교

Rule 2: 동일 카테고리 체크

  • 타로 78장 카드 데이터: 이미 3개 소스 확보
    • corpora/tarot_interpretations.json ✅
    • tarot-api/card_data.json ✅
    • lsind18/tarot-json ⏳ (스킵)

Rule 3: 데이터 유형 체크

  • 이미지 인식용 데이터: 점술 해석 없음 → 스킵
    • Elder Futhark (룬 이미지)
    • Hands and Palm (손금 이미지)

Rule 4: 라이브러리 vs 데이터셋

  • 계산 라이브러리: 해석 데이터 없음 → 스킵
    • kerykeion (점성술 계산)
    • bazica (사주 계산)

📋 다운로드 체크리스트

완료된 항목 ✅

  • HuggingFace Dendory/tarot CSV (5,769건)
  • GitHub Corpora Tarot JSON (78건)
  • GitHub Tarot API JSON (78건)
  • Kaggle Horoscopes (12,000건)
  • Kaggle Open Astrology (60,000건)

보류 항목 ⏳

  • Kaggle Astrology-Numerology (구조화 필요)
  • HuggingFace barissglc/tarot (중복 확인 필요)

스킵 항목 ❌

  • Kaggle lsind18/tarot-json (이미 확보됨)
  • IEEE Elder Futhark (이미지 인식용)
  • Roboflow Elder Futhark (이미지 인식용)
  • Roboflow Palmistry (이미지 인식용)
  • Kaggle Hands and Palm (이미지 인식용)
  • GitHub Rundata (역사 연구용)
  • GitHub kerykeion (계산 라이브러리)
  • GitHub bazica (계산 라이브러리)
  • Sleep and Dream DB (서양 꿈 연구)

부재 항목 🔴

  • 사주 해석 데이터 (대안 전략 필요)
  • 관상 데이터 (윤리적 이슈)
  • 토정비결 데이터 (공개 데이터 없음)
  • 한국 꿈해몽 데이터 (공개 데이터 없음)
  • 팔로산테 데이터 (공개 데이터 없음)

🔄 업데이트 정책

주기적 체크 필요

데이터셋 체크 주기 이유
Kaggle Horoscopes 매년 1회 최신 운세 데이터
Kaggle Astrology-Numerology 분기 1회 2024년 신규
HuggingFace Tarot 필요 없음 정적 데이터

자동 업데이트 스크립트 

# TODO: 분기별 자동 체크 스크립트 작성
# check_updates.py

📁 파일 구조 

FateFusion_Datasets/
├── DATASET_INDEX.md              # 이 파일 (중복 방지 인덱스)
├── datasets/                     # 다운로드된 데이터셋
│   ├── tarot_dendory_5770.csv
│   ├── tarot_dendory_5769.jsonl
│   ├── tarot_corpora_interpretations.json
│   ├── tarot_api_card_data.json
│   ├── horoscope_saved.csv
│   ├── gauq-couples-aspects-REAL-7deg-20000-noa2b-cdata4.csv
│   ├── gauq-couples-aspects-RANDOMIZED-7deg-20000-noa2b-cdata4.csv
│   └── gauq-couples-aspects-RANDOMIZED2-7deg-20000-noa2b-cdata4.csv
├── download_csv.py               # HuggingFace 타로 다운로드
├── download_kaggle.py            # Kaggle 데이터셋 다운로드
├── download_huggingface_direct.py # HuggingFace Parquet 다운로드
├── upload_to_gdrive.py           # 구글 드라이브 업로드 (Python)
└── Colab_Upload_to_GDrive.ipynb  # 구글 드라이브 업로드 (Colab)

🎯 다음 단계

Phase 1: 데이터 검증 및 구조화

  • 중복 데이터 제거 스크립트 작성
  • FateFusion JSONL 형식 변환
  • 데이터 품질 검증

Phase 2: 부족 데이터 확보

  • 수비학 데이터 구조화 (PDF → JSONL)
  • 동양 점술 데이터 수집 전략 수립
  • 크롤링 or 수동 생성 결정

Phase 3: 구글 드라이브 동기화

  • Colab 노트북 실행
  • 자동 업로드 스크립트 작성
  • 버전 관리 시스템 구축

마지막 업데이트: 2026-01-14 다음 체크: 2026-04-01 (분기별)