anekdot / README.md
d0rj's picture
Publish anekdots and stratified memes with original embedded media
62e91b8 verified
|
Raw History Blame Contribute Delete
2.71 kB
metadata
language:
  - ru
tags:
  - humor
  - regression
  - multimodal
configs:
  - config_name: anekdots
    default: true
    data_files:
      - split: train
        path: data/anekdots/train-*.parquet
      - split: val
        path: data/anekdots/val-*.parquet
      - split: test
        path: data/anekdots/test-*.parquet
  - config_name: memes
    data_files:
      - split: train
        path: data/memes/train-*.parquet
      - split: val
        path: data/memes/val-*.parquet
      - split: test
        path: data/memes/test-*.parquet

anekdot

Источник: anekdot.ru. Русскоязычные анекдоты и мемы с голосами читателей.

Subset train val test
anekdots 618470 77308 77310
memes 161274 20159 20160

text — исходный текст/подпись; пустые подписи сохранены. images — исходные байты картинок/GIF, videos — MP4/WebM. Без изменения размеров, перекодирования и OCR. Элементы медиа: bytes, path=None; декодирование по умолчанию отключено. media_type: image/gif/video/mixed. Анимированные изображения учитываются как GIF. media содержит URL источника, SHA-256, размер и предупреждения декодера.

target = (votes_for + kappa * mu) / (votes_for + votes_against + kappa) — сглаженная доля положительных голосов. mu=0.5585487495567671, kappa=4.704882402974252, оценены только на anekdots/train. sample_weight=1.

anekdots: 773088 строк, разбиение 80/10/10 по группам точных и лексически близких текстов со стратификацией по длине, target, году, числу голосов и выпуску. memes: 80/10/10, стратификация по типу медиа, наличию подписи, target, году, числу голосов и длине подписи. Одинаковые SHA-256 не пересекают split; визуально похожие версии могут пересекаться. Точные повторы, недоступные медиа и записи без направленных голосов исключены. Счётчики исключений и распределения: metadata/release.json.

from datasets import load_dataset
anekdots = load_dataset("d0rj/anekdot", "anekdots")
memes = load_dataset("d0rj/anekdot", "memes", streaming=True)