---
license: apache-2.0
task_categories:
- text-classification
- image-classification
- text-generation
language:
- en
tags:
- SocialMedia
pretty_name: SoMeData
size_categories:
- 100K<n<1M
---
# README for SoMeData
This is the official dataset of the ACL 2024 paper [SoMeLVLM: A Large Vision Language Model for Social Media Processing](https://somelvlm.github.io/).

### Important Notice

Before using data in SoMeData, you agree that the use of the data is only restricted to research or education purposes and that all copyright and license restrictions associated with the dataset/code will be followed.

If you find our dataset useful, we would greatly appreciate it if you could consider citing our paper:

```tex
@inproceedings{zhang-etal-2024-somelvlm,
    title = "{S}o{M}e{LVLM}: A Large Vision Language Model for Social Media Processing",
    author = "Zhang, Xinnong  and
      Kuang, Haoyu  and
      Mou, Xinyi  and
      Lyu, Hanjia  and
      Wu, Kun  and
      Chen, Siming  and
      Luo, Jiebo  and
      Huang, Xuanjing  and
      Wei, Zhongyu",
    editor = "Ku, Lun-Wei  and
      Martins, Andre  and
      Srikumar, Vivek",
    booktitle = "Findings of the Association for Computational Linguistics ACL 2024",
    month = aug,
    year = "2024",
    address = "Bangkok, Thailand and virtual meeting",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2024.findings-acl.140",
    doi = "10.18653/v1/2024.findings-acl.140",
    pages = "2366--2389",
}
```

Please cite the authors of the original open datasets as well.

**All rights reserved and secondary propagation is not allowed.**

### Usage Info

- Images of all the datasets (including open-source and self-collected) are gathered in `img.zip` for your convenience.
- `finetuning-distribution` gathered all datasets together for training. If you want to use part of these datasets, please refer to the `task-level-distribution`

### File Structure

```
.
├── README for SoMeData.md
├── multimodal
│   ├── finetuning_distribution
│   │   ├── eval_new_id.json
│   │   ├── testsets
│   │   │   ├── 4chans_test.json
│   │   │   ├── 4chans_test_g.json
│   │   │   ├── FakeNewsNet_test.json
│   │   │   ├── FakeNewsNet_test_g.json
│   │   │   ├── HatefulMemes_test.json
│   │   │   ├── HatefulMemes_test_g.json
│   │   │   ├── MMHS_test.json
│   │   │   ├── MMHS_test_g.json
│   │   │   ├── MVSA_Multiple_test.json
│   │   │   ├── MVSA_Multiple_test_g.json
│   │   │   ├── MVSA_Single_test.json
│   │   │   ├── MVSA_Single_test_g.json
│   │   │   ├── MVSA_Single_test_id.json
│   │   │   ├── PAN_test.json
│   │   │   ├── PAN_test_g.json
│   │   │   ├── TumEmo_test.json
│   │   │   ├── TumEmo_test_g.json
│   │   │   ├── Tweet_cele_test.json
│   │   │   ├── Tweet_cele_test_g.json
│   │   │   ├── Tweet_leg_test.json
│   │   │   ├── Tweet_leg_test_g.json
│   │   │   ├── domain_explain_test.json
│   │   │   ├── hashtag_choice_test.json
│   │   │   ├── hashtag_gen_test.json
│   │   │   └── personality_explain_test.json
│   │   ├── testsets_OOD
│   │   │   ├── domain_explain_ood.json
│   │   │   ├── hashtag_choice_ood.json
│   │   │   ├── hashtag_gen_ood.json
│   │   │   └── personality_explain_ood.json
│   │   └── train_new_id.json
│   ├── img.zip
│   └── task_level_distribution
│       ├── 4chans
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── FakeNewsNet
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── HatefulMemes
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── MMHS
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── MVSA_Multiple
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── MVSA_Single
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── PAN
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── TumEmo
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── Tweet_cele
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── Tweet_leg
│       │   ├── eval.json
│       │   ├── eval_g.json
│       │   ├── test.json
│       │   ├── test_g.json
│       │   ├── train.json
│       │   └── train_g.json
│       ├── domain_explain
│       │   ├── eval.json
│       │   ├── test.json
│       │   └── train.json
│       ├── hashtag_choice
│       │   ├── eval.json
│       │   ├── test.json
│       │   └── train.json
│       ├── hashtag_gen
│       │   ├── eval.json
│       │   ├── test.json
│       │   └── train.json
│       └── personality_explain
│           ├── eval.json
│           ├── test.json
│           └── train.json
└── plain text
    ├── depolarize
    │   ├── ibc.json
    │   └── media_ideology.json
    ├── detoxify
    │   ├── contextual-abuse#IdentityDirectedAbuse.json
    │   ├── contextual-abuse#PersonDirectedAbuse.json
    │   ├── implicit-hate#explicit_hate.json
    │   ├── implicit-hate#implicit_hate.json
    │   ├── jigsaw#identity_hate.json
    │   ├── jigsaw#insult.json
    │   ├── jigsaw#obscene.json
    │   ├── jigsaw#severe_toxic.json
    │   ├── jigsaw#threat.json
    │   ├── jigsaw#toxic.json
    │   ├── jigsaw#toxic.jsonl
    │   ├── tweet_offensive.json
    │   └── tweet_offensive.jsonl
    ├── emotion
    │   ├── css_six_emotions.json
    │   ├── css_six_emotions_cls.json
    │   ├── sentiment140_cls.json
    │   ├── simplifyweibo_4_moods.json
    │   ├── twitter_emotion.json
    │   ├── twitter_emotion.jsonl
    │   ├── twitter_emotion_cls.json
    │   ├── twitter_emotion_cls.jsonl
    │   └── twitter_emotion_cls_sample.json
    ├── figurative
    │   ├── FLUTE.json
    │   ├── sar.json
    │   ├── sarc_cls.json
    │   ├── sarc_cls.jsonl
    │   ├── tweet_irony.json
    │   ├── tweet_irony.jsonl
    │   ├── tweet_irony_cls.json
    │   ├── tweet_ironybackup_cls.json
    │   └── tweet_ironybackup_cls.jsonl
    ├── humor
    │   ├── hahackathon#is_humor.json
    │   ├── hahackathon#is_humor.jsonl
    │   ├── hahackathon#is_humor_cls.json
    │   ├── hahackathon#is_humor_cls.jsonl
    │   ├── hahackathon#is_humorbackup_cls.json
    │   ├── hahackathon#is_humorbackup_cls.jsonl
    │   ├── humor-pairs.json
    │   ├── puns_cls.json
    │   ├── puns_cls.jsonl
    │   ├── reddit_humor.json
    │   ├── reddit_jokes_cls.json
    │   ├── reddit_jokes_cls.jsonl
    │   ├── short_jokes_cls.json
    │   └── short_jokes_cls.jsonl
    ├── ideology
    │   ├── biden_stance_test_public.json
    │   ├── biden_stance_train_public.json
    │   ├── ibc.json
    │   ├── ibc.jsonl
    │   ├── ibc_cls.json
    │   ├── ibc_cls.jsonl
    │   ├── media_ideology.json
    │   ├── media_ideology_cls.json
    │   ├── trump_stance_test_public.json
    │   ├── trump_stance_train_public.json
    │   └── vast.json
    ├── invert
    │   └── semeval.json
    ├── misinformation
    │   ├── misinfo_cancer.json
    │   ├── misinfo_climate.json
    │   └── mrf_headlines.json
    ├── offensiveness
    │   ├── contextual-abuse#IdentityDirectedAbuse.json
    │   ├── contextual-abuse#PersonDirectedAbuse.json
    │   ├── implicit-hate#explicit_hate.json
    │   ├── implicit-hate#implicit_hate.json
    │   ├── intentyn_cls.json
    │   ├── intentyn_cls_sample.json
    │   ├── jigsaw#identity_hate.json
    │   ├── jigsaw#insult.json
    │   ├── jigsaw#obscene.json
    │   ├── jigsaw#severe_toxic.json
    │   ├── jigsaw#threat.json
    │   ├── jigsaw.json
    │   ├── latent_hatred.json
    │   ├── latent_hatred_cls.json
    │   ├── tweet_offensive.json
    │   ├── tweet_offensive.jsonl
    │   ├── tweet_offensive_cls.json
    │   └── tweet_offensive_cls.jsonl
    ├── reverse
    │   ├── ibc.json
    │   └── media_ideology.json
    ├── sample
    │   ├── depolarize
    │   │   ├── ibc_sample.json
    │   │   └── media_ideology_sample.json
    │   ├── detoxify
    │   │   ├── contextual-abuse#IdentityDirectedAbuse_sample.json
    │   │   ├── contextual-abuse#PersonDirectedAbuse_sample.json
    │   │   ├── implicit-hate#explicit_hate_sample.json
    │   │   ├── implicit-hate#implicit_hate_sample.json
    │   │   ├── jigsaw#identity_hate_sample.json
    │   │   ├── jigsaw#insult_sample.json
    │   │   ├── jigsaw#obscene_sample.json
    │   │   ├── jigsaw#severe_toxic_sample.json
    │   │   ├── jigsaw#threat_sample.json
    │   │   ├── jigsaw#toxic_sample.json
    │   │   └── tweet_offensive_sample.json
    │   ├── emotion
    │   │   ├── css_six_emotions_sample.json
    │   │   └── simplifyweibo_4_moods_sample.json
    │   ├── figurative
    │   │   ├── sar_sample.json
    │   │   └── tweet_irony_sample.json
    │   ├── humor
    │   │   ├── hahackathon#is_humor_sample.json
    │   │   └── humor-pairs_sample.json
    │   ├── ideology
    │   │   ├── ibc_sample.json
    │   │   └── media_ideology_sample.json
    │   ├── misinformation
    │   │   └── mrf_headlines_sample.json
    │   ├── offensiveness
    │   │   ├── contextual-abuse#IdentityDirectedAbuse_sample.json
    │   │   ├── contextual-abuse#PersonDirectedAbuse_sample.json
    │   │   ├── implicit-hate#explicit_hate_sample.json
    │   │   ├── implicit-hate#implicit_hate_sample.json
    │   │   ├── jigsaw#identity_hate_sample.json
    │   │   ├── jigsaw#insult_sample.json
    │   │   ├── jigsaw#obscene_sample.json
    │   │   ├── jigsaw#severe_toxic_sample.json
    │   │   ├── jigsaw#threat_sample.json
    │   │   ├── latent_hatred_sample.json
    │   │   └── tweet_offensive_sample.json
    │   ├── reverse
    │   │   ├── ibc_sample.json
    │   │   └── media_ideology_sample.json
    │   └── truthworthiness
    │       ├── neutralizing-bias-pairs_sample.json
    │       └── rumor#rumor_bool_sample.json
    ├── socialfactors
    │   ├── complaints_cls.json
    │   ├── complaints_cls.jsonl
    │   ├── empathy#empathy_bin_cls.json
    │   ├── empathy#empathy_bin_cls.jsonl
    │   ├── hayati_politeness_cls.json
    │   ├── questionintimacy_cls.json
    │   ├── stanfordpoliteness_cls.json
    │   └── stanfordpoliteness_cls.jsonl
    └── truthworthiness
        ├── hypo-l_cls.json
        ├── neutralizing-bias-pairs.json
        ├── rumor#rumor_bool.json
        ├── two-to-lie#sender_truth_cls.json
        └── two-to-lie#sender_truth_cls.jsonl
```