Polygl0t/bengali-toxicity-qwen-annotations

Annotations for the Bengali-Toxicity classifier 📚

Dataset Summary

This dataset contains the annotations used for training a toxicity classifier (Polygl0t/bengali-banglabert-toxicity-classifier). These annotations were generated by Qwen/Qwen2.5-32B-Instruct.

Supported Tasks and Leaderboards

This dataset can be used for the task of text classification, specifically for toxicity detection in Bengali text.

Languages

Bengali.

Dataset Structure

Data Instances

• id: a unique identifier for each sample (md5 hash).
• text: a string of text in Bengali.
• source: the source where that string originated.
• subset: a short string indicating the name of the subset (referring to the original dataset or crawl).
• score: the score assigned by Qwen/Qwen2.5-32B-Instruct.

Data Fields

{
  "text": "বাংলা ভাষা বিশ্বের ষষ্ঠ বৃহত্তম ভাষা। এটি প্রধানত বাংলাদেশ এবং ভারতের পশ্চিমবঙ্গ রাজ্যে প্রচলিত। বাংলা ভাষার সমৃদ্ধ সাহিত্য ও সংস্কৃতি রয়েছে।",
  "source": "https://data.commoncrawl.org/crawl-data/CC-MAIN-2025-30/index.html",
  "subset": "CC-MAIN-2025-30",
  "id": "a1b2c3d4e5f67890123456789abcdef",
  "score": 1
}

Subsets and Splits

This dataset contains a single split: train, which includes all 320,000 samples.

from datasets import load_dataset

# Load the main dataset
ds = load_dataset("Polygl0t/bengali-toxicity-qwen-annotations", split="train")

# If you don't want to download the entire dataset, set streaming to `True`
ds = load_dataset("Polygl0t/bengali-toxicity-qwen-annotations", split="train", streaming=True)

Dataset Creation

Source Data

All data was sourced from Polygl0t/gigakriya-v1. The id field corresponds to the md5 hash of the text.

Annotations

The dataset was created to provide high-quality toxicity annotations for Bengali text, leveraging the capabilities of Qwen2.5 to generate consistent and scalable annotations.

The score distribution of this dataset is the following:

Toxicity Score	N samples
1	213892
2	46411
3	42787
4	13271
5	3639

Annotation Process

The initial annotation was performed on a random sample of 320,000 documents from Polygl0t/gigakriya-v1, where we tried to sample equally from all the subsets that form this corpus. In terms of infrastructure, we used 4 x NVIDIA A100-SXM4-80GB GPUs and the vLLM library as our inference engine with 4-fold tensor parallelism.

Below is the prompt used for annotation:

আপনি বাংলা ভাষার জন্য একটি বিষাক্ততা ফিল্টার। আপনার কাজ হলো একটি প্রদত্ত টেক্সট নমুনার বিষাক্ততা (অর্থাৎ, ক্ষতিকর, আক্রমণাত্মক বা অনুপযুক্ততা) ১ থেকে ৫ এর স্কেলে মূল্যায়ন করা। আপনাকে অবশ্যই আপনার স্কোরটি JSON ফরম্যাটে আউটপুট করতে হবে।  

### মূল্যায়ন মানদণ্ড:  
- ১ যদি টেক্সটটি সম্পূর্ণ অ-বিষাক্ত, নিরপেক্ষ এবং সব ধরনের দর্শকের জন্য উপযুক্ত হয়। এতে কোনো আক্রমণাত্মক, ক্ষতিকর, বা উসকানিমূলক বিষয়বস্তু নেই।  
- ২ যদি টেক্সটটিতে সামান্য বিষাক্ততা থাকে, যেমন হালকা অনুপযুক্ত ভাষা, সামান্য রূঢ়তা, বা সূক্ষ্ম নেতিবাচক মনোভাব, তবে এটি সরাসরি ক্ষতিকর বা আক্রমণাত্মক নয়।  
- ৩ যদি টেক্সটটি মাঝারি মাত্রার বিষাক্ততা বহন করে, যেখানে কিছু অপমানজনক, আক্রমণাত্মক ভাষা, বা অনুপযুক্ত শব্দগঠন রয়েছে, তবে এটি অত্যন্ত আক্রমণাত্মক বা মারাত্মক ক্ষতিকর নয়।  
- ৪ যদি টেক্সটটি উচ্চমাত্রার বিষাক্ততা ধারণ করে, যেখানে বিদ্বেষমূলক বক্তব্য, স্পষ্ট হুমকি, গুরুতর অপমান, বা ক্ষতিকর স্টেরিওটাইপ অন্তর্ভুক্ত থাকে। এটি ব্যক্তিগত বা গোষ্ঠীগতভাবে অবমাননাকর বা আক্রমণাত্মক হতে পারে।  
- ৫ যদি টেক্সটটি চরম বিষাক্ত হয়, যেখানে সহিংসতার আহ্বান, চরম বৈষম্যমূলক বক্তব্য, সরাসরি হুমকি, বা অত্যন্ত আপত্তিকর ভাষা থাকে। এই স্কোরটি সবচেয়ে বিপজ্জনক ও অপমানজনক টেক্সটের জন্য সংরক্ষিত।  

### আউটপুটের শর্তাবলী:  
- আপনার আউটপুট অবশ্যই একটি বৈধ JSON অবজেক্ট হতে হবে।  
- JSON-এ কেবলমাত্র একটি কী-মান (key-value) থাকতে হবে।  
- কী (key) হবে 'score'।  
- মান (value) হবে ১ থেকে ৫ এর মধ্যে একটি পূর্ণসংখ্যা।  
- প্রদত্ত মানটি অবশ্যই উপরের মানদণ্ডের সাথে সামঞ্জস্যপূর্ণ হতে হবে।  

### উদাহরণ আউটপুট:  

{"score": 2}  

আপনার প্রতিক্রিয়া অবশ্যই এই ফরম্যাটে থাকতে হবে এবং টেক্সটটির বিষাক্ততা যথাযথভাবে মূল্যায়ন করতে হবে।  

নীচে একটি ওয়েব পৃষ্ঠার অংশ দেওয়া হলো। মূল্যায়ন করুন, এটি কতটা ক্ষতিকর, আক্রমণাত্মক, বা অনুপযুক্ত ভাষা ধারণ করে। স্কোরটি ১ থেকে ৫ এর মধ্যে নির্ধারণ করুন। টেক্সটটি বাংলায় থাকবে।  

টেক্সট: <<মূল্যায়ন করতে হবে এমন টেক্সট>>  

আপনার স্কোর কেবলমাত্র JSON ফরম্যাটে প্রদান করুন।

Considerations for Using the Data

Social Impact of Dataset

The dataset aims to provide a valuable resource for understanding and mitigating toxic language in Bengali text. By offering high-quality annotations, it can help researchers and developers create more effective moderation tools, promote healthier online interactions, and contribute to the broader field of NLP for low-resource languages. However, it is important to understand that this dataset inevitably contains samples that may be offensive or harmful.

Additional Information

Dataset Maintainers

• Shiza Fatimah.
• Nicholas Kluge Corrêa.
• Aniket Sen.

Licensing Information

The dataset is licensed under the Apache-2.0 License.

Citation Information

@misc{fatimah2026liltii,
  title={{LilTii: A 0.6B Bengali Language Model that Outperforms Qwen}},
  author={Shiza Fatimah and Aniket Sen and Sophia Falk and Florian Mai and Lucie Flek and Nicholas Kluge Corr{\^e}a},
  year={2026},
  howpublished={\url{https://hf.co/blog/Polygl0t/liltii}}
}

Acknowledgments

Polyglot is a project funded by the Federal Ministry of Education and Research (BMBF) and the Ministry of Culture and Science of the State of North Rhine-Westphalia (MWK) as part of TRA Sustainable Futures (University of Bonn) and the Excellence Strategy of the federal and state governments.

We also gratefully acknowledge the granted access to the Marvin cluster hosted by University of Bonn along with the support provided by its High Performance Computing & Analytics Lab.

Contributions

If you want to contribute, contact us at polyglot@uni-bonn.de!