SurjoLabs/samanantar-multiturn-en-bn

🇧🇩🇬🇧 Samanantar v2 Multi-Turn XML English–Bengali Corpus

🎯 Goal

An instruction-tuning parallel dataset designed to train LLMs to translate full multi-turn conversational datasets in a single forward pass.

Dialogue turns are wrapped in an explicit XML schema (<sys>, <user_k>, <assistant_k>) to prevent "turn drift" and maintain strict line-by-line alignment across languages.

---

📊 Dataset Stats

• Total Multi-Turn Conversations: 612,163
• Underlying Parallel Pairs Packed: 16,161,049
• Turn Distribution: 1 to 5 turns per conversation (~30% containing system prompts)
• Splits:
  • train: 600,045 samples (98%)
  • validation: 6,073 samples (1%)
  • test: 6,045 samples (1%)

---

🗂️ Data Schema & Real Sample

Fields:

• src (string): Source multi-turn dialogue in English with XML tags.
• tgt (string): Target multi-turn dialogue in Bengali with identical XML tags.
• num_turns (int32): Number of dialogue turns ($1 \le k \le 5$).
• has_sys (bool): Whether a <sys> block is included.
• pairs_packed (int32): Number of raw sentence pairs packed into this sample.
• src_len (int32): Character length of source string.
• tgt_len (int32): Character length of target string.

---

Real Sample:

src (English XML):

<user_1>
Also, you can use it for storage.
I was really in the wrong.
But I’m not sore about that.
Because sometimes you can't.
The central government does not run any such scheme.
</user_1>

<assistant_1>
His name is Donald Trump.
Moreover, it’s quite easy to get.
Belarus is the only country in Europe to practice the death penalty.
What does the instruction tell you about this?
His heart was overflowing with inexpressible joy.
</assistant_1>

<user_2>
But he has all the attributes.
Are you anticipating that as a possibility?
A: Never thought of it.
As much as quality of life is important in adult life, quality of school life is equally important in the life of students.
</user_2>

<assistant_2>
He had no experience.
And I LOVE your haircut!
But it wasn't the only one.
But here's why some think it is.
The Daily Star reported.
</assistant_2>

tgt (Bengali XML):

<user_1>
স্টোরেজ হিসেবেও কাজে লাগাতে পারেন।
সত্যিই আমি জঘন্য ভুলের শিকার ছিলাম ।
কিন্তু এটার জন্য আমার খারাপ লাগে না।
কারণ অনেকসময় তা সম্ভব হয় না।
কেন্দ্রীয় সরকার এই সম্পকে কোন ব্যবস্থাই করছেন না।
</user_1>

<assistant_1>
তাঁর নাম ডোনাল্ড ট্রাম্প।
তাছাড়া এটা শেখাও খুব সহজ।
ইউরোপের একমাত্র দেশ বেলারুশে মৃত্যুদন্ডের বিধান রয়েছে ।
আপনি এ বিষয়ে কি নির্দেশনা দেবেন?
তাহার হৃদয় যেন এক অঙ্জানিত আনন্দে উচছলিয়।
</assistant_1>

<user_2>
কিন্তু সব ব্যাপারেই ওঁর একটা সপ্রতিভতা আছে।
এটাকে একটা সুযোগ মনে হচ্ছে আপনার?
উত্তর : স্বপ্নেও ভাবিনি।
মানুষের জীবনের মোড় যেমন ছাত্রজীবনের মানের উপর নির্ভর করে থাকে, তেমনিভাবে ছাত্রজীবনকে উজ্জ্বল করতে অত্যন্ত গুরুত্বপূর্ণ ভূমিকা রাখে তার সঙ্গ।
</user_2>

<assistant_2>
যাহাতে তিনি অভিজ্ঞ ছিলেন না।
আর তোমার চুলগুলো আমার খুব ভালো লাগে।
কিন্তু তা একমাত্র হয়ে ওঠেনি ।
কিন্তু কিছু মানুষজন তো এমনই ভাবেন।
ডেইলি স্টার অনলাইনের খবরে এ কথা জানানো হয়েছে।
</assistant_2>

---

🚀 How to Use

from datasets import load_dataset

# Load splits
dataset = load_dataset("SurjoLabs/samanantar-multiturn-en-bn")

train_data = dataset["train"]
val_data = dataset["validation"]
test_data = dataset["test"]

print(train_data[0])

---

📜 Source & License

• License: Creative Commons Attribution-NonCommercial 4.0 International (CC BY-NC 4.0)
  • Free for academic, research, and non-commercial open-source use.
  • For commercial licensing or deployment rights, contact SurjoLabs.
• Underlying Parallel Sentence Source: AI4Bharat BPCC / Samanantar v2