farabi-lab/Identification-of-paraphrasing

🇰🇿 Identification of Paraphrasing in Kazakh Context

Dataset Summary

Identification of Paraphrasing in Kazakh Context is a targeted dataset designed to train Large Language Models (LLMs) and embeddings to detect semantic equivalence between two distinct Kazakh texts.

📊 Dataset Statistics

General Metrics

Metric	Count
Total Samples	2,000
Total Words (approx.)	184,465
Avg. Words per Sample	92

Word Count Distribution (Per Field)

The following table details the distribution of word counts across different fields in the dataset:

Field	Mean	Median	Min	Max	Total Words
DOMAIN	1.3	1.0	1	4	2,640
PROMPT	83.4	82.0	51	142	166,825
RESPONSE	7.5	7.5	7	8	15,000

==================================================

📂 Dataset Structure

Data Fields

Each sample follows a structured format designed for semantic similarity and text classification:

• PROMPT: The instruction given to the model, which includes the query (e.g., "Are these two texts paraphrases of each other?"), the original text, and the paraphrased text.
• RESPONSE: The expected correct response or gold-standard answer (e.g., "Иә, бұл екі мәтін бірдей мағынаны білдіреді." / "Yes, these two texts mean the same thing.").
• DOMAIN: The domain or subject area of the text being analyzed (e.g., "Linguistics", "Research").

Data Instances

Below is an example of a paraphrase detection task within the Linguistics domain.

    {
        "PROMPT":"Мына екі мәтін бір-бірінің парафразы ма? Түпнұсқа: Қолданбалы лингвистика – тіл білімінің теориялық тұжырымдамаларын нақты әлем мәселелерін шешу үшін қолданатын пәнаралық сала. Ол тілді оқыту, аударма, компьютерлік лингвистика, сот лингвистикасы және сөз тану сияқты көптеген бағыттарды қамтиды, тілдің адам өміріндегі практикалық маңызын зерттейді. Бұл бағыт тілдік білімді практикалық тұрғыда қолдануға бағытталған. Перефраз: Тіл білімінің теориялық қағидаларын практикалық мәселелерді шешуге бағыттайтын қолданбалы лингвистика – бұл тілді оқыту әдістемесін, мәтінді аудару өнерін, компьютерлік тілді өңдеуді, заңдық лингвистикалық сараптаманы және автоматты сөзді тану жүйелерін қамтитын кең ауқымды пәнаралық сала болып табылады. Ол тілдің күнделікті қолданыстағы рөлін терең зерттейді.",
        "RESPONSE":"Иә, бұл екі мәтін бірдей мағынаны білдіреді.",
        "DOMAIN":"Linguistics"
    }

Funding

This dataset was developed as part of the project funded by the Ministry of Science and Higher Education of the Republic of Kazakhstan under Grant No. BR24993001, “Creation of a Large Language Model (LLM) to Support the Kazakh Language and Advance Technological Development.”

Citation

If you use this dataset in your research, please cite the following article:

APA

Kadyrbek, N., Tuimebayev, Z., Mansurova, M., & Viegas, V. (2025). The development of small-scale language models for low-resource languages, with a focus on Kazakh and direct preference optimization. Big Data and Cognitive Computing, 9(5), 137. https://doi.org/10.3390/bdcc9050137

BibTeX

@article{kadyrbek2025development,
  title     = {The Development of Small-Scale Language Models for Low-Resource Languages, with a Focus on Kazakh and Direct Preference Optimization},
  author    = {Kadyrbek, Nurgali and Tuimebayev, Zhanseit and Mansurova, Madina and Viegas, Vitor},
  journal   = {Big Data and Cognitive Computing},
  volume    = {9},
  number    = {5},
  pages     = {137},
  year      = {2025},
  publisher = {MDPI},
  doi       = {10.3390/bdcc9050137},
  url       = {https://www.mdpi.com/2504-2289/9/5/137}
}