Dataset Viewer
The dataset viewer is not available for this dataset.
Unexpected token '<', "<html> <h"... is not valid JSON

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

dostoevsky_frontier_v2_normalized

Нормализованная версия 0x7o/dostoevsky_frontier_v2.

Нормализация

Устранены пунктуационные shortcut-ы, позволяющие модели различать chosen/rejected по артефактам форматирования вместо стиля.

Общие (chosen + rejected)

  • ёе по словарю (книги не используют ё, AI всегда использует — 87.8% accuracy)
  • \xa0 (неразрывный пробел) → обычный пробел
  • (U+2026) → ... (три точки)
  • (en dash) → (em dash)
  • !..!..., ?..?...
  • "..."«...», „..."«...»

Chosen (книжные артефакты)

  • ^- (диалог с дефисом) → ^— (em dash)

Rejected (AI-артефакты)

  • # заголовки markdown → удалены
  • --- горизонтальные линии → удалены
  • **bold**, *italic* → снято форматирование

Формат

{
  "prompt": "Напишите отрывок в стиле ...",
  "chosen": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ],
  "rejected": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ]
}

Источник

0x7o/dostoevsky_frontier_v2

Downloads last month
21