xebecedeX commited on
Commit
78366cd
·
verified ·
1 Parent(s): 81f1878

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +740 -0
README.md CHANGED
@@ -1,3 +1,743 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ language:
4
+ - ru
5
+ - en
6
+ task_categories:
7
+ - text-generation
8
+ - question-answering
9
+ tags:
10
+ - 1c
11
+ - 1c-enterprise
12
+ - bsl
13
+ - query-language
14
+ - qwen
15
+ - qlora
16
+ - sft
17
+ - code-generation
18
+ - software-engineering
19
+ pretty_name: 1C Enterprise Development Dataset
20
+ size_categories:
21
+ - 1K<n<10K
22
  ---
23
+ # RUSSIAN DESCRIPTION
24
+
25
+ ## Датасет разработки на платформе 1С:Предприятие
26
+
27
+ **Специализированный датасет для обучения и оценки языковых моделей в области разработки на платформе 1С:Предприятие.**
28
+
29
+ `ones_enterprise` — курируемый датасет, предназначенный для повышения способности языковых моделей понимать, генерировать, анализировать, отлаживать и проектировать программные решения для платформы **1С:Предприятие**.
30
+
31
+ Датасет ориентирован не только на генерацию отдельных фрагментов кода, но и на решение практических задач разработки. Он охватывает встроенный язык платформы, язык запросов, модель метаданных, архитектуру приложений и типовые инженерные сценарии.
32
+
33
+ Основная целевая модель для supervised fine-tuning:
34
+
35
+ - **Подход к обучению:** Supervised Fine-Tuning (SFT)
36
+ - **Метод дообучения:** QLoRA
37
+
38
+ > **Статус датасета:** исследовательская разработка. Качество данных, семантическая корректность и совместимость с платформой находятся в процессе проверки. Датасет не следует считать полностью валидированным производственным корпусом.
39
+
40
+ ---
41
+
42
+ ### 1. Назначение проекта
43
+
44
+ Разработка на платформе 1С:Предприятие требует значительно большего, чем общие знания программирования.
45
+
46
+ Полноценный AI-ассистент разработчика 1С должен понимать:
47
+
48
+ - Встроенный язык 1С (BSL).
49
+ - Модель метаданных и взаимосвязи между объектами конфигурации.
50
+ - Документы, справочники, регистры, перечисления и планы видов характеристик.
51
+ - Язык запросов 1С и виртуальные таблицы.
52
+ - Управляемые формы и обработчики событий.
53
+ - Клиент-серверную архитектуру.
54
+ - Транзакции, блокировки и обеспечение целостности данных.
55
+ - Механизмы интеграции и внешние интерфейсы.
56
+ - Особенности производительности и платформенные ограничения.
57
+ - Типовые архитектурные и инженерные практики разработки.
58
+
59
+ Универсальные языковые модели могут хорошо знать общие концепции программирования, но зачастую не обладают достаточными знаниями специфики платформы 1С:Предприятие.
60
+
61
+ `ones_enterprise` призван сократить этот разрыв за счёт примеров, связывающих естественно-языковые требования с платформенными знаниями и практическими реализациями на 1С.
62
+
63
+ ### 2. Цели датасета
64
+
65
+ Датасет предназначен для обучения специализированной модели разработчика 1С, способной:
66
+
67
+ 1. Генерировать процедуры и функции на BSL.
68
+ 2. Создавать и оптимизировать запросы 1С.
69
+ 3. Понимать структуру метаданных и зависимости между объектами.
70
+ 4. Реализовывать бизнес-логику с использованием нескольких объектов конфигурации.
71
+ 5. Разрабатывать управляемые формы и обработчики событий.
72
+ 6. Работать с клиент-серверным взаимодействием.
73
+ 7. Реализовывать транзакции и безопасные операции с данными.
74
+ 8. Анализировать и исправлять ошибки существующего кода.
75
+ 9. Выполнять рефакторинг и улучшать существующие реализации.
76
+ 10. Проектировать решения на основании функциональных требований.
77
+ 11. Реализовывать интеграции и обмен данными.
78
+ 12. Объяснять принятые инженерные решения и учитывать ограничения платформы.
79
+
80
+ Долгосрочная цель — перейти от модели, которая генерирует отдельные фрагменты BSL, к специализированной инженерной модели, способной помогать в **разработке прикладных решений на платформе 1С:Предприятие на уровне отдельных задач, взаимодействия объектов и архитектуры приложения**.
81
+
82
+ ### 3. Состав и тематическое покрытие
83
+
84
+ Датасет охватывает следующие направления:
85
+
86
+ | Направление | Содержание |
87
+ |---|---|
88
+ | BSL | Процедуры, функции, переменные, управляющие конструкции, обработка ошибок |
89
+ | Язык запросов | SELECT, соединения, фильтрация, группировки, итоги, виртуальные таблицы |
90
+ | Метаданные | Справочники, документы, регистры, перечисления, реквизиты |
91
+ | Формы | Управляемые формы, элементы управления, обработчики событий, модули форм |
92
+ | Клиент-сервер | Контекст выполнения, серверные вызовы, взаимодействие клиента и сервера |
93
+ | Транзакции | Границы транзакций, блокировки, согласованность данных |
94
+ | Структуры данных | Массивы, структуры, соответствия, таблицы значений, коллекции |
95
+ | Интеграции | HTTP, JSON, XML, внешние сервисы |
96
+ | Отладка | Анализ ошибок, выявление дефектов, исправление кода |
97
+ | Рефакторинг | Переработка структуры кода, читаемость, сопровождаемость |
98
+ | Оптимизация | Производительность запросов и BSL-кода |
99
+ | Архитектура | Многообъектные решения, анализ требований, проектирование |
100
+
101
+ Категории могут пересекаться. Например, задача по обработке проведения документа может одновременно затрагивать BSL, метаданные, транзакции и серверный контекст выполнения.
102
+
103
+ ### 4. Формат данных
104
+
105
+ Датасет использует формат JSON Lines (`.jsonl`).
106
+
107
+ Каждая запись содержит диалоговую структуру на основе массива `messages`.
108
+
109
+ Пример:
110
+
111
+ ```json
112
+ {
113
+ "messages": [
114
+ {
115
+ "role": "user",
116
+ "content": "Напиши функцию на BSL, которая возвращает общую сумму всех элементов таблицы значений."
117
+ },
118
+ {
119
+ "role": "assistant",
120
+ "content": "Функция РассчитатьОбщуюСумму(Товары)\n ОбщаяСумма = 0;\n Для Каждого Товар Из Товары Цикл\n ОбщаяСумма = ОбщаяСумма + Товар.Сумма;\n КонецЦикла;\n Возврат ОбщаяСумма;\nКонецФункции"
121
+ }
122
+ ]
123
+ }
124
+ ```
125
+
126
+ Пример иллюстрирует структуру записи. Он не является подтверждением того, что каждая запись датасета прошла проверку на работающей платформе 1С.
127
+
128
+ #### Схема записи
129
+
130
+ | Поле | Тип | Описание |
131
+ |---|---|---|
132
+ | `messages` | Array | Массив сообщений диалога |
133
+ | `messages[].role` | String | Роль сообщения, например `user` или `assistant` |
134
+ | `messages[].content` | String | Текст задачи, исходный код или ответ |
135
+
136
+ Формат предназначен для использования в конвейерах подготовки conversational SFT-датасетов.
137
+
138
+ ### 5. Источники и формирование данных
139
+
140
+ Датасет объединяет несколько типов обучающих примеров.
141
+
142
+ #### 5.1. Синтетические примеры на осно��е метаданных
143
+
144
+ Примеры формируются с использованием информации о структуре метаданных 1С.
145
+
146
+ Их задача — научить модель связывать естественно-языковые требования, объекты метаданных и платформенные механизмы реализации.
147
+
148
+ #### 5.2. Алгоритмически сгенерированные примеры
149
+
150
+ Примеры создаются с использованием контролируемых шаблонов и алгоритмических паттернов.
151
+
152
+ Они позволяют расширять покрытие типовых конструкций BSL, запросов и распространённых задач программирования.
153
+
154
+ #### 5.3. Примеры, извлечённые из реального кода
155
+
156
+ Примеры формируются на основе существующего исходного кода 1С с последующим преобразованием в обучающие задания.
157
+
158
+ Такие данные особенно важны для знакомства модели с реалистичными структурами программ, практическими паттернами и особенностями существующих реализаций.
159
+
160
+ #### 5.4. Примеры исправления ошибок и инженерных задач
161
+
162
+ В эту категорию входят задания по исправлению кода, поиску дефектов и улучшению существующих решений.
163
+
164
+ Одно из направлений развития датасета — увеличение количества реалистичных инженерных сценариев в этой категории.
165
+
166
+ **Важно:** синтетические, извлечённые и вручную проверенные примеры должны рассматриваться как отдельные категории происхождения данных при оценке качества датасета.
167
+
168
+ ### 6. Контроль качества и валидация
169
+
170
+ Качество данных является одним из основных направлений развития проекта.
171
+
172
+ Корректная JSONL-запись не обязательно содержит семантически правильный BSL-код или работоспособную реализацию на платформе 1С.
173
+
174
+ Поэтому процесс контроля качества разделяется на несколько уровней:
175
+
176
+ | Уровень проверки | Назначение |
177
+ |---|---|
178
+ | Структурная проверка | Корректность JSONL и структуры сообщений |
179
+ | Поиск дубликатов | Обнаружение точных и близких по смыслу повторов |
180
+ | Статический анализ кода | Поиск подозрительных конструкций и синтаксических паттернов BSL |
181
+ | Семантическая проверка | Соответствие решения условиям задачи |
182
+ | Проверка метаданных | Совместимость с используемыми объектами и реквизитами |
183
+ | Платформенная проверка | Компиляция или выполнение средствами 1С, если доступны |
184
+ | Регрессионная проверка | Контроль отсутствия новых дефектов после исправлений |
185
+ | Проверка разбиения | Предотвращение утечки связанных примеров между выборками |
186
+
187
+ Автоматизированные проверки по шаблонам полезны для обнаружения подозрительных записей, но сами по себе не доказывают корректность BSL-реализации.
188
+
189
+ #### Известные ограничения
190
+
191
+ - Не каждый сгенерированный пример BSL гарантированно прошёл компиляцию или выполнение на платформе 1С.
192
+ - Синтетические примеры могут содержать шаблонные конструкции.
193
+ - Для решения некоторых задач может потребоваться контекст метаданных, который не полностью представлен непосредственно в диалоговой записи.
194
+ - Корректность запросов может зависеть от типов и структуры используемых метаданных.
195
+ - Ка��ество и тематическое покрытие могут различаться между версиями датасета.
196
+
197
+ Перед использованием датасета в производственных сценариях рекомендуется самостоятельно проверять обучающие примеры.
198
+
199
+ ### 7. Использование для обучения моделей
200
+
201
+ Основной сценарий использования — Supervised Fine-Tuning специализированных языковых моделей.
202
+
203
+ Рекомендуемый процесс подготовки:
204
+
205
+ 1. Загрузить датасет.
206
+ 2. Проверить структуру JSONL.
207
+ 3. Применить chat template базовой модели.
208
+ 4. Выполнить токенизацию диалогов.
209
+ 5. Замаскировать labels для сообщений, не принадлежащих `assistant`.
210
+ 6. Сохранить необходимые токены окончания диалога.
211
+ 7. Подготовить train, validation и test выборки.
212
+ 8. Выполнить предварительную проверку конвейера обучения на небольшом наборе данных.
213
+ 9. Оценить дообученную модель на независимом тестовом наборе.
214
+
215
+ #### Целевая модель
216
+
217
+ `Qwen/Qwen2.5-Coder-7B-Instruct`
218
+
219
+ #### Метод обучения
220
+
221
+ QLoRA с использованием Supervised Fine-Tuning.
222
+
223
+ Сам датасет не гарантирует совместимость с конкретным фреймворком или конфигурацией обучения. Конвейер предварительной обработки необходимо адаптировать под токенизатор и chat template выбранной базовой модели.
224
+
225
+ ### 8. Рекомендуемая методика оценки
226
+
227
+ Модель, обученную на этом датасете, не следует оценивать исключительно по значению loss или общему качеству генерации кода.
228
+
229
+ Рекомендуется использовать следующие направления оценки:
230
+
231
+ | Направление | Что оценивается |
232
+ |---|---|
233
+ | Генерация BSL | Корректность и полнота сгенерированного кода |
234
+ | Генерация запросов | Структура запросов, соединения, фильтрация, агрегирование |
235
+ | Понимание метаданных | Корректность использования объектов и реквизитов |
236
+ | Отладка | Способность обнаруживать и исправлять дефекты |
237
+ | Рефакторинг | Сохранение поведения и повышение качества кода |
238
+ | Архитектура | Способность проектировать многообъектные решения |
239
+ | Клиент-серверная логика | Корректность выбора контекста выполнения |
240
+ | Платформенные ограничения | Соблюдение специфики разработки на 1С |
241
+ | Рассуждения | Способность объяснять инженерные решения |
242
+
243
+ По возможности оценка должна включать независимые тестовые задачи, проверки с учётом метаданных, а также компиляцию или выполнение кода на платформе 1С.
244
+
245
+ ### 9. Структура репозитория
246
+
247
+ Рекомендуемая структура репозитория:
248
+
249
+ ```text
250
+ ones_enterprise/
251
+ │
252
+ ├── README.md
253
+ ├── LICENSE
254
+ ├── dataset_info.json
255
+ │
256
+ ├── data/
257
+ │ ├── ones_enterprise_final_v9.jsonl
258
+ │ ├── train.jsonl
259
+ │ ├── validation.jsonl
260
+ │ └── test.jsonl
261
+ │
262
+ ├── metadata/
263
+ │ └── ...
264
+ │
265
+ ├── reports/
266
+ │ ├── dataset_statistics.json
267
+ │ ├── quality_report.md
268
+ │ └── validation_report.md
269
+ │
270
+ └── scripts/
271
+ ├── validate_jsonl.py
272
+ ├── analyze_dataset.py
273
+ └── prepare_sft.py
274
+ ```
275
+
276
+ Фактическая структура и имена файлов могут отличаться в зависимости от опубликованной версии. Наличие файлов следует проверять непосредственно в репозитории.
277
+
278
+ ### 10. Загрузка датасета
279
+
280
+ Для загрузки локального JSONL-файла можно использовать библиотеку `datasets`:
281
+
282
+ ```python
283
+ from datasets import load_dataset
284
+
285
+ dataset = load_dataset(
286
+ "json",
287
+ data_files="data/ones_enterprise_final_v9.jsonl",
288
+ split="train"
289
+ )
290
+
291
+ print(dataset)
292
+ print(dataset[0])
293
+ ```
294
+
295
+ Если датасет опубликован на Hugging Face, его можно загружать по идентификатору репозитория:
296
+
297
+ ```python
298
+ from datasets import load_dataset
299
+
300
+ dataset = load_dataset(
301
+ "YOUR_HF_USERNAME/ones_enterprise"
302
+ )
303
+
304
+ print(dataset)
305
+ ```
306
+
307
+ Второй пример предполагает, что структура опубликованного репозитория настроена для совместимой загрузки через `datasets`.
308
+
309
+ ### 11. Для кого предназначен датасет
310
+
311
+ Датасет может быть полезен:
312
+
313
+ - Исследователям, работающим над специализированными языковыми моделями.
314
+ - Разработчикам на платформе 1С:Предприятие.
315
+ - Функциональным и техническим архитекторам 1С.
316
+ - Инженерам, экспериментирующим с fine-tuning моделей для генерации кода.
317
+ - Командам, разрабатывающим AI-ассистентов для корпоративных систем.
318
+ - Исследователям локальных и специализированных coding agents.
319
+
320
+ ### 12. Лицензия и условия использования
321
+
322
+ **Лицензия датасета: требует определения.**
323
+
324
+ Лицензия должна быть выбрана с учётом условий использования и распространения всех исходных материалов, вошедших в датасет.
325
+
326
+ Перед распространением или коммерческим использованием необходимо проверить права на исходный код, метаданные и другие включённые материалы.
327
+
328
+ Лицензия базовой модели не распространяется автоматически на датасет.
329
+
330
+ ### 13. Отказ от ответственности
331
+
332
+ `ones_enterprise` — независимый исследовательский датасет, посвящённый разработке на платформе 1С:Предприятие.
333
+
334
+ Проект не является официальным продуктом 1С, не связан с компанией «1С» и не одобрен ею.
335
+
336
+ Датасет не заменяет официальную документацию платформы и профессиональное ревью кода.
337
+
338
+ Сгенерированный код должен быть проверен и протестирован в целевой среде 1С перед использованием в критически важных бизнес-системах.
339
+
340
+ ### 14. Дорожная карта развития
341
+
342
+ Датасет развивается итеративно, с последовательным улучшением качества и тематического покрытия.
343
+
344
+ Основные направления развития:
345
+
346
+ - Повышение семантической корректности BSL-примеров.
347
+ - Увеличение доли практических задач прикладной разработки.
348
+ - Расширение набора примеров по отладке и рефакторингу.
349
+ - Добавление сценариев реализации с использованием нескольких объектов метаданных.
350
+ - Улучшение проверки с учётом структуры метаданных.
351
+ - Увеличение количества сложных инженерных задач.
352
+ - Сокращение шаблонных и семантически дублирующихся примеров.
353
+ - Улучшение изоляции train/validation/test выборок.
354
+ - Формирование воспроизводимых benchmark-тестов для оценки дообученных моделей.
355
+
356
+ Каждая новая версия датасета должна сохранять информацию о происхождении данных и сопровождаться воспроизводимыми отчётами о качестве.
357
+
358
+ ---
359
+
360
+ ### Цитирование
361
+
362
+ Если вы используете датасет в исследовательских или инженерных проектах, можно сослаться на репозиторий следующим образом:
363
+
364
+ ```bibtex
365
+ @misc{ones_enterprise_dataset,
366
+ title = {Датасет разработки на платформе 1С:Предприятие},
367
+ author = {Участники проекта},
368
+ year = {2026},
369
+ howpublished = {Hugging Face},
370
+ note = {Датасет для обучения специализированных языковых моделей разработке на платформе 1С:Предприятие}
371
+ }
372
+ ```
373
+
374
+ Перед публикацией замените поле `author` на фактическое имя автора или организации.
375
+
376
+ ---
377
+
378
+ **Проект:** `ones_enterprise`
379
+ **Платформа:** 1С:Предприятие
380
+ **Основной язык разработки:** BSL
381
+ **Основная задача:** специализированное SFT / QLoRA
382
+ **Целевая базовая модель:** Qwen2.5-Coder-7B-Instruct
383
+ **Статус:** исследовательская разработка
384
+
385
+ # ENGLISH DESCRIPTION
386
+ ## 1C Enterprise Development Dataset
387
+
388
+ **A specialized dataset for training and evaluating language models on 1C:Enterprise development.**
389
+
390
+ `ones_enterprise` is a curated dataset designed to improve the ability of code-oriented language models to understand, generate, analyze, debug, and architect software solutions for the **1C:Enterprise platform**.
391
+
392
+ The dataset targets practical software engineering tasks rather than code completion alone. It covers the platform's development language, query language, metadata model, application architecture, and common implementation patterns.
393
+
394
+ The initial target model for supervised fine-tuning is:
395
+
396
+ - **Training approach:** Supervised Fine-Tuning (SFT)
397
+ - **Fine-tuning method:** QLoRA
398
+
399
+ > **Dataset status:** Research and development. Dataset quality, semantic correctness, and platform-level compatibility are subject to ongoing validation. This dataset should not be considered a fully validated production training corpus.
400
+
401
+ ---
402
+
403
+ ### 1. Motivation
404
+
405
+ Developing for 1C:Enterprise requires more than general programming knowledge.
406
+
407
+ A capable 1C development assistant must understand:
408
+
409
+ - The Business Application Language (BSL).
410
+ - The 1C metadata model and relationships between metadata objects.
411
+ - Documents, catalogs, registers, enumerations, and information structures.
412
+ - The 1C query language and virtual tables.
413
+ - Managed forms and event handlers.
414
+ - Client-server execution contexts.
415
+ - Transactions, locks, and data consistency.
416
+ - Integration mechanisms and external interfaces.
417
+ - Performance considerations and platform-specific development patterns.
418
+
419
+ General-purpose code models may know programming concepts but often lack sufficient platform-specific knowledge to solve real 1C development tasks reliably.
420
+
421
+ `ones_enterprise` aims to bridge this gap by providing examples that connect natural-language requirements with 1C-specific implementation knowledge.
422
+
423
+ ### 2. Goals
424
+
425
+ The dataset is intended to support the development of a specialized 1C engineering model capable of:
426
+
427
+ 1. Generating BSL procedures and functions.
428
+ 2. Writing and optimizing 1C queries.
429
+ 3. Understanding metadata structures and dependencies.
430
+ 4. Implementing business logic across multiple metadata objects.
431
+ 5. Developing managed forms and event handlers.
432
+ 6. Working with client-server execution contexts.
433
+ 7. Implementing transactions and safe data operations.
434
+ 8. Debugging existing BSL code.
435
+ 9. Refactoring and improving existing implementations.
436
+ 10. Designing solutions from functional requirements.
437
+ 11. Understanding integrations and data exchange.
438
+ 12. Explaining implementation decisions and platform-specific constraints.
439
+
440
+ The long-term objective is to move from a model that merely generates BSL fragments to a model that can assist with **end-to-end 1C application development and solution architecture**.
441
+
442
+ ### 3. Dataset Coverage
443
+
444
+ The dataset covers the following areas.
445
+
446
+ | Domain | Description |
447
+ |---|---|
448
+ | BSL | Procedures, functions, variables, control flow, error handling |
449
+ | Query Language | SELECT, joins, filters, grouping, totals, virtual tables |
450
+ | Metadata | Catalogs, documents, registers, enumerations, attributes |
451
+ | Forms | Managed forms, controls, event handlers, form modules |
452
+ | Client-Server | Execution context, server calls, client-server interaction |
453
+ | Transactions | Transaction boundaries, locks, consistency |
454
+ | Data Structures | Arrays, structures, maps, value tables, collections |
455
+ | Integrations | HTTP, JSON, XML, external services |
456
+ | Debugging | Error analysis, defect identification, corrections |
457
+ | Refactoring | Code restructuring, readability, maintainability |
458
+ | Optimization | Query and BSL performance |
459
+ | Architecture | Multi-object solutions, requirements analysis, design decisions |
460
+
461
+ Categories may overlap. For example, a task involving a document posting handler may also involve BSL, metadata, transactions, and server-side execution.
462
+
463
+ ### 4. Dataset Format
464
+
465
+ The dataset uses JSON Lines (`.jsonl`) format.
466
+
467
+ Each record follows a conversational structure based on a `messages` array.
468
+
469
+ Example:
470
+
471
+ ```json
472
+ {
473
+ "messages": [
474
+ {
475
+ "role": "user",
476
+ "content": "Write a BSL function that returns the total amount of all items in a value table."
477
+ },
478
+ {
479
+ "role": "assistant",
480
+ "content": "Function CalculateTotal(Items)\n Total = 0;\n For Each Item In Items Do\n Total = Total + Item.Amount;\n EndDo;\n Return Total;\nEndFunction"
481
+ }
482
+ ]
483
+ }
484
+ ```
485
+
486
+ The example above illustrates the record structure only. It is not a claim that every record has been independently validated against a running 1C platform.
487
+
488
+ #### Schema
489
+
490
+ | Field | Type | Description |
491
+ |---|---|---|
492
+ | `messages` | Array | Conversational messages |
493
+ | `messages[].role` | String | Message role, such as `user` or `assistant` |
494
+ | `messages[].content` | String | Natural-language task, source code, or response |
495
+
496
+ The format is intended to be compatible with conversational SFT preprocessing pipelines.
497
+
498
+ ### 5. Data Sources and Construction
499
+
500
+ The dataset combines multiple types of training examples.
501
+
502
+ #### 5.1 Metadata-based synthetic examples
503
+
504
+ Examples generated using information about 1C metadata structures.
505
+
506
+ These examples are intended to teach relationships between natural-language requirements, metadata objects, and platform-specific implementation patterns.
507
+
508
+ #### 5.2 Algorithmically generated examples
509
+
510
+ Examples generated from controlled templates and algorithmic patterns.
511
+
512
+ They help expand coverage of common BSL constructs, query patterns, and programming tasks.
513
+
514
+ #### 5.3 Real-code-derived examples
515
+
516
+ Examples extracted from existing 1C source code and transformed into training tasks.
517
+
518
+ These examples are particularly valuable for exposing the model to realistic implementation patterns and code structures.
519
+
520
+ #### 5.4 Bug-fix and engineering examples
521
+
522
+ Examples involving code correction, debugging, and implementation improvements.
523
+
524
+ The dataset is intended to expand this category with more realistic engineering scenarios.
525
+
526
+ **Important:** Synthetic, extracted, and manually reviewed examples should be treated as distinct provenance categories during quality assessment.
527
+
528
+ ### 6. Data Quality and Validation
529
+
530
+ Dataset quality is a central part of this project.
531
+
532
+ A syntactically valid JSONL record does not necessarily contain semantically correct BSL code or a valid 1C implementation.
533
+
534
+ The quality process therefore distinguishes several validation levels:
535
+
536
+ | Validation level | Purpose |
537
+ |---|---|
538
+ | Structural validation | JSONL integrity and message schema |
539
+ | Duplicate detection | Exact and near-duplicate detection |
540
+ | Static code analysis | Suspicious BSL constructs and syntax patterns |
541
+ | Semantic validation | Consistency between task requirements and generated solution |
542
+ | Metadata validation | Compatibility with referenced metadata objects |
543
+ | Platform validation | Compilation or execution using 1C tooling, where available |
544
+ | Regression validation | Ensuring corrections do not introduce new defects |
545
+ | Split validation | Preventing related examples from leaking across dataset splits |
546
+
547
+ Automated pattern checks are useful for identifying suspicious records, but they cannot independently prove that a BSL implementation is correct.
548
+
549
+ #### Known limitations
550
+
551
+ - Not every generated BSL example is guaranteed to have been compiled or executed by the 1C platform.
552
+ - Synthetic examples may contain template-driven patterns.
553
+ - Some tasks may require metadata context that is not fully represented in the conversational record.
554
+ - Query correctness can depend on the types and structure of the underlying metadata.
555
+ - Dataset quality and coverage may vary between versions.
556
+
557
+ Users should independently validate examples before using the dataset in production training workflows.
558
+
559
+ ### 7. Intended Training Use
560
+
561
+ The primary use case is supervised fine-tuning of code-oriented language models.
562
+
563
+ Recommended workflow:
564
+
565
+ 1. Load the dataset.
566
+ 2. Validate the JSONL structure.
567
+ 3. Apply the base model's conversational chat template.
568
+ 4. Tokenize the conversations.
569
+ 5. Mask labels for non-assistant messages.
570
+ 6. Preserve the appropriate end-of-turn tokens.
571
+ 7. Create train, validation, and test splits.
572
+ 8. Run a small preprocessing and training smoke test.
573
+ 9. Evaluate the fine-tuned model against a held-out benchmark.
574
+
575
+ #### Target model
576
+
577
+ `Qwen/Qwen2.5-Coder-7B-Instruct`
578
+
579
+ #### Training method
580
+
581
+ QLoRA with supervised fine-tuning.
582
+
583
+ The dataset itself does not include a guarantee of compatibility with a particular training framework or configuration. The preprocessing pipeline must be adapted to the tokenizer and chat template of the selected base model.
584
+
585
+ ### 8. Recommended Evaluation
586
+
587
+ A model trained on this dataset should not be evaluated exclusively by measuring loss or generic code-generation performance.
588
+
589
+ Recommended evaluation dimensions:
590
+
591
+ | Evaluation area | What to measure |
592
+ |---|---|
593
+ | BSL generation | Correctness and completeness of generated code |
594
+ | Query generation | Query structure, joins, filters, aggregation |
595
+ | Metadata understanding | Correct use of metadata objects and attributes |
596
+ | Debugging | Ability to identify and correct defects |
597
+ | Refactoring | Preservation of behavior and code quality |
598
+ | Architecture | Ability to design multi-object solutions |
599
+ | Client-server logic | Correct execution context |
600
+ | Platform constraints | Compliance with 1C-specific development rules |
601
+ | Reasoning | Ability to explain implementation decisions |
602
+
603
+ Where possible, evaluation should include independent test cases, metadata-aware checks, and platform-level compilation or execution.
604
+
605
+ ### 9. Repository Structure
606
+
607
+ The recommended repository layout is:
608
+
609
+ ```text
610
+ ones_enterprise/
611
+ │
612
+ ├── README.md
613
+ ├── LICENSE
614
+ ├── dataset_info.json
615
+ │
616
+ ├── data/
617
+ │ ├── ones_enterprise_final_v9.jsonl
618
+ │ ├── train.jsonl
619
+ │ ├── validation.jsonl
620
+ │ └── test.jsonl
621
+ │
622
+ ├── metadata/
623
+ │ └── ...
624
+ │
625
+ ├── reports/
626
+ │ ├── dataset_statistics.json
627
+ │ ├── quality_report.md
628
+ │ └── validation_report.md
629
+ │
630
+ └── scripts/
631
+ ├── validate_jsonl.py
632
+ ├── analyze_dataset.py
633
+ └── prepare_sft.py
634
+ ```
635
+
636
+ The actual repository layout and filenames may differ by release. Only files included in the published repository should be treated as available artifacts.
637
+
638
+ ### 10. Loading the Dataset
639
+
640
+ The dataset can be loaded directly from Hugging Face using the `datasets` library.
641
+
642
+ ```python
643
+ from datasets import load_dataset
644
+
645
+ dataset = load_dataset(
646
+ "json",
647
+ data_files="data/ones_enterprise_final_v9.jsonl",
648
+ split="train"
649
+ )
650
+
651
+ print(dataset)
652
+ print(dataset[0])
653
+ ```
654
+
655
+ If the dataset is published as a Hugging Face dataset repository, replace the local file path with the repository identifier and the appropriate data-file configuration.
656
+
657
+ Example:
658
+
659
+ ```python
660
+ from datasets import load_dataset
661
+
662
+ dataset = load_dataset(
663
+ "YOUR_HF_USERNAME/ones_enterprise"
664
+ )
665
+
666
+ print(dataset)
667
+ ```
668
+
669
+ The second example assumes that the repository has been configured with a compatible dataset loading layout.
670
+
671
+ ### 11. Intended Audience
672
+
673
+ This dataset may be useful for:
674
+
675
+ - Researchers working on domain-specific language models.
676
+ - 1C:Enterprise developers.
677
+ - 1C solution architects.
678
+ - Engineers experimenting with code-model fine-tuning.
679
+ - Developers building AI assistants for enterprise software.
680
+ - Teams researching local and specialized coding agents.
681
+
682
+ ### 12. License and Usage
683
+
684
+ **Dataset license: to be specified.**
685
+
686
+ The dataset's license must be determined based on the licensing terms and redistribution permissions of its underlying sources.
687
+
688
+ Users are responsible for checking the rights associated with source code, metadata, and other included materials before redistribution or commercial use.
689
+
690
+ Do not assume that the base model's license also applies to this dataset.
691
+
692
+ ### 13. Disclaimer
693
+
694
+ This is an independent research dataset focused on 1C:Enterprise development.
695
+
696
+ It is not an official 1C product, is not affiliated with or endorsed by 1C Company, and does not replace official platform documentation or professional code review.
697
+
698
+ Generated code must be reviewed and tested in the target 1C environment before use in business-critical systems.
699
+
700
+ ### 14. Project Roadmap
701
+
702
+ The project is expected to evolve through iterative dataset engineering.
703
+
704
+ Planned directions include:
705
+
706
+ - Improving BSL semantic correctness.
707
+ - Increasing the share of practical application-development tasks.
708
+ - Expanding debugging and refactoring examples.
709
+ - Adding multi-object implementation scenarios.
710
+ - Improving metadata-aware validation.
711
+ - Increasing the number of high-complexity engineering tasks.
712
+ - Reducing template-driven and near-duplicate examples.
713
+ - Improving train/validation/test split isolation.
714
+ - Establishing repeatable evaluation benchmarks for fine-tuned models.
715
+
716
+ Dataset versions should preserve provenance and provide reproducible quality reports.
717
+
718
+ ---
719
+
720
+ ### Citation
721
+
722
+ If you use this dataset in research or development, please cite the repository:
723
+
724
+ ```bibtex
725
+ @misc{ones_enterprise_dataset,
726
+ title = {1C Enterprise Development Dataset},
727
+ author = {Dataset Contributors},
728
+ year = {2026},
729
+ howpublished = {Hugging Face},
730
+ note = {A dataset for domain-specific language model training on 1C:Enterprise development}
731
+ }
732
+ ```
733
+
734
+ Please replace the author field with the actual contributor or organization information before publication.
735
+
736
+ ---
737
+
738
+ **Project:** `ones_enterprise`
739
+ **Platform:** 1C:Enterprise
740
+ **Primary language:** BSL
741
+ **Primary training objective:** Domain-specific SFT / QLoRA
742
+ **Base model target:** Qwen2.5-Coder-7B-Instruct
743
+ **Status:** Research and development