File size: 3,728 Bytes
c0f8aa9 9103d02 c0f8aa9 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 | ---
pretty_name: 1C-Code-Train
language:
- ru
task_categories:
- sentence-similarity
size_categories:
- 100K<n<1M
license: other
tags:
- code-retrieval
- 1c
- bsl
- hard-negatives
configs:
- config_name: default
data_files:
- split: train
path: train-*.parquet
---
# 1C-Code-Train
`1C-Code-Train` содержит 784 057 синтетических триплетов для поиска кода 1С:E/BSL преимущественно по русскоязычным запросам. Датасет использовался для обучения модели [`PruhaNLP/USER2-1C-code`](https://huggingface.co/PruhaNLP/USER2-1C-code).
## Данные
Сплит `train` содержит три текстовых поля:
- `query` — синтетический поисковый запрос на естественном языке;
- `positive` — соответствующий запросу фрагмент кода 1С/BSL;
- `negative` — сложный отрицательный пример, найденный в корпусе кода.
```python
from datasets import load_dataset
dataset = load_dataset("PruhaNLP/1C-Code-Train", split="train")
```
## Подготовка
Код происходит из публичного корпуса [`leongl/1c_github`](https://huggingface.co/datasets/leongl/1c_github). После фильтрации и точной дедупликации запросы были сгенерированы моделью `google/gemma-4-26B-A4B-it`. Сложные отрицательные примеры отбирались из первых 20 результатов `deepvk/USER2-small` с помощью FAISS и поиска по скалярному произведению.
Публикуемый файл прошёл очистку персональных данных. Консервативная обработка на основе правил заменяет обнаруженные адреса электронной почты, номера телефонов, IP-адреса, пути файловой системы и имена людей на `[EMAIL]`, `[PHONE]`, `[IP]`, `[PATH]` и `[PERSON]`. Это снижает риск раскрытия персональных данных, но не является формальной гарантией полной деидентификации.
## Назначение и ограничения
Датасет предназначен для исследований и обучения моделей поиска кода по текстовому запросу. Запросы являются синтетическими, среди сложных отрицательных примеров могут встречаться ложноотрицательные, а исходный код может содержать повторяющиеся шаблоны или неполные фрагменты.
Для исходного корпуса лицензия не указана. Поэтому для этого датасета установлено `license: other`. Перед повторным распространением или коммерческим использованием пользователи должны самостоятельно проверить происхождение исходных данных и лицензии соответствующих репозиториев. Проект является независимым, не аффилирован с фирмой «1С» и не одобрен ею.
Код оценки: [`PruhaNLP/1C-RB`](https://github.com/PruhaNLP/1C-RB).
|