arefaste commited on
Commit
044d858
·
verified ·
1 Parent(s): f3898d2

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +82 -0
README.md CHANGED
@@ -3,6 +3,7 @@ license: mit
3
  task_categories:
4
  - text-generation
5
  - table-question-answering
 
6
  language:
7
  - ru
8
  - en
@@ -93,6 +94,87 @@ You can find in folder `scripts_parsing`!
93
 
94
  Please cite this dataset if you use it in your work:
95
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
96
  ```
97
  @misc{arefaste2025,
98
  title={Arefaste: Parsed dataset for 1c from dataset},
 
3
  task_categories:
4
  - text-generation
5
  - table-question-answering
6
+ - question-answering
7
  language:
8
  - ru
9
  - en
 
94
 
95
  Please cite this dataset if you use it in your work:
96
 
97
+ ```
98
+ @misc{arefaste2025,
99
+ title={Arefaste: Parsed dataset for 1c from dataset},
100
+ author={arefaste},
101
+ year={2025},
102
+ publisher={Hugging Face},
103
+ howpublished={\url{https://huggingface.co/datasets/arefaste/1C_Forums}}
104
+ }
105
+ ```
106
+
107
+ # RU DOCS
108
+ # 1C_forums: Набор данных на основе распарсенной информации с двух популярных форумов по 1С
109
+
110
+ Этот набор данных состоит из распарсенной информации с двух форумов для программистов на языке 1С:
111
+ - [Infostart](https://forum.infostart.ru/group2/?a=26694) - все ветки представлены как раздел для размышлений модели, а сообщение, отмеченное как лучший ответ на вопрос, помечено как итоговое решение.
112
+ - [Fastcode](https://fastcode.im/Templates?TemplatesOnly=True) - Только шаблоны кода.
113
+
114
+ ## Обзор набора данных
115
+ Все строки подготовлены в виде полезных столбцов. Весь текст представлен в формате markdown, а код 1C выглядит следующим образом:
116
+
117
+ ```md
118
+ \`\`\`1c
119
+ "ВЫБРАТЬ
120
+ | Ссылка.Контрагент,
121
+ | Ссылка.Магазин,
122
+ | СУММА(КоличествоСпрос) КАК КолвоСпрос
123
+ |ИЗ
124
+ | Документ.СпросНаТовар.Товары
125
+ |ГДЕ Ссылка.Дата МЕЖДУ ДОБАВИТЬКДАТЕ(&ДатаНачало, ГОД, -10) И &ДатаНачало
126
+ | СГРУППИРОВАТЬ ПО Ссылка.Контрагент, СсылкаМагазин";.
127
+ \`\`\`
128
+ ```
129
+
130
+ ### ❗ВАЖНО❗: Экранирование специальных символов
131
+
132
+ Значения в столбцах `prompt`, `think_process` и `solution` содержат экранированные специальные символы, такие как `\n`, `\t` и `\\`!
133
+
134
+ Причина такого поведения: модуль `csv` в Python, который используется в парсере для сохранения строк, сохраняет `\n` как символ переноса строки, что делает невозможным чтение подготовленного файла с помощью Pandas.
135
+
136
+ Чтобы это исправить, используйте простой лямбда-код:
137
+
138
+ ```python
139
+ return_back_special_symbols = lambda x: x.replace("\\n", "\n").replace("\\t", "\t").replace("\\\\", "\\")
140
+ ```
141
+
142
+ ### Infostart
143
+ Выбранные данные с [Infostart](https://forum.infostart.ru/group2/?a=26694) - это все ветки форума с найденными ответами в разделе для разработчиков (Dev).
144
+ - `source` - для всех строк с форума Infostart содержит значение `forum_infostart`
145
+ - `in_source_id` - идентификатор ветки с этого веб-форума. Чтобы получить ссылку на страницу, используйте формат: `https://forum.infostart.ru/forum9/{in_source_id}/`
146
+ - `prompt` - это первый вопрос (сообщение) в ветке.
147
+ - `think_process` - это все обсуждение в ветке, представленное как процесс размышления, где каждое сообщение отделено от других с помощью `\n----\n`
148
+ - `solution` - сообщения в ветке, отмеченные как решение вопроса
149
+ - `is_answer_a_link` - если ссылка составляет более 60-70% всего решения, содержит значение `True`, иначе `False`
150
+ - `has_link` - счетчик ссылок в решении. Если решение не содержит ссылок, значение будет `NaN`
151
+ - `tags` - предсказанные теги
152
+
153
+ ### FastCode
154
+ Все данные с [Fastcode](https://fastcode.im/Templates?TemplatesOnly=True) - это только шаблоны кода. Комментарии к этому коду сделаны в новом разделе `# Примечание`, который показывает каждый комментарий.
155
+ - `source` - для всех строк с форума Fastcode содержит значение `fastcode_Templates`
156
+ - `in_source_id` - идентификатор шаблона с этого веб-форума. Чтобы получить ссылку на страницу, используйте формат: `https://fastcode.im/Templates/{in_source_id}/`
157
+ - `prompt` - это заголовок шаблона.
158
+ - `think_process` - **`None` - не используется вообще!**
159
+ - `solution` - это описание (если есть) и код с примечаниями (комментариями, если они есть)
160
+ - `is_answer_a_link` - если ссылка составляет более 60-70% всего решения, содержит значение `True`, иначе `False`
161
+ - `has_link` - счетчик ссылок в решении. Если решение не содержит ссылок, значение будет `NaN`
162
+ - `tags` - Теги шаблона, разделенные запятой
163
+
164
+ ## Статистика набора данных
165
+
166
+ * **Общее количество примеров**: 19041
167
+ * форум ***infostart***: 18299
168
+ * шаблонов ***fastcode***: 742
169
+
170
+ ## Скрипты для парсинга
171
+
172
+ Их можно найти в папке `scripts_parsing`!
173
+
174
+ ## Цитирование
175
+
176
+ Пожалуйста, процитируйте этот набор данных, если используете его в своей работе:
177
+
178
  ```
179
  @misc{arefaste2025,
180
  title={Arefaste: Parsed dataset for 1c from dataset},