iiegn commited on
Commit
bc301ac
·
verified ·
1 Parent(s): 29c947e

Add helper function _get_en_fields() and reduce duplicated code

Browse files
tools/templates/universal_dependencies.tmpl CHANGED
@@ -125,22 +125,26 @@ def example_to_conllu(example: Dict, upos_names: Optional[list] = None) -> str:
125
  except (ValueError, KeyError):
126
  pass
127
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
128
  # Insert empty nodes that come before token 1 (e.g., 0.1, 0.2)
129
  for node_id in sorted(empty_nodes_dict.keys()):
130
  if node_id < 1:
131
  for empty_node in empty_nodes_dict[node_id]:
132
- en_fields = [
133
- empty_node.get('id', '_'),
134
- empty_node.get('form', '_'),
135
- empty_node.get('lemma', '_'),
136
- empty_node.get('upos', '_'),
137
- empty_node.get('xpos') or '_',
138
- empty_node.get('feats') or '_',
139
- empty_node.get('head', '_'),
140
- empty_node.get('deprel', '_'),
141
- empty_node.get('deps') or '_',
142
- empty_node.get('misc') or '_',
143
- ]
144
  lines.append('\t'.join(en_fields))
145
 
146
  # Build token lines
@@ -177,18 +181,7 @@ def example_to_conllu(example: Dict, upos_names: Optional[list] = None) -> str:
177
  for node_id in sorted(empty_nodes_dict.keys()):
178
  if int(node_id) == token_idx:
179
  for empty_node in empty_nodes_dict[node_id]:
180
- en_fields = [
181
- empty_node.get('id', '_'),
182
- empty_node.get('form', '_'),
183
- empty_node.get('lemma', '_'),
184
- empty_node.get('upos', '_'),
185
- empty_node.get('xpos') or '_',
186
- empty_node.get('feats') or '_',
187
- empty_node.get('head', '_'),
188
- empty_node.get('deprel', '_'),
189
- empty_node.get('deps') or '_',
190
- empty_node.get('misc') or '_',
191
- ]
192
  lines.append('\t'.join(en_fields))
193
 
194
  token_idx += 1
 
125
  except (ValueError, KeyError):
126
  pass
127
 
128
+ def _get_en_fields(empty_node):
129
+ en_fields = [
130
+ empty_node.get('id', '_'),
131
+ empty_node.get('form', '_'),
132
+ empty_node.get('lemma', '_'),
133
+ empty_node.get('upos', '_'),
134
+ empty_node.get('xpos') or '_',
135
+ empty_node.get('feats') or '_',
136
+ empty_node.get('head', '_'),
137
+ empty_node.get('deprel', '_'),
138
+ empty_node.get('deps') or '_',
139
+ empty_node.get('misc') or '_',
140
+ ]
141
+ return en_fields
142
+
143
  # Insert empty nodes that come before token 1 (e.g., 0.1, 0.2)
144
  for node_id in sorted(empty_nodes_dict.keys()):
145
  if node_id < 1:
146
  for empty_node in empty_nodes_dict[node_id]:
147
+ en_fields = _get_en_fields(empty_node)
 
 
 
 
 
 
 
 
 
 
 
148
  lines.append('\t'.join(en_fields))
149
 
150
  # Build token lines
 
181
  for node_id in sorted(empty_nodes_dict.keys()):
182
  if int(node_id) == token_idx:
183
  for empty_node in empty_nodes_dict[node_id]:
184
+ en_fields = _get_en_fields(empty_node)
 
 
 
 
 
 
 
 
 
 
 
185
  lines.append('\t'.join(en_fields))
186
 
187
  token_idx += 1