Datasets:

---

kimhammar

/

ccd

like 0

Error code:   DatasetGenerationCastError
Exception:    DatasetGenerationCastError
Message:      An error occurred while generating the dataset

All the data files must have the same columns, but at some point there are 9 new columns ({'V', 'P', 'W', 'G2', 'I', 'S', 'Ctil', 'C', 'Chat'}) and 196 missing columns ({'L_4_8_D', 'Ladm_1_D', 'NG1', 'L_1_1_U', 'L_1_9_U', 'NG3', 'Ctil_2_1_D', 'Ctil_2_2_U', 'L_3_6_U', 'Ctil_4_4_U', 'L_3_9_U', 'L_3_4_D', 'Uu2', 'Chat_4_4_D', 'T_1_D', 'Ctil_1_1_U', 'Ctil_3_2_U', 'C_3_U', 'AT1', 'L_1_9_D', 'L_3_3_D', 'Chat_4_1_D', 'L_3_7_D', 'L_3_4_U', 'L_4_7_D', 'Chat_3_2_D', 'Chat_1_2_U', 'T_2_D', 'C_2_D', 'Chat_2_2_D', 'Chat_2_2_U', 'Ctil_3_2_D', 'L_3_6_D', 'AT3', 'L_4_2_D', 'Cbar_2_D', 'Ctil_2_1_U', 'L_2_4_D', 'Cbar_4_U', 'L_2_3_U', 'Cbar_3_D', 'Ctil_3_1_U', 'L_1_3_D', 'Ctil_1_2_U', 'Ctil_3_4_D', 'L_1_2_D', 'L_3_10_D', 'C_3_D', 'Chat_3_1_U', 'L_1_3_U', 'L_2_5_U', 'L_2_10_D', 'L_1_7_U', 'Ctil_2_3_U', 'L_3_2_D', 'L_2_6_D', 'QI3', 'L_3_5_U', 'Ctil_2_4_D', 'Ctil_3_1_D', 'Ctil_4_2_D', 'L_1_4_D', 'E2', 'T_2_U', 'Ladm_3_U', 'C_1_U', 'T_4_U', 'Chat_3_1_D', 'L_4_2_U', 'Cbar_2_U', 'Chat_4_4_U', 'L_4_1_U', 'NG4', 'L_1_10_D', 'L_4_7_U', 'L_2_2_D', 'L_4_5_U', 'Ladm_2_D', 'Chat_1_1_U', 'Ctil_1_1_D', 'L_2_5_D', 'Chat_2_4_U', 'C_4_D', 'Chat_4_1_U', 'Ctil_3_3_D', 'L_2_1_U', 'L_3_1_D', 'Chat_1_4_D', 'L_3_3_U', 'Uu4', 'Ladm_3_D', 'Cbar_1_U', 'Chat_3_4_U', 'Ladm_4_U', 'A1', 'Chat_2_3_D', 'Chat_4_3_U', 'L_3_8_D', 'Chat_2_3_U', 'NG2', 'Cbar_1_D', 'L_2_9_U', 'L_3_10_U', 'QI2', 'L_1_5_D', 'Chat_4_3_D', 'Ctil_4_1_D', 'Chat_1_3_D', 'L_1_6_D', 'Ladm_4_D', 'Chat_2_1_U', 'C_2_U', 'Ctil_2_3_D', 'Ctil_2_4_U', 'L_4_9_U', 'L_2_2_U', 'QI4', 'L_4_1_D', 'T_4_D', 'L_2_7_U', 'L_2_9_D', 'L_4_6_U', 'L_1_10_U', 'C_1_D', 'L_3_2_U', 'L_3_5_D', 'L_2_4_U', 'Ctil_1_4_D', 'L_2_1_D', 'Ctil_1_4_U', 'Chat_3_4_D', 'Chat_1_2_D', 'Uu3', 'Chat_4_2_D', 'L_1_5_U', 'Chat_1_1_D', 'Ladm_2_U', 'L_2_8_D', 'L_4_10_D', 'Ctil_2_2_D', 'Ctil_4_3_D', 'Ctil_3_3_U', 'Chat_4_2_U', 'L_4_3_U', 'L_1_7_D', 'Cbar_3_U', 'L_4_4_U', 'T_3_D', 'AT4', 'Uu1', 'Ladm_1_U', 'T_1_U', 'L_3_8_U', 'L_2_10_U', 'Chat_2_4_D', 'Chat_3_3_D', 'L_3_1_U', 'L_4_6_D', 'Chat_3_3_U', 'Xn', 'Cbar_4_D', 'Ctil_4_4_D', 'L_1_6_U', 'L_4_4_D', 'Chat_2_1_D', 'L_2_7_D', 'L_1_8_D', 'L_3_9_D', 'Ctil_4_1_U', 'L_4_9_D', 'Chat_1_4_U', 'Ctil_4_3_U', 'Chat_3_2_U', 'L_2_6_U', 'AT2', 'Ctil_3_4_U', 'C_4_U', 'L_3_7_U', 'Ctil_1_3_U', 'L_4_10_U', 'Chat_1_3_U', 'Ctil_4_2_U', 'L_2_8_U', 'L_1_4_U', 'L_4_3_D', 'L_1_8_U', 'Ctil_1_2_D', 'L_2_3_D', 'L_4_8_U', 'QI1', 'T_3_U', 'N6', 'L_1_2_U', 'Ctil_1_3_D', 'L_1_1_D', 'L_4_5_D'}).

This happened while the csv dataset builder was generating data using

hf://datasets/kimhammar/ccd/ics.csv (at revision 053262c37d3edd226b6f8b2a72f691ac93bcb401), ['hf://datasets/kimhammar/ccd@053262c37d3edd226b6f8b2a72f691ac93bcb401/5g_ran.csv', 'hf://datasets/kimhammar/ccd@053262c37d3edd226b6f8b2a72f691ac93bcb401/ics.csv', 'hf://datasets/kimhammar/ccd@053262c37d3edd226b6f8b2a72f691ac93bcb401/it_system.csv']

Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1837, in _prepare_split_single
                  writer.write_table(table)
                  ~~~~~~~~~~~~~~~~~~^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/arrow_writer.py", line 765, in write_table
                  self._write_table(pa_table, writer_batch_size=writer_batch_size)
                  ~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/arrow_writer.py", line 773, in _write_table
                  pa_table = table_cast(pa_table, self._schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2369, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2297, in cast_table_to_schema
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              C: double
              Chat: double
              Ctil: double
              G2: double
              I: double
              P: double
              S: double
              V: double
              W: double
              window: double
              t_start: double
              duration: double
              demand: double
              -- schema metadata --
              pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 1678
              to
              {'A1': Value('float64'), 'AT1': Value('float64'), 'AT2': Value('float64'), 'AT3': Value('float64'), 'AT4': Value('float64'), 'C_1_D': Value('float64'), 'C_1_U': Value('float64'), 'C_2_D': Value('float64'), 'C_2_U': Value('float64'), 'C_3_D': Value('float64'), 'C_3_U': Value('float64'), 'C_4_D': Value('float64'), 'C_4_U': Value('float64'), 'Cbar_1_D': Value('float64'), 'Cbar_1_U': Value('float64'), 'Cbar_2_D': Value('float64'), 'Cbar_2_U': Value('float64'), 'Cbar_3_D': Value('float64'), 'Cbar_3_U': Value('float64'), 'Cbar_4_D': Value('float64'), 'Cbar_4_U': Value('float64'), 'Chat_1_1_D': Value('float64'), 'Chat_1_1_U': Value('float64'), 'Chat_1_2_D': Value('float64'), 'Chat_1_2_U': Value('float64'), 'Chat_1_3_D': Value('float64'), 'Chat_1_3_U': Value('float64'), 'Chat_1_4_D': Value('float64'), 'Chat_1_4_U': Value('float64'), 'Chat_2_1_D': Value('float64'), 'Chat_2_1_U': Value('float64'), 'Chat_2_2_D': Value('float64'), 'Chat_2_2_U': Value('float64'), 'Chat_2_3_D': Value('float64'), 'Chat_2_3_U': Value('float64'), 'Chat_2_4_D': Value('float64'), 'Chat_2_4_U': Value('float64'), 'Chat_3_1_D': Value('float64'), 'Chat_3_1_U': Value('float64'), 'Chat_3_2_D': Value('float64'), 'Chat_3_2_U': Value('float64'), 'Chat_3_3_D': Value('float64'), 'Chat_3_3_U': Value('float64'), 'Chat_3_4_D': Value('float64'), 'Chat_3_4_U': Value('float64'), 'Chat_4_1_D': Value('float64'), 'Chat_4_1_U': Value('float64'), 'Chat_4_2_D': Value('float64'), 'Chat_4_2_U': Value('float64'), 'Chat_4_3_D': Value('fl
              ...
              'L_4_10_D': Value('float64'), 'L_4_10_U': Value('float64'), 'L_4_1_D': Value('float64'), 'L_4_1_U': Value('float64'), 'L_4_2_D': Value('float64'), 'L_4_2_U': Value('float64'), 'L_4_3_D': Value('float64'), 'L_4_3_U': Value('float64'), 'L_4_4_D': Value('float64'), 'L_4_4_U': Value('float64'), 'L_4_5_D': Value('float64'), 'L_4_5_U': Value('float64'), 'L_4_6_D': Value('float64'), 'L_4_6_U': Value('float64'), 'L_4_7_D': Value('float64'), 'L_4_7_U': Value('float64'), 'L_4_8_D': Value('float64'), 'L_4_8_U': Value('float64'), 'L_4_9_D': Value('float64'), 'L_4_9_U': Value('float64'), 'Ladm_1_D': Value('float64'), 'Ladm_1_U': Value('float64'), 'Ladm_2_D': Value('float64'), 'Ladm_2_U': Value('float64'), 'Ladm_3_D': Value('float64'), 'Ladm_3_U': Value('float64'), 'Ladm_4_D': Value('float64'), 'Ladm_4_U': Value('float64'), 'N6': Value('float64'), 'NG1': Value('float64'), 'NG2': Value('float64'), 'NG3': Value('float64'), 'NG4': Value('float64'), 'QI1': Value('float64'), 'QI2': Value('float64'), 'QI3': Value('float64'), 'QI4': Value('float64'), 'T_1_D': Value('float64'), 'T_1_U': Value('float64'), 'T_2_D': Value('float64'), 'T_2_U': Value('float64'), 'T_3_D': Value('float64'), 'T_3_U': Value('float64'), 'T_4_D': Value('float64'), 'T_4_U': Value('float64'), 'Uu1': Value('float64'), 'Uu2': Value('float64'), 'Uu3': Value('float64'), 'Uu4': Value('float64'), 'Xn': Value('float64'), 'window': Value('float64'), 't_start': Value('float64'), 'duration': Value('float64'), 'demand': Value('float64')}
              because column names don't match
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
                  parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
                                                                        ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      builder, max_dataset_size_bytes=max_dataset_size_bytes
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
                  builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
                  ~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1683, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                                               ~~~~~~~~~~~~~~~~~~~~~~~~~~^
                      gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  ):
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1839, in _prepare_split_single
                  raise DatasetGenerationCastError.from_cast_error(
                  ...<4 lines>...
                  )
              datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
              
              All the data files must have the same columns, but at some point there are 9 new columns ({'V', 'P', 'W', 'G2', 'I', 'S', 'Ctil', 'C', 'Chat'}) and 196 missing columns ({'L_4_8_D', 'Ladm_1_D', 'NG1', 'L_1_1_U', 'L_1_9_U', 'NG3', 'Ctil_2_1_D', 'Ctil_2_2_U', 'L_3_6_U', 'Ctil_4_4_U', 'L_3_9_U', 'L_3_4_D', 'Uu2', 'Chat_4_4_D', 'T_1_D', 'Ctil_1_1_U', 'Ctil_3_2_U', 'C_3_U', 'AT1', 'L_1_9_D', 'L_3_3_D', 'Chat_4_1_D', 'L_3_7_D', 'L_3_4_U', 'L_4_7_D', 'Chat_3_2_D', 'Chat_1_2_U', 'T_2_D', 'C_2_D', 'Chat_2_2_D', 'Chat_2_2_U', 'Ctil_3_2_D', 'L_3_6_D', 'AT3', 'L_4_2_D', 'Cbar_2_D', 'Ctil_2_1_U', 'L_2_4_D', 'Cbar_4_U', 'L_2_3_U', 'Cbar_3_D', 'Ctil_3_1_U', 'L_1_3_D', 'Ctil_1_2_U', 'Ctil_3_4_D', 'L_1_2_D', 'L_3_10_D', 'C_3_D', 'Chat_3_1_U', 'L_1_3_U', 'L_2_5_U', 'L_2_10_D', 'L_1_7_U', 'Ctil_2_3_U', 'L_3_2_D', 'L_2_6_D', 'QI3', 'L_3_5_U', 'Ctil_2_4_D', 'Ctil_3_1_D', 'Ctil_4_2_D', 'L_1_4_D', 'E2', 'T_2_U', 'Ladm_3_U', 'C_1_U', 'T_4_U', 'Chat_3_1_D', 'L_4_2_U', 'Cbar_2_U', 'Chat_4_4_U', 'L_4_1_U', 'NG4', 'L_1_10_D', 'L_4_7_U', 'L_2_2_D', 'L_4_5_U', 'Ladm_2_D', 'Chat_1_1_U', 'Ctil_1_1_D', 'L_2_5_D', 'Chat_2_4_U', 'C_4_D', 'Chat_4_1_U', 'Ctil_3_3_D', 'L_2_1_U', 'L_3_1_D', 'Chat_1_4_D', 'L_3_3_U', 'Uu4', 'Ladm_3_D', 'Cbar_1_U', 'Chat_3_4_U', 'Ladm_4_U', 'A1', 'Chat_2_3_D', 'Chat_4_3_U', 'L_3_8_D', 'Chat_2_3_U', 'NG2', 'Cbar_1_D', 'L_2_9_U', 'L_3_10_U', 'QI2', 'L_1_5_D', 'Chat_4_3_D', 'Ctil_4_1_D', 'Chat_1_3_D', 'L_1_6_D', 'Ladm_4_D', 'Chat_2_1_U', 'C_2_U', 'Ctil_2_3_D', 'Ctil_2_4_U', 'L_4_9_U', 'L_2_2_U', 'QI4', 'L_4_1_D', 'T_4_D', 'L_2_7_U', 'L_2_9_D', 'L_4_6_U', 'L_1_10_U', 'C_1_D', 'L_3_2_U', 'L_3_5_D', 'L_2_4_U', 'Ctil_1_4_D', 'L_2_1_D', 'Ctil_1_4_U', 'Chat_3_4_D', 'Chat_1_2_D', 'Uu3', 'Chat_4_2_D', 'L_1_5_U', 'Chat_1_1_D', 'Ladm_2_U', 'L_2_8_D', 'L_4_10_D', 'Ctil_2_2_D', 'Ctil_4_3_D', 'Ctil_3_3_U', 'Chat_4_2_U', 'L_4_3_U', 'L_1_7_D', 'Cbar_3_U', 'L_4_4_U', 'T_3_D', 'AT4', 'Uu1', 'Ladm_1_U', 'T_1_U', 'L_3_8_U', 'L_2_10_U', 'Chat_2_4_D', 'Chat_3_3_D', 'L_3_1_U', 'L_4_6_D', 'Chat_3_3_U', 'Xn', 'Cbar_4_D', 'Ctil_4_4_D', 'L_1_6_U', 'L_4_4_D', 'Chat_2_1_D', 'L_2_7_D', 'L_1_8_D', 'L_3_9_D', 'Ctil_4_1_U', 'L_4_9_D', 'Chat_1_4_U', 'Ctil_4_3_U', 'Chat_3_2_U', 'L_2_6_U', 'AT2', 'Ctil_3_4_U', 'C_4_U', 'L_3_7_U', 'Ctil_1_3_U', 'L_4_10_U', 'Chat_1_3_U', 'Ctil_4_2_U', 'L_2_8_U', 'L_1_4_U', 'L_4_3_D', 'L_1_8_U', 'Ctil_1_2_D', 'L_2_3_D', 'L_4_8_U', 'QI1', 'T_3_U', 'N6', 'L_1_2_U', 'Ctil_1_3_D', 'L_1_1_D', 'L_4_5_D'}).
              
              This happened while the csv dataset builder was generating data using
              
              hf://datasets/kimhammar/ccd/ics.csv (at revision 053262c37d3edd226b6f8b2a72f691ac93bcb401), ['hf://datasets/kimhammar/ccd@053262c37d3edd226b6f8b2a72f691ac93bcb401/5g_ran.csv', 'hf://datasets/kimhammar/ccd@053262c37d3edd226b6f8b2a72f691ac93bcb401/ics.csv', 'hf://datasets/kimhammar/ccd@053262c37d3edd226b6f8b2a72f691ac93bcb401/it_system.csv']
              
              Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)