Hugging Face's logo

Datasets:
richmondsin
/
arc_ru_results

Dataset card Data Studio Files
xet
 Community
Dataset Preview
Duplicate
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code:   DatasetGenerationError
Exception:    TypeError
Message:      Couldn't cast array of type string to null
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1870, in _prepare_split_single
                  writer.write_table(table)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 622, in write_table
                  pa_table = table_cast(pa_table, self._schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2292, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2245, in cast_table_to_schema
                  arrays = [
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2246, in <listcomp>
                  cast_array_to_feature(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 1795, in wrapper
                  return pa.chunked_array([func(chunk, *args, **kwargs) for chunk in array.chunks])
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 1795, in <listcomp>
                  return pa.chunked_array([func(chunk, *args, **kwargs) for chunk in array.chunks])
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2005, in cast_array_to_feature
                  arrays = [
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2006, in <listcomp>
                  _c(array.field(name) if name in array_fields else null_array, subfeature)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 1797, in wrapper
                  return func(array, *args, **kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2102, in cast_array_to_feature
                  return array_cast(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 1797, in wrapper
                  return func(array, *args, **kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 1948, in array_cast
                  raise TypeError(f"Couldn't cast array of type {_short_str(array.type)} to {_short_str(pa_type)}")
              TypeError: Couldn't cast array of type string to null
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1417, in compute_config_parquet_and_info_response
                  parquet_operations = convert_to_parquet(builder)
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1049, in convert_to_parquet
                  builder.download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 924, in download_and_prepare
                  self._download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1000, in _download_and_prepare
                  self._prepare_split(split_generator, **prepare_split_kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1741, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1897, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

doc_id
int64
doc
dict
target
string
arguments
dict
resps
sequence
filtered_resps
sequence
filter
string
metrics
sequence
doc_hash
string
prompt_hash
string
target_hash
string
acc
float64
acc_norm
float64
0
{ "id": "ARC-Challenge/test/ACTAAP_2007_7_3", "answer": "D", "instruction": "Студент исследует температуру, при которой происходит испарение. Какое утверждение лучше всего показывает, что произошло испарение?", "option_a": "Дождь падает с неба.", "option_b": "Небо чистое от облаков.", "option_c": "На траве ...
3
{ "gen_args_0": { "arg_0": "Question: Элли выращивает огород. В какое время года растения в саду Элли получают больше всей энергии от Солнца для роста?\nAnswer: лето\n\nQuestion: Мяч бросают с разных высот. Когда мяч бросают с наибольшей высоты, при падении он производит наибольший шум или вибрацию. Какое объясне...
[ [ [ "-14.218481063842773", "False" ] ], [ [ "-22.915864944458008", "False" ] ], [ [ "-19.201412200927734", "False" ] ], [ [ "-41.78627014160156", "False" ] ] ]
[ [ "-14.218481063842773", "False" ], [ "-22.915864944458008", "False" ], [ "-19.201412200927734", "False" ], [ "-41.78627014160156", "False" ] ]
none
[ "acc", "acc_norm" ]
7bf7dade905a5154a42ba4cdf3a760a59d21212fd2b69b93b027fff045b9678d
eb6b93ed2764be6374d9c04209d1c403677e25ac0e3c8b38fcf576ccfa492286
4e07408562bedb8b60ce05c1decfe3ad16b72230967de01f640b7e4729b49fce
0
0
1
{ "id": "ARC-Challenge/test/ACTAAP_2007_7_31", "answer": "C", "instruction": "Как научно определить самое тихое место для учебы в вашей школе?", "option_a": "Спросите директора, где лучшее место для учебы.", "option_b": "Проведите опрос среди студентов, чтобы узнать, где им нравится учиться.", "option_c": "...
2
{ "gen_args_0": { "arg_0": "Question: Какое действие, скорее всего, является изученным поведением?\nAnswer: Львенок тренирует свои охотничьи навыки.\n\nQuestion: Дон принесла шоколадку на ланч, но она растаяла в её рюкзаке. Дон хочет провести научное исследование, чтобы выяснить причины растопления её шоколадки. ...
[ [ [ "-27.826335906982422", "False" ] ], [ [ "-24.790386199951172", "False" ] ], [ [ "-32.272159576416016", "False" ] ], [ [ "-50.23164749145508", "False" ] ] ]
[ [ "-27.826335906982422", "False" ], [ "-24.790386199951172", "False" ], [ "-32.272159576416016", "False" ], [ "-50.23164749145508", "False" ] ]
none
[ "acc", "acc_norm" ]
e0aae52aa5848cfc73c2ddb2b347cf7db577fb880fb2623081812c90bf93ff05
eb632cd31348101cd923755a9eb92b09087ba3119b4b2d2a60fd0800ef350933
d4735e3a265e16eee03f59718b9b5d03019c07d8b6c51f90da3a666eec13ab35
0
0
2
{ "id": "ARC-Challenge/test/ACTAAP_2007_7_36", "answer": "C", "instruction": "Какой из этих природных ресурсов может быть возобновляемым и пополняться самостоятельно за определенный период времени?", "option_a": "нефть", "option_b": "уголь", "option_c": "деревья", "option_d": "природный газ", "option_e"...
2
{ "gen_args_0": { "arg_0": "Question: Одно из важных отличий между живыми и неживыми вещами заключается в том, что только у живых вещей есть\nAnswer: клетки\n\nQuestion: Какой из нижеперечисленных пунктов является возможным недостатком использования проточной воды для производства электроэнергии?\nAnswer: ущерб э...
[ [ [ "-4.363558769226074", "False" ] ], [ [ "-6.7023138999938965", "False" ] ], [ [ "-4.493006706237793", "False" ] ], [ [ "-7.136853218078613", "False" ] ] ]
[ [ "-4.363558769226074", "False" ], [ "-6.7023138999938965", "False" ], [ "-4.493006706237793", "False" ], [ "-7.136853218078613", "False" ] ]
none
[ "acc", "acc_norm" ]
36a06bef29eec9ad4a8e45753caeb553a061c55acae99ad4ded0917ee1d3b043
0f2b63fbd5089f81eced1a26314c61060be00e4fa112f8dc699ff2a67a64476e
d4735e3a265e16eee03f59718b9b5d03019c07d8b6c51f90da3a666eec13ab35
0
0
3
{ "id": "ARC-Challenge/test/ACTAAP_2008_5_10", "answer": "D", "instruction": "Какой наилучший вывод можно сделать после обнаружения ископаемых пресноводной рыбы в пустынном районе?", "option_a": "Рыба мигрировала из океана", "option_b": "Рыба была неспособна к размножению", "option_c": "В этом районе раньше...
3
{ "gen_args_0": { "arg_0": "Question: Сера (S), кислород (O2), вода (H2O) и хлорид натрия (NaCl) являются примерами чистых веществ. Какое из следующего описывает все чистые вещества?\nAnswer: Чистое вещество имеет определенный химический состав.\n\nQuestion: Студент организует комнату. Она переносит коробку с пол...
[ [ [ "-17.67989730834961", "False" ] ], [ [ "-22.604915618896484", "False" ] ], [ [ "-18.181804656982422", "False" ] ], [ [ "-15.356718063354492", "False" ] ] ]
[ [ "-17.67989730834961", "False" ], [ "-22.604915618896484", "False" ], [ "-18.181804656982422", "False" ], [ "-15.356718063354492", "False" ] ]
none
[ "acc", "acc_norm" ]
1fe858297fd0f4d26e3d98d6dc0c9c49ebf971eaf953079bac753ea3a65b98e5
5d29729706bc22537e0cc7192d6097e5a30d4e19e5086c199ef9619484ad799b
4e07408562bedb8b60ce05c1decfe3ad16b72230967de01f640b7e4729b49fce
1
1
4
{ "id": "ARC-Challenge/test/ACTAAP_2008_7_4", "answer": "B", "instruction": "Студент исследует второй закон Ньютона изменяя силу, действующую на объект, и наблюдая за его ускорением. Если сила на объект увеличится в 4 раза, на сколько увеличится ускорение?", "option_a": "2 раза", "option_b": "4 раза", "opti...
1
{ "gen_args_0": { "arg_0": "Question: Одно из свойств жидкостей заключается в том, что они имеют определенный\nAnswer: объем\n\nQuestion: Что отличает организмы в царстве Грибы от других эукариотных организмов?\nAnswer: Грибы получают питательные вещества путем всасывания.\n\nQuestion: Какая характеристика присущ...
[ [ [ "-4.146697044372559", "False" ] ], [ [ "-1.753412127494812", "False" ] ], [ [ "-5.10890007019043", "False" ] ], [ [ "-5.1599602699279785", "False" ] ] ]
[ [ "-4.146697044372559", "False" ], [ "-1.753412127494812", "False" ], [ "-5.10890007019043", "False" ], [ "-5.1599602699279785", "False" ] ]
none
[ "acc", "acc_norm" ]
ee03c043a3c56381c14dc64e54fe8ebc7a021b802852c8b0d540a77b80e06512
b473522816e3ff34840360cb0d6b717af58c86864145bd29e1ba07c34a70016a
6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b
1
1
5
{ "id": "ARC-Challenge/test/ACTAAP_2009_5_12", "answer": "B", "instruction": "Студент показывает фонариком на различные цвета бумаги. Какой цвет бумаги поглотит больше всего света?", "option_a": "Красный", "option_b": "Черный", "option_c": "Белый", "option_d": "Желтый", "option_e": null, "query": "Que...
1
{ "gen_args_0": { "arg_0": "Question: Хотя изменения в многоклеточных видов обычно занимают тысячи лет, некоторые виды бактерий проходят крупные изменения всего за несколько лет. Одной из причин такой разницы является то, что эти бактерии\nAnswer: очень быстро размножаются\n\nQuestion: Какой из описанных ниже обр...
[ [ [ "-3.8146228790283203", "False" ] ], [ [ "-4.9123759269714355", "False" ] ], [ [ "-5.260778903961182", "False" ] ], [ [ "-6.648671627044678", "False" ] ] ]
[ [ "-3.8146228790283203", "False" ], [ "-4.9123759269714355", "False" ], [ "-5.260778903961182", "False" ], [ "-6.648671627044678", "False" ] ]
none
[ "acc", "acc_norm" ]
ab5f14143ad4e57894c2bbc25351f008706ceab3917d5e857c2690f143eaa0e5
e3f46fc525555908dfdab961e8313466d150d8d4eefb8e7bed38a063a0ffbf52
6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b
0
0
6
{ "id": "ARC-Challenge/test/ACTAAP_2009_5_8", "answer": "B", "instruction": "Какая часть клетки имеется в растительных клетках, но отсутствует в животных?", "option_a": "ядро", "option_b": "клеточная стенка", "option_c": "цитоплазма", "option_d": "клеточная мембрана", "option_e": null, "query": "Quest...
1
{ "gen_args_0": { "arg_0": "Question: Комбинация процессов происходит во время формирования звезд. Какой из перечисленных процессов, скорее всего, ассоциируется с образованием новых звезд?\nAnswer: Накапливается материал от умерших звезд.\n\nQuestion: Коза получает энергию от травы, которую она ест. Откуда получа...
[ [ [ "-3.7959141731262207", "False" ] ], [ [ "-3.677978277206421", "False" ] ], [ [ "-4.779379844665527", "False" ] ], [ [ "-6.913843154907227", "False" ] ] ]
[ [ "-3.7959141731262207", "False" ], [ "-3.677978277206421", "False" ], [ "-4.779379844665527", "False" ], [ "-6.913843154907227", "False" ] ]
none
[ "acc", "acc_norm" ]
a1d1c420334db2559781a3e760eb9e8aa8fab4cfe954c88ddbf950e32b427c66
eb55ed76a77d9ee37f9c76cd9eadd5cdb2b89c1da3fdd012a36acc9606af37d9
6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b
1
1
7
{ "id": "ARC-Challenge/test/ACTAAP_2009_7_8", "answer": "D", "instruction": "Какое из следующих утверждений является научной гипотезой?", "option_a": "Чистка зубов нашла эффективное применение в улучшении здоровья полости рта.", "option_b": "Многие инфекционные заболевания, такие как заболевания десен, вызван...
3
{ "gen_args_0": { "arg_0": "Question: Какое измерение описывает движение резинового мяча?\nAnswer: 10 м/с\n\nQuestion: Какое сравнение экосистем верно?\nAnswer: Луга получают больше дождя, чем пустыни.\n\nQuestion: Какой из следующих вариантов лучше всего определяет инфекционные заболевания?\nAnswer: Они передают...
[ [ [ "-51.14656448364258", "False" ] ], [ [ "-49.040550231933594", "False" ] ], [ [ "-61.66731643676758", "False" ] ], [ [ "-52.240177154541016", "False" ] ] ]
[ [ "-51.14656448364258", "False" ], [ "-49.040550231933594", "False" ], [ "-61.66731643676758", "False" ], [ "-52.240177154541016", "False" ] ]
none
[ "acc", "acc_norm" ]
d0a7bf90c08b223db4486b79808324d8a595e73f68f94c0fad8bb1a89d56b591
f6c597ca1689cb912f7cc44d5a29ef7e7a97083e312bbb7217bb0fd6dd8a3ab9
4e07408562bedb8b60ce05c1decfe3ad16b72230967de01f640b7e4729b49fce
0
1
8
{ "id": "ARC-Challenge/test/ACTAAP_2010_5_1", "answer": "A", "instruction": "В одном слое породы были найдены следы ископаемых недалеко друг от друга - рыбы и динозавра, живших на суше. Какое объяснение этому наиболее вероятно?", "option_a": "Рыба и динозавр оба жили на берегу.", "option_b": "Рыбу занесло вгл...
0
{ "gen_args_0": { "arg_0": "Question: Все перечисленные варианты являются примерами взаимодействия Земли и Луны, кроме\nAnswer: сезонов на Земле.\n\nQuestion: Сэм перечислял отличия между эугленой и парамецием. Какая характеристика не должна входить в список Сэма?\nAnswer: только эуглена имеет определенную форму\...
[ [ [ "-22.986713409423828", "False" ] ], [ [ "-39.109649658203125", "False" ] ], [ [ "-22.464584350585938", "False" ] ], [ [ "-35.90605163574219", "False" ] ] ]
[ [ "-22.986713409423828", "False" ], [ "-39.109649658203125", "False" ], [ "-22.464584350585938", "False" ], [ "-35.90605163574219", "False" ] ]
none
[ "acc", "acc_norm" ]
c0c0005e03abba14f0dd1311b6d35b130eb3a9a063593380dc4f31442c3b91fd
6699abd18e90d33de98ca4d157d53fb4c4ad32ae62beb28291b4ab390f014c98
5feceb66ffc86f38d952786c6d696c79c2dbc239dd4e91b46729d73a27fb57e9
0
0
9
{ "id": "ARC-Challenge/test/ACTAAP_2010_5_7", "answer": "B", "instruction": "К веществу было применено тепло. Сначала вещество расширилось, а затем растаяло. В каком состоянии вещество начиналось?", "option_a": "Газ", "option_b": "Твердое тело", "option_c": "Жидкость", "option_d": "Плазма", "option_e": ...
1
{ "gen_args_0": { "arg_0": "Question: Фелиция заметила, что температура воздуха становится прохладнее, и количество часов дневного света сокращается в некоторые сезоны. Что из следующего вносит свой вклад в эти сезонные изменения?\nAnswer: Земля вращается вокруг Солнца.\n\nQuestion: Студенты приготовили лимонад п...
[ [ [ "-9.412480354309082", "False" ] ], [ [ "-12.01044750213623", "False" ] ], [ [ "-6.735730171203613", "False" ] ], [ [ "-13.973865509033203", "False" ] ] ]
[ [ "-9.412480354309082", "False" ], [ "-12.01044750213623", "False" ], [ "-6.735730171203613", "False" ], [ "-13.973865509033203", "False" ] ]
none
[ "acc", "acc_norm" ]
7a0bc9949127093c27029738f9774624c6c9a7ba576c04dc19d722a85cbf8a44
8ae5f0922462233b7700767630998f3ebde5ca0c087b37ca446be9977c8dc407
6b86b273ff34fce19d6b804eff5a3f5747ada4eaa22f1d49c01e52ddb7875b4b
0
0
10
{ "id": "ARC-Challenge/test/ACTAAP_2010_7_12", "answer": "D", "instruction": "Каждый ученик в научном классе миссис Джордан получил колбу, содержащую несколько веществ, которые были тщательно перемешаны. Максвелл должен классифицировать содержимое своей колбы как соединение или смесь. Какое из следующих утвержден...
3
{ "gen_args_0": { "arg_0": "Question: Лора готовилась к тому, чтобы катить боулинг-шар по дорожке. Она отбросила шар назад своей рукой. В верхней точке ее отброса скорость шара была равна 0 метров в секунду (м/с). Она размахивала рукой вперед, чтобы отпустить шар по дорожке. Шар покинул ее руку со скоростью 12 м/...
[ [ [ "-25.823829650878906", "False" ] ], [ [ "-20.100982666015625", "False" ] ], [ [ "-39.83121109008789", "False" ] ], [ [ "-23.73061752319336", "False" ] ] ]
[ [ "-25.823829650878906", "False" ], [ "-20.100982666015625", "False" ], [ "-39.83121109008789", "False" ], [ "-23.73061752319336", "False" ] ]
none
[ "acc", "acc_norm" ]
d4295c7c47a8b9daf4a943ba215a9624b0ce47f0df29238b4ceaa77ebb73533b
d13262d3d804f5e728361c2f92b6b95c5d2a010a2bce4c0527e5e9f3f68db52b
4e07408562bedb8b60ce05c1decfe3ad16b72230967de01f640b7e4729b49fce
0
0
End of preview.

Dataset Card for Evaluation run of google/gemma-2-2b

Dataset automatically created during the evaluation run of model google/gemma-2-2b The dataset is composed of 0 configuration(s), each one corresponding to one of the evaluated task.

The dataset has been created from 2 run(s). Each run can be found as a specific split in each configuration, the split being named using the timestamp of the run.The "train" split is always pointing to the latest results.

An additional configuration "results" store all the aggregated results of the run.

To load the details from a run, you can for instance do the following:

from datasets import load_dataset
data = load_dataset(
    "richmondsin/arc_ru_results",
    name="google__gemma-2-2b__arc_ru",
    split="latest"
)

Latest results

These are the latest results from run 2024-12-01T10-36-50.721258 (note that there might be results for other tasks in the repos if successive evals didn't cover the same tasks. You find each in the results and the "latest" split for each eval):

{
    "all": {
        "arc_ru": {
            "alias": "arc_ru",
            "acc,none": 0.3503584229390681,
            "acc_stderr,none": 0.014287483889322104,
            "acc_norm,none": 0.3790322580645161,
            "acc_norm_stderr,none": 0.014528981564492822
        }
    },
    "arc_ru": {
        "alias": "arc_ru",
        "acc,none": 0.3503584229390681,
        "acc_stderr,none": 0.014287483889322104,
        "acc_norm,none": 0.3790322580645161,
        "acc_norm_stderr,none": 0.014528981564492822
    }
}

Dataset Details

Dataset Description

  • Curated by: [More Information Needed]
  • Funded by [optional]: [More Information Needed]
  • Shared by [optional]: [More Information Needed]
  • Language(s) (NLP): [More Information Needed]
  • License: [More Information Needed]

Dataset Sources [optional]

  • Repository: [More Information Needed]
  • Paper [optional]: [More Information Needed]
  • Demo [optional]: [More Information Needed]

Uses

Direct Use

[More Information Needed]

Out-of-Scope Use

[More Information Needed]

Dataset Structure

[More Information Needed]

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

Data Collection and Processing

[More Information Needed]

Who are the source data producers?

[More Information Needed]

Annotations [optional]

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Bias, Risks, and Limitations

[More Information Needed]

Recommendations

Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations.

Citation [optional]

BibTeX:

[More Information Needed]

APA:

[More Information Needed]

Glossary [optional]

[More Information Needed]

More Information [optional]

[More Information Needed]

Dataset Card Authors [optional]

[More Information Needed]

Dataset Card Contact

[More Information Needed]
Downloads last month
3
Total file size:
17.9 MB