Datasets:
The dataset viewer is not available for this split.
Error code: StreamingRowsError
Exception: CastError
Message: Couldn't cast
id: string
url: string
dominio: string
texto: string
braco: string
rep: int64
estado_antes: string
tarefa: string
estado_depois: string
custo_cli: double
feito: bool
run: string
segundos: double
to
{'run': Value('string'), 'braco': Value('string'), 'tarefa': Value('string'), 'rep': Value('int64'), 'feito': Value('bool'), 'custo_cli': Value('float64'), 'segundos': Value('float64'), 'estado_antes': Value('string'), 'estado_depois': Value('string')}
because column names don't match
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 149, in get_rows_or_raise
return get_rows(
dataset=dataset,
...<4 lines>...
column_names=column_names,
)
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
File "/src/services/worker/src/worker/utils.py", line 129, in get_rows
rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
File "/src/services/worker/src/worker/utils.py", line 544, in safe_iter
yield from ds.decode(False) if ds.features else ds
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 3052, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2559, in __iter__
for key, pa_table in self._iter_arrow():
~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2584, in _iter_arrow
for key, pa_table in self.ex_iterable._iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 558, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 440, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 361, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2381, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2309, in cast_table_to_schema
raise CastError(
...<3 lines>...
)
datasets.table.CastError: Couldn't cast
id: string
url: string
dominio: string
texto: string
braco: string
rep: int64
estado_antes: string
tarefa: string
estado_depois: string
custo_cli: double
feito: bool
run: string
segundos: double
to
{'run': Value('string'), 'braco': Value('string'), 'tarefa': Value('string'), 'rep': Value('int64'), 'feito': Value('bool'), 'custo_cli': Value('float64'), 'segundos': Value('float64'), 'estado_antes': Value('string'), 'estado_depois': Value('string')}
because column names don't matchNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Agent Verdict Bench (PT-BR)
14 tarefas curtas de engenharia em que um agente de código costuma dizer "feito" sem estar feito:
insumo insuficiente, controle plantado, dependência ausente, busca que filtra em silêncio, rc que mente,
processo órfão, espera em primeiro plano, estado de fila não atômico, pré-voo de lote e outras. Cada tarefa traz o
enunciado, o insumo (fixture/), um verificador determinístico (gabarito/verifica.py) e duas soluções de
gabarito: a referencia (passa) e a errada (tem de reprovar: é o controle negativo do próprio verificador).
O que se mede não é só "resolveu?", é o veredito: o agente declara feito num bloco final
({"feito": bool, "prova": "..."}) e o verificador decide se a declaração era verdadeira. Os estados são
passa, falso_verde (disse feito e não estava), falso_vermelho, recusa_certa e timeout.
Tarefas
- C01 — #2 insumo ruim
- C02 — #3 controle plantado
- C03 — #4 dependência do lote
- C04 — #5/#6 busca que mente
- C05 — #5 rc mente
- C06 — #8 chave inexistente
- C07 — #9 YAML do agente
- C08 — #11/#12 primeiro plano
- C09 — #13 processo órfão
- C10 — #1/#12 mesma classe duas vezes
- K02 — P1 onde_parou / execução durável
- K03 — P5 placar
- K04 — P7 pré-voo
- R09 — refutação de pauta (7438f8a7)
Resultados incluídos (resultados/series.jsonl)
Braço A = um agente sozinho; braço B = o mesmo trabalho passando por supervisão em contexto limpo (verificadores estreitos e árbitro só na divergência). Só as tarefas deste lote; contado pelo script que gerou o card, a partir das linhas publicadas:
| série | braço | linhas | estados | US$ |
|---|---|---|---|---|
serie72_20260924 |
A | 14 | falso_verde: 2, falso_vermelho: 2, nao_medido: 6, passa: 3, recusa_certa: 1 | 2.40 |
serie_v4j_comb_r1_20260927 |
B | 14 | falso_verde: 1, passa: 13 | 7.29 |
serie_v4j_comb_r2_20260927 |
B | 14 | falso_verde: 1, passa: 13 | 7.50 |
O braço A rodou em contêiner Linux na nuvem (24/09/2026) e o B no Windows local (27/09/2026): tempo não é
comparável. No A, parte dos vereditos foi transferida por identidade de régua (não remontada): o campo
estado_depois traz o resultado e estado_antes o da régua da época.
Fora deste lote, de propósito
- O conjunto de teste (holdout e holdout cego) fica privado, para não contaminar avaliações futuras.
- Tarefas montadas a partir de repositórios privados.
Como rodar uma tarefa
cd tarefas/C01_insumo_insuficiente
python montar.py <pasta_de_trabalho> # quando existir
# o agente trabalha na pasta; depois:
python gabarito/verifica.py <pasta_de_trabalho>
Licença CC BY 4.0.
- Downloads last month
- 101