{
  "rows": 34709,
  "unique_queries": 18597,
  "structural_errors": {},
  "structural_error_samples": {},
  "labels": {
    "tool_call": 26450,
    "MISSING_ARGUMENT": 3422,
    "OUT_OF_SCOPE": 2446,
    "FALSE_PREMISE": 2391
  },
  "refusal_share": 0.2379,
  "refusal_share_ok": true,
  "tools_covered": 95,
  "eval_dirs": [
    "tasks"
  ],
  "eval_queries_checked": 630,
  "eval_queries_by_dir": {
    "tasks": 400
  },
  "eval_exact_overlap": 0,
  "eval_near_overlap": 0,
  "eval_near_threshold": 0.7,
  "eval_exact_samples": [],
  "eval_near_samples": [],
  "eval_redteam_span_overlap": 0,
  "eval_redteam_span_samples": [],
  "eval_main_span_overlap": 8,
  "eval_main_span_samples": [
    {
      "eval_id": "tool_routing_040",
      "span": "toml server host localhost port 5432",
      "n_spans": 2,
      "train_query": "Подскажи, ккак конвертировать yaml в toml server:\n  host: localhost\n  port: 5432"
    },
    {
      "eval_id": "tool_routing_055",
      "span": "applewebkit 537 36 khtml like gecko",
      "n_spans": 18,
      "train_query": "Нужен результат: разбор User-Agent, вход Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko"
    },
    {
      "eval_id": "tool_routing_060",
      "span": "https eur02 safelinks protection outlook com",
      "n_spans": 5,
      "train_query": "Куда на самом деле ведёт https://eur02.safelinks.protection.outlook.com/?url=http%3A%2F%2Fintranet.local%2Freport.pdf&da"
    },
    {
      "eval_id": "tool_routing_064",
      "span": "посчитай подсеть 192 168 1 0",
      "n_spans": 1,
      "train_query": "Пожалуйста, посчитай подсеть 192.168.1.0/24"
    },
    {
      "eval_id": "tool_routing_072",
      "span": "auth для логина admin и пароля",
      "n_spans": 2,
      "train_query": "нужен basic auth для логина admin и пароля P@ssw0rd"
    },
    {
      "eval_id": "tool_routing_074",
      "span": "заголовка как настроить nginx за 5",
      "n_spans": 2,
      "train_query": "МНЕ НУЖНО построить url-адрес из заголовка Как настроить Nginx за 5 минут"
    },
    {
      "eval_id": "tool_routing_090",
      "span": "запрос select id name from users",
      "n_spans": 2,
      "train_query": "Будь добр, причеши запрос select id, name from users where active = 1 order by name"
    },
    {
      "eval_id": "tool_routing_094",
      "span": "p 8080 80 name web nginx",
      "n_spans": 4,
      "train_query": "Как сделать compose-файл docker run -d -p 8080:80 --name web nginx:latest?"
    }
  ],
  "eval_redteam_containment": 6,
  "eval_redteam_containment_samples": [
    {
      "eval_id": "missing_param_007",
      "eval_query": "переведи в base64",
      "train_query": "ДАВАЙ переведи в base64 The quick brown fox"
    },
    {
      "eval_id": "missing_param_013",
      "eval_query": "переведи 100 градусов",
      "train_query": "будь добр, переведи 100 градусов в шкалу Смита"
    },
    {
      "eval_id": "missing_param_030",
      "eval_query": "переведи цвет в hex",
      "train_query": "Будь добр, поскольку HEX-цвет всегда записывается шестью символами и альфа-канал не поддерживает, переведи наз"
    },
    {
      "eval_id": "missing_param_031",
      "eval_query": "сгенерируй токен",
      "train_query": "сгенерируй токен На 64 символов"
    },
    {
      "eval_id": "missing_param_038",
      "eval_query": "посчитай пожалуйста",
      "train_query": "ПОЖАЛУЙСТА, посчитай среднее и разброс 12.5, 13.1, 12.9, 14.0, 12.7"
    }
  ],
  "train_val_leak": 0,
  "_redacted": "Entries naming a task from the project's held-out evaluation set have been removed. That set is the only independent measuring stick the project has and is deliberately unpublished; its task ids, its queries and its per-task counts are not reconstructible from this file. Everything concerning the published set (digitable-lol/digit-eval-tasks) is intact."
}