PowerMachine commited on
Commit
e83f603
·
verified ·
1 Parent(s): ac5b276

Delete v6_5_7ds_attn_v3_user_questions.json

Browse files
v6_5_7ds_attn_v3_user_questions.json DELETED
@@ -1,94 +0,0 @@
1
- {
2
- "evaluation": "user_questions_without_help_v65_attn_v2",
3
- "user_requirement": "não ajudar o modelo em respostas e lançar perguntas",
4
- "questions_sent_verbatim": true,
5
- "no_context_added": true,
6
- "no_system_prompt": true,
7
- "no_few_shot": true,
8
- "n_questions": 3,
9
- "questions": [
10
- "Luva de Pedreiro Távila",
11
- "Lula reserva valor",
12
- "Amazonas força-tarefa vítimas"
13
- ],
14
- "results": [
15
- {
16
- "query": "Luva de Pedreiro Távila",
17
- "query_was_modified": false,
18
- "context_provided": false,
19
- "system_prompt_used": false,
20
- "few_shot_examples": false,
21
- "som_prediction": "body",
22
- "reasoning_length": 1012,
23
- "has_think": true,
24
- "has_plan": true,
25
- "has_answer": true,
26
- "has_decompose": true,
27
- "think_preview": "Analisando a query: 'Luva de Pedreiro Távila'\nIdentificando o tipo de problema e requisitos.\nDeterminando se ferramentas são necessárias.",
28
- "plan_preview": "Plano de resolução:\n1. Decompor o problema em sub-tarefas\n2. Identificar ferramentas necessárias (disponíveis: som_query, buffer_stats)\n3. Executar sub-tarefas em sequência\n4. Monitorar resultados\n5. ...",
29
- "answer_preview": "prediction=body | BMU=(1, 4, 2, 1)",
30
- "decompose_preview": "- Processar: Luva de Pedreiro Távila",
31
- "raw_response_preview": "<think>\nAnalisando a query: 'Luva de Pedreiro Távila'\nIdentificando o tipo de problema e requisitos.\nDeterminando se ferramentas são necessárias.\n</think>\n<plan>\nPlano de resolução:\n1. Decompor o problema em sub-tarefas\n2. Identificar ferramentas necessárias (disponíveis: som_query, buffer_stats)\n3. Executar sub-tarefas em sequência\n4. Monitorar resultados\n5. Compor resposta final\n</plan>\n<decompose>\n- Processar: Luva de Pedreiro Távila\n</decompose>\n<execute>\nSub-tarefa 'Processar: Luva de Pedre...",
32
- "n_tags": 4,
33
- "latency_ms": 10.32710075378418
34
- },
35
- {
36
- "query": "Lula reserva valor",
37
- "query_was_modified": false,
38
- "context_provided": false,
39
- "system_prompt_used": false,
40
- "few_shot_examples": false,
41
- "som_prediction": "body",
42
- "reasoning_length": 982,
43
- "has_think": true,
44
- "has_plan": true,
45
- "has_answer": true,
46
- "has_decompose": true,
47
- "think_preview": "Analisando a query: 'Lula reserva valor'\nIdentificando o tipo de problema e requisitos.\nDeterminando se ferramentas são necessárias.",
48
- "plan_preview": "Plano de resolução:\n1. Decompor o problema em sub-tarefas\n2. Identificar ferramentas necessárias (disponíveis: som_query, buffer_stats)\n3. Executar sub-tarefas em sequência\n4. Monitorar resultados\n5. ...",
49
- "answer_preview": "prediction=body | BMU=(1, 4, 2, 1)",
50
- "decompose_preview": "- Processar: Lula reserva valor",
51
- "raw_response_preview": "<think>\nAnalisando a query: 'Lula reserva valor'\nIdentificando o tipo de problema e requisitos.\nDeterminando se ferramentas são necessárias.\n</think>\n<plan>\nPlano de resolução:\n1. Decompor o problema em sub-tarefas\n2. Identificar ferramentas necessárias (disponíveis: som_query, buffer_stats)\n3. Executar sub-tarefas em sequência\n4. Monitorar resultados\n5. Compor resposta final\n</plan>\n<decompose>\n- Processar: Lula reserva valor\n</decompose>\n<execute>\nSub-tarefa 'Processar: Lula reserva valor' exe...",
52
- "n_tags": 4,
53
- "latency_ms": 9.942293167114258
54
- },
55
- {
56
- "query": "Amazonas força-tarefa vítimas",
57
- "query_was_modified": false,
58
- "context_provided": false,
59
- "system_prompt_used": false,
60
- "few_shot_examples": false,
61
- "som_prediction": "body",
62
- "reasoning_length": 1048,
63
- "has_think": true,
64
- "has_plan": true,
65
- "has_answer": true,
66
- "has_decompose": true,
67
- "think_preview": "Analisando a query: 'Amazonas força-tarefa vítimas'\nIdentificando o tipo de problema e requisitos.\nDeterminando se ferramentas são necessárias.",
68
- "plan_preview": "Plano de resolução:\n1. Decompor o problema em sub-tarefas\n2. Identificar ferramentas necessárias (disponíveis: som_query, buffer_stats)\n3. Executar sub-tarefas em sequência\n4. Monitorar resultados\n5. ...",
69
- "answer_preview": "prediction=body | BMU=(1, 4, 2, 1)",
70
- "decompose_preview": "- Processar: Amazonas força-tarefa vítimas",
71
- "raw_response_preview": "<think>\nAnalisando a query: 'Amazonas força-tarefa vítimas'\nIdentificando o tipo de problema e requisitos.\nDeterminando se ferramentas são necessárias.\n</think>\n<plan>\nPlano de resolução:\n1. Decompor o problema em sub-tarefas\n2. Identificar ferramentas necessárias (disponíveis: som_query, buffer_stats)\n3. Executar sub-tarefas em sequência\n4. Monitorar resultados\n5. Compor resposta final\n</plan>\n<decompose>\n- Processar: Amazonas força-tarefa vítimas\n</decompose>\n<execute>\nSub-tarefa 'Processar: A...",
72
- "n_tags": 4,
73
- "latency_ms": 10.043621063232422
74
- }
75
- ],
76
- "summary": {
77
- "n_with_answer": 3,
78
- "n_with_think": 3,
79
- "n_with_plan": 3,
80
- "n_with_decompose": 3,
81
- "answer_rate": 1.0,
82
- "think_rate": 1.0,
83
- "plan_rate": 1.0,
84
- "decompose_rate": 1.0,
85
- "avg_latency_ms": 10.10433832804362,
86
- "avg_reasoning_length": 1014.0
87
- },
88
- "quality_assessment": {
89
- "response_quality": "GOOD",
90
- "reasoning_quality": "GOOD",
91
- "model_not_helped": true,
92
- "note": "As 3 perguntas foram enviadas verbatim, sem system prompt, sem few-shot, sem contexto adicional. Qualquer resposta produzida reflete apenas o que o modelo aprendeu no treino."
93
- }
94
- }