data/processed/RQ1/RadarCharts/All_Series_Average_tables.md

Overall Summary (All Projects)

model	exact_match	any_order_match	precision	recall	retry_rate	pass_rate
GPT-5	0.24	0.31	0.93	0.90	0.11	0.63
GPT-4o-mini	0.24	0.61	0.83	0.95	0.12	0.67
DeepSeek-V3-1	0.26	0.64	0.86	0.96	0.13	0.68
DeepSeek-R1	0.18	0.26	0.79	0.90	0.25	0.59
Gemini-2.5-flash	0.03	0.03	0.93	0.69	0.14	0.48
Gemini-2.5-flash-nothinking	0.02	0.02	0.94	0.70	0.12	0.48
Qwen3-235b	0.20	0.41	0.88	0.92	0.16	0.67

BookWriter Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	pass_rate
GPT-5	0.00	0.00	0.97	0.77	0.00	1.00
GPT-4o-mini	0.00	0.00	0.85	0.83	0.00	1.00
DeepSeek-V3-1	0.04	0.58	0.89	0.98	0.01	1.00
DeepSeek-R1	0.00	0.01	0.88	0.81	0.09	1.00
Gemini-2.5-flash	0.00	0.00	0.98	0.52	0.00	1.00
Gemini-2.5-flash-nothinking	0.00	0.00	0.98	0.53	0.01	1.00
Qwen3-235b	0.00	0.00	0.95	0.79	0.01	1.00

EmailResponder Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	pass_rate
GPT-5	0.01	0.01	1.00	0.83	0.00	0.00
GPT-4o-mini	0.43	0.47	0.99	0.91	0.00	0.00
DeepSeek-V3-1	0.16	0.24	0.98	0.88	0.02	0.00
DeepSeek-R1	0.00	0.03	0.77	0.89	0.16	0.00
Gemini-2.5-flash	0.01	0.01	0.97	0.74	0.10	0.00
Gemini-2.5-flash-nothinking	0.05	0.06	0.96	0.81	0.12	0.00
Qwen3-235b	0.06	0.07	1.00	0.85	0.00	0.00

GameBuilder Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	pass_rate
GPT-5	1.00	1.00	1.00	1.00	0.00	0.00
GPT-4o-mini	0.88	1.00	0.96	1.00	0.00	0.00
DeepSeek-V3-1	0.90	1.00	0.97	1.00	0.00	0.00
DeepSeek-R1	0.94	0.96	1.00	0.99	0.00	0.00
Gemini-2.5-flash	0.00	0.00	1.00	0.75	0.00	0.00
Gemini-2.5-flash-nothinking	0.02	0.06	0.99	0.80	0.04	0.00
Qwen3-235b	0.84	0.94	0.99	0.99	0.00	0.00

LandingPageGenerator Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	average_score
GPT-5	0.29	0.42	0.86	0.97	0.00	0.47
GPT-4o-mini	0.04	0.98	0.78	1.00	0.00	0.67
DeepSeek-V3-1	0.24	0.99	0.86	1.00	0.01	0.86
DeepSeek-R1	0.00	0.13	0.78	0.94	0.06	0.25
Gemini-2.5-flash	0.00	0.00	0.97	0.76	0.00	0.00
Gemini-2.5-flash-nothinking	0.00	0.00	0.95	0.77	0.03	0.01
Qwen3-235b	0.09	0.45	0.84	0.97	0.03	0.52

MarkdownValidator Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	average_score
GPT-5	1.00	1.00	1.00	1.00	0.00	0.71
GPT-4o-mini	0.97	1.00	0.99	1.00	0.00	0.82
DeepSeek-V3-1	1.00	1.00	1.00	1.00	0.00	0.84
DeepSeek-R1	0.98	1.00	1.00	1.00	0.00	0.81
Gemini-2.5-flash	0.26	0.33	0.87	0.88	0.21	0.08
Gemini-2.5-flash-nothinking	0.13	0.13	0.96	0.73	0.06	0.14
Qwen3-235b	0.98	0.98	1.00	0.99	0.00	0.81

RecruitmentAssistant Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	pass_rate
GPT-5	0.00	0.00	0.98	0.90	0.00	1.00
GPT-4o-mini	0.00	0.70	0.76	0.98	0.00	1.00
DeepSeek-V3-1	0.00	0.36	0.84	0.97	0.00	1.00
DeepSeek-R1	0.00	0.11	0.84	0.90	0.05	0.99
Gemini-2.5-flash	0.00	0.00	0.98	0.69	0.00	1.00
Gemini-2.5-flash-nothinking	0.00	0.00	0.97	0.74	0.00	1.00
Qwen3-235b	0.02	0.46	0.75	0.96	0.26	0.98

SQLAssistant Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	average_score
GPT-5	0.00	0.01	0.82	0.86	0.44	0.45
GPT-4o-mini	0.00	0.22	0.77	0.94	0.37	0.52
DeepSeek-V3-1	0.00	0.17	0.66	0.90	0.61	0.37
DeepSeek-R1	0.00	0.04	0.52	0.88	0.80	0.40
Gemini-2.5-flash	0.00	0.00	0.76	0.77	0.57	0.29
Gemini-2.5-flash-nothinking	0.00	0.00	0.82	0.76	0.48	0.27
Qwen3-235b	0.00	0.24	0.80	0.95	0.37	0.64

SocialMediaManager Series Average

model	exact_match	any_order_match	precision	recall	retry_rate	pass_rate
GPT-5	0.02	0.37	0.86	0.88	0.34	0.98
GPT-4o-mini	0.12	0.71	0.72	0.97	0.47	0.96
DeepSeek-V3-1	0.17	0.87	0.78	0.97	0.27	1.00
DeepSeek-R1	0.01	0.22	0.64	0.88	0.62	0.94
Gemini-2.5-flash	0.00	0.00	0.94	0.52	0.21	1.00
Gemini-2.5-flash-nothinking	0.00	0.00	0.96	0.51	0.15	1.00
Qwen3-235b	0.02	0.42	0.82	0.89	0.46	0.98