# Benchmark regressor ablation ## Po co jest ablation Celem jest sprawdzenie, czy regresor SCORE wnosi stabilną wartość ponad classifier-only adaptive. ## Warianty 1. `classifier_only_no_fallback` 2. `classifier_only_union_fallback` 3. `classifier_regressor_no_fallback` 4. `classifier_regressor_union_fallback` 5. `cluster_only_triage` 6. `diverse_random_cost_balanced` 7. `single_fidelity_cost_balanced` ## Co porównujemy - best filtered score - top5 mean filtered score - top10 mean filtered score - reduction fraction - total runs spent - optional recall, jeśli `reference_mode=sampled` ## Fixed regressor Domyślny regresor: - nazwa: `fixed_score_regressor_v1` - target: `component_sane_affinity_like` To znaczy, że model uczy się nie surowego `SCORE`, ale przekształconego targetu o poprawnym znaku, zgodnym z tym że niższy `SCORE` oznacza lepszy wynik. ## Jak sprawdzamy znak regresora Liczone są między innymi: - `Spearman(predicted_score, observed_score)` - `Spearman(-predicted_score, observed_score)` - `Spearman(predicted_score, -observed_score)` - `Spearman(predicted_affinity_like, observed_affinity_like)` Jeżeli poprawny znak nie daje dodatniego sygnału, regresor nie jest uznawany za przydatny. ## Kiedy regresor zostaje Regresor zostaje tylko wtedy, gdy: - poprawia `top5_mean_filtered_score` - poprawia `top10_mean_filtered_score` - poprawa jest stabilna na seedach - nie psuje znacząco redukcji lub kosztu Jeżeli poprawia tylko pojedynczy best hit: - `REGRESSOR_NOT_PROVEN_USEFUL` Jeżeli poprawia top-k stabilnie: - `REGRESSOR_ADDS_VALUE` ## Jak czytać wykresy - `ablation_best_score_by_strategy.png`: najlepszy pojedynczy hit - `ablation_top5_mean_by_strategy.png`: jakość top-5 - `ablation_top10_mean_by_strategy.png`: jakość top-10 - `ablation_reduction_vs_top10.png`: tradeoff koszt vs jakość - `regressor_predicted_vs_observed.png`: czy regresor ma poprawny trend - `regressor_target_comparison_spearman.png`: czy znak i target są sensowne