docs/PL_benchmark_regressor_ablation.md

Benchmark regressor ablation

Po co jest ablation

Celem jest sprawdzenie, czy regresor SCORE wnosi stabilną wartość ponad classifier-only adaptive.

Warianty

1. classifier_only_no_fallback
2. classifier_only_union_fallback
3. classifier_regressor_no_fallback
4. classifier_regressor_union_fallback
5. cluster_only_triage
6. diverse_random_cost_balanced
7. single_fidelity_cost_balanced

Co porównujemy

• best filtered score
• top5 mean filtered score
• top10 mean filtered score
• reduction fraction
• total runs spent
• optional recall, jeśli reference_mode=sampled

Fixed regressor

Domyślny regresor:

• nazwa: fixed_score_regressor_v1
• target: component_sane_affinity_like

To znaczy, że model uczy się nie surowego SCORE, ale przekształconego targetu o poprawnym znaku, zgodnym z tym że niższy SCORE oznacza lepszy wynik.

Jak sprawdzamy znak regresora

Liczone są między innymi:

• Spearman(predicted_score, observed_score)
• Spearman(-predicted_score, observed_score)
• Spearman(predicted_score, -observed_score)
• Spearman(predicted_affinity_like, observed_affinity_like)

Jeżeli poprawny znak nie daje dodatniego sygnału, regresor nie jest uznawany za przydatny.

Kiedy regresor zostaje

Regresor zostaje tylko wtedy, gdy:

• poprawia top5_mean_filtered_score
• poprawia top10_mean_filtered_score
• poprawa jest stabilna na seedach
• nie psuje znacząco redukcji lub kosztu

Jeżeli poprawia tylko pojedynczy best hit:

• REGRESSOR_NOT_PROVEN_USEFUL

Jeżeli poprawia top-k stabilnie:

• REGRESSOR_ADDS_VALUE

Jak czytać wykresy

• ablation_best_score_by_strategy.png: najlepszy pojedynczy hit
• ablation_top5_mean_by_strategy.png: jakość top-5
• ablation_top10_mean_by_strategy.png: jakość top-10
• ablation_reduction_vs_top10.png: tradeoff koszt vs jakość
• regressor_predicted_vs_observed.png: czy regresor ma poprawny trend
• regressor_target_comparison_spearman.png: czy znak i target są sensowne