File size: 2,001 Bytes
24f6204 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 | # Benchmark regressor ablation
## Po co jest ablation
Celem jest sprawdzenie, czy regresor SCORE wnosi stabilną wartość ponad classifier-only adaptive.
## Warianty
1. `classifier_only_no_fallback`
2. `classifier_only_union_fallback`
3. `classifier_regressor_no_fallback`
4. `classifier_regressor_union_fallback`
5. `cluster_only_triage`
6. `diverse_random_cost_balanced`
7. `single_fidelity_cost_balanced`
## Co porównujemy
- best filtered score
- top5 mean filtered score
- top10 mean filtered score
- reduction fraction
- total runs spent
- optional recall, jeśli `reference_mode=sampled`
## Fixed regressor
Domyślny regresor:
- nazwa: `fixed_score_regressor_v1`
- target: `component_sane_affinity_like`
To znaczy, że model uczy się nie surowego `SCORE`, ale przekształconego targetu o poprawnym znaku, zgodnym z tym że niższy `SCORE` oznacza lepszy wynik.
## Jak sprawdzamy znak regresora
Liczone są między innymi:
- `Spearman(predicted_score, observed_score)`
- `Spearman(-predicted_score, observed_score)`
- `Spearman(predicted_score, -observed_score)`
- `Spearman(predicted_affinity_like, observed_affinity_like)`
Jeżeli poprawny znak nie daje dodatniego sygnału, regresor nie jest uznawany za przydatny.
## Kiedy regresor zostaje
Regresor zostaje tylko wtedy, gdy:
- poprawia `top5_mean_filtered_score`
- poprawia `top10_mean_filtered_score`
- poprawa jest stabilna na seedach
- nie psuje znacząco redukcji lub kosztu
Jeżeli poprawia tylko pojedynczy best hit:
- `REGRESSOR_NOT_PROVEN_USEFUL`
Jeżeli poprawia top-k stabilnie:
- `REGRESSOR_ADDS_VALUE`
## Jak czytać wykresy
- `ablation_best_score_by_strategy.png`: najlepszy pojedynczy hit
- `ablation_top5_mean_by_strategy.png`: jakość top-5
- `ablation_top10_mean_by_strategy.png`: jakość top-10
- `ablation_reduction_vs_top10.png`: tradeoff koszt vs jakość
- `regressor_predicted_vs_observed.png`: czy regresor ma poprawny trend
- `regressor_target_comparison_spearman.png`: czy znak i target są sensowne
|