Update config.json
397c2b9 verified | { |
| "act_layer": "SiLU", |
| "decoder_depth": 24, |
| "dim": 1024, |
| "domains_in": [ |
| "catalog", |
| "tok_a_g", |
| "tok_a_i", |
| "tok_a_r", |
| "tok_a_y", |
| "tok_a_z", |
| "tok_dec", |
| "tok_ebv", |
| "tok_flux_bp_gaia", |
| "tok_flux_g", |
| "tok_flux_g_gaia", |
| "tok_flux_i", |
| "tok_flux_r", |
| "tok_flux_rp_gaia", |
| "tok_flux_w1", |
| "tok_flux_w2", |
| "tok_flux_w3", |
| "tok_flux_w4", |
| "tok_flux_z", |
| "tok_image", |
| "tok_image_hsc", |
| "tok_mag_g", |
| "tok_mag_i", |
| "tok_mag_r", |
| "tok_mag_y", |
| "tok_mag_z", |
| "tok_parallax", |
| "tok_ra", |
| "tok_segmap", |
| "tok_shape11", |
| "tok_shape12", |
| "tok_shape22", |
| "tok_shape_e1", |
| "tok_shape_e2", |
| "tok_shape_r", |
| "tok_spectrum_desi", |
| "tok_spectrum_sdss", |
| "tok_xp_bp", |
| "tok_xp_rp", |
| "tok_z" |
| ], |
| "domains_out": [ |
| "catalog", |
| "tok_a_g", |
| "tok_a_i", |
| "tok_a_r", |
| "tok_a_y", |
| "tok_a_z", |
| "tok_dec", |
| "tok_ebv", |
| "tok_flux_bp_gaia", |
| "tok_flux_g", |
| "tok_flux_g_gaia", |
| "tok_flux_i", |
| "tok_flux_r", |
| "tok_flux_rp_gaia", |
| "tok_flux_w1", |
| "tok_flux_w2", |
| "tok_flux_w3", |
| "tok_flux_w4", |
| "tok_flux_z", |
| "tok_image", |
| "tok_image_hsc", |
| "tok_mag_g", |
| "tok_mag_i", |
| "tok_mag_r", |
| "tok_mag_y", |
| "tok_mag_z", |
| "tok_parallax", |
| "tok_ra", |
| "tok_segmap", |
| "tok_shape11", |
| "tok_shape12", |
| "tok_shape22", |
| "tok_shape_e1", |
| "tok_shape_e2", |
| "tok_shape_r", |
| "tok_spectrum_desi", |
| "tok_spectrum_sdss", |
| "tok_xp_bp", |
| "tok_xp_rp", |
| "tok_z" |
| ], |
| "encoder_depth": 24, |
| "gated_mlp": true, |
| "mlp_bias": false, |
| "mlp_ratio": 4, |
| "norm_bias": false, |
| "num_heads": 16, |
| "proj_bias": false, |
| "qk_norm": true, |
| "qkv_bias": false |
| } |
