| { | |
| "modelName": "functiongemma-270m-it", | |
| "modelFamily": "functiongemma", | |
| "format": "coreml-mlprogram", | |
| "architecture": "ane_unified_state", | |
| "source": "huggingface", | |
| "hfRepo": "google/functiongemma-270m-it", | |
| "tSpecs": [ | |
| 1, | |
| 128 | |
| ], | |
| "cacheSeqLen": 128, | |
| "numLayers": 18, | |
| "numKvHeads": 1, | |
| "headDim": 256, | |
| "hiddenSize": 640, | |
| "computePrecision": "float16", | |
| "quantization": "none", | |
| "computeUnits": "cpu_and_ne", | |
| "stateNames": [ | |
| "k_cache_0", | |
| "v_cache_0", | |
| "k_cache_1", | |
| "v_cache_1", | |
| "k_cache_2", | |
| "v_cache_2", | |
| "k_cache_3", | |
| "v_cache_3", | |
| "k_cache_4", | |
| "v_cache_4", | |
| "k_cache_5", | |
| "v_cache_5", | |
| "k_cache_6", | |
| "v_cache_6", | |
| "k_cache_7", | |
| "v_cache_7", | |
| "k_cache_8", | |
| "v_cache_8", | |
| "k_cache_9", | |
| "v_cache_9", | |
| "k_cache_10", | |
| "v_cache_10", | |
| "k_cache_11", | |
| "v_cache_11", | |
| "k_cache_12", | |
| "v_cache_12", | |
| "k_cache_13", | |
| "v_cache_13", | |
| "k_cache_14", | |
| "v_cache_14", | |
| "k_cache_15", | |
| "v_cache_15", | |
| "k_cache_16", | |
| "v_cache_16", | |
| "k_cache_17", | |
| "v_cache_17" | |
| ], | |
| "requires": { | |
| "minimumDeploymentTarget": "iOS 18 / macOS 15", | |
| "feature": "ANE BC1S unified + MLState" | |
| }, | |
| "inputs": [ | |
| "input_ids", | |
| "cos_full", | |
| "sin_full", | |
| "cos_sliding", | |
| "sin_sliding", | |
| "write_mask", | |
| "attention_mask", | |
| "logits_mask" | |
| ], | |
| "outputs": [ | |
| "logits" | |
| ] | |
| } |