SMoEA adapter pool (150 LoRA adapters)

Built with Llama.

SMoEA Router 的專家池:150 個逐任務訓練的 LoRA adapter,皆以 unsloth/Meta-Llama-3.1-8B 為底。不含 base model 本身——沒有 base model 無法使用。

adapter 數 150
rank (r) 8
lora_alpha 16
target_modules down_proj
每個 adapter 約 9 MiB
全池 約 2.64 GiB

版面

pool150_manifest.json          # 有序清單、逐檔 sha256 與大小、共用的 LoRA 設定
task{N}/adapter_config.json
task{N}/adapter_model.safetensors

清單的順序即合成時的輸入順序(依任務編號遞增),順序會影響 merge 的結果

取用

python scripts/fetch_adapter_pool.py --repo Tincan0325/smoea-adapter-pool150

下載後逐檔核對 manifest 記錄的大小與 sha256;不符即拒絕。 bash scripts/setup_workspace.sh 會在 adapter 不齊時自動代跑這一步。

授權

衍生自 Llama 3.1,受 Llama 3.1 Community License 規範,並適用 Acceptable Use Policy。 訓練資料來自 Natural Instructions(Apache-2.0)。

Downloads last month
-
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Tincan0325/smoea-adapter-pool150

Adapter
(287)
this model