Upload 2 files

LLM-test.csv

@@ -1,173 +1,174 @@
-Name;Quant;Size;B;C;D;S;P;Type
-alpindale/goliath-120b;Q6_K;120B;3;2;1;6;6;merge
-NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5;finetune
-Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5;finetune+merge
-Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25;finetune
-NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5;finetune
-mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5;finetune
-Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2;finetune
-upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4;finetune
-fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25;finetune
-fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2.5;3;finetune
-ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a;finetune
-elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25;finetune
-migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25;finetune
-jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5;finetune
-Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0;finetune
-DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25;finetune
-upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25;finetune
-augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25;finetune
-garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1;finetune
-jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25;finetune
-KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2;finetune
-NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0;finetune
-Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5;finetune+merge
-lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5;merge
-Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25;merge
-tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5;finetune
-nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5;merge
-deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1;finetune
-allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3;finetune
-epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0;finetune
-meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0;base
-ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25;base+merge
-Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25;finetune
-Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0;finetune
-Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5;base
-Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0;finetune
-ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25;merge
-Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25;merge
-Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5;merge
-Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25;merge
-grimulkan/aurelian-alpha0.1-70b-rope8-32K-fp16;Q6_K;70B;0;1;0;1.25;2;finetune
-ChuckMcSneed/DoubleGold-v0.1-123b-32k;Q6_K;123B;1;2;0;4.5;2.75;merge
-Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss;F16;8x7B;0;2;0;4.75;4.75;finetune
-ChuckMcSneed/WinterGoliath-123b;Q6_K;123B;3;2;2;5.5;6;merge
-cognitivecomputations/dolphin-2.2-70b;Q6_K;70B;0;1;1;4.5;4.5;finetune
-cognitivecomputations/MegaDolphin-120b;Q6_K;120B;0;1;1;5.75;5.25;merge
-ChuckMcSneed/PMaxxxer-v1-70b;Q6_K;70B;3;1;1;6.75;4.75;merge
-ChuckMcSneed/SMaxxxer-v1-70b;Q6_K;70B;2;1;0;7.25;4.25;merge
-ChuckMcSneed/BenchmaxxxerSP-v1-123b(private);Q6_K;123B;1.5;2;1;6.75;5.25;merge
-ChuckMcSneed/BenchmaxxxerPS-v1-123b;Q6_K;123B;3;2;1;7.25;5.25;merge
-ChuckMcSneed/BenchmaxxxerMOE-v1-123b(private);Q6_K;2x70B;2;1;3;7.25;5;merge
-ChuckMcSneed/BenchmaxxxerSS-v1-123b(private);Q6_K;123B;1.5;2;0.5;6.5;5.5;merge
-grimulkan/aurelian-v0.5-70b-rope8-32K-fp16;Q6_K;70B;1;1;0;2.5;2.25;finetune
-ChuckMcSneed/DoubleGold-v0.5-123b-32k;Q6_K;123B;1;1;2;3.25;1.5;merge
-grimulkan/lzlv-longLORA-70b-rope8-32k-fp16;Q6_K;70B;3;2;0;3.5;3.75;merge
-grimulkan/Goliath-longLORA-120b-rope8-32k-fp16;Q6_K;120B;0.5;1.5;1;3.75;4.5;merge
-sophosympatheia/Aurora-Nights-70B-v1.0;Q6_K;70B;2.5;2;0;7.25;3.5;merge
-sophosympatheia/Aurora-Nights-103B-v1.0;Q6_K;103B;3;2;0;7.25;4.25;merge
-XWIN-32k-experimental(equivalent to grimulkan/Xwin-longLORA-70b-rope8-32k-fp16?);Q6_K;70B;0;1.5;1;3.5;3.75;merge
-deepnight-research/Saily_220B;Q3_K_L;208B;0;2;1;2.75;1.75;merge
-deepnight-research/saily_100b;Q6_K;118B;0;0;0;4.5;5.25;merge
-sophosympatheia/Midnight-Rose-70B-v1.0;Q6_K;70B;0;0;0;4;5;merge
-abacusai/Smaug-34B-v0.1;F16;34B;0;2;0;1.25;2.5;finetune
-ChuckMcSneed/WinterGoddess-1.4x-70b-32k;Q6_K;70B;2.5;2;0;1.5;2.25;merge
-ChuckMcSneed/WinterGoliath-123b-32k;Q6_K;123B;3;2;1;3.75;3.75;merge
-alpindale/miquella-120b(old);Q5_K_M;120B;0;0;0;3.25;0.25;merge
-miqudev/miqu-1-70b;Q5_K_M;70B;3;2;0;6.25;3.75;finetune
-ICBU-NPU/FashionGPT-70B-V1.1;Q6_K;70B;0;1.5;0;1.75;4;finetune
-ibivibiv/strix-rufipes-70b;Q6_K;70B;0;2;0;1;3.25;finetune
-Chat-Error/fiction.live-Kimiko-V2-70B;Q6_K;70B;0;1.5;0;1;2.25;finetune
-MayaPH/GodziLLa2-70B;Q6_K;70B;1.5;0;1;1.75;4.75;finetune
-WizardLM/WizardLM-70B-V1.0;Q6_K;70B;0;1;0;5.5;5.5;finetune
-Mikael110/llama-2-70b-guanaco-qlora;Q6_K;70B;0;2;0;4.75;5;finetune
-ChuckMcSneed/Gembo-v1-70b;Q6_K;70B;2.5;1.5;3;7.5;5.25;merge
-Qwen/Qwen1.5-72B-Chat;Q5_K_M;72B;0;0;0;6;4.5;finetune
-abacusai/Smaug-72B-v0.1(Alpaca format);Q5_K_S;72B;0.5;0.5;0.5;0.75;0.5;finetune
-abacusai/Smaug-72B-v0.1(llama chat format);Q6_K;72B;0;0;0;0.5;2.5;finetune
-ShinojiResearch/Senku-70B-Full;Q6_K;70B;0;1.5;3;3.75;3.75;finetune
-Undi95/Miqu-70B-Alpaca-DPO;Q6_K;70B;1.5;1;0;6;4.25;finetune
-TeeZee/Kyllene-34B-v1.1;F16;34B;0;2;0;4;2.75;merge
-cloudyu/Mixtral_34Bx2_MoE_60B;Q8_0;2x34B;0;2;0;2.25;2;merge
-TomGrc/FusionNet_7Bx2_MoE_v0.1;F16;2X7B;0;0;1;3.75;2.75;finetune
-ChuckMcSneed/Gembo-v1.1-70b;Q6_K;70B;2.5;1.5;3;6.75;5.25;merge
-miqu-123b(personal test merge);Q5_K_M;123B;2;0;1;7.75;4.5;merge
-wolfram/miqu-1-120b;Q5_K_M;120B;2;0;0;8;4.25;merge
-berkeley-nest/Starling-LM-7B-alpha;F16;7B;1.5;0.5;0;2.25;2.5;finetune
-wolfram/miquliz-120b-v2.0;Q5_K_M;120B;1;2;1;7.25;5;merge
-sophosympatheia/Midnight-Rose-70B-v2.0.3;Q6_K;70B;2.5;1.5;0;6.75;4;merge
-ValiantLabs/ShiningValiant;Q6_K;70B;2.5;1.5;0;1.5;1.75;finetune
-Sao10K/Euryale-1.3-L2-70B+xwin-lora;Q6_K;70B;2;2;1;5.5;5.5;merge
-Xwin-LM/Xwin-LM-70B-V0.1+euryale-lora;Q6_K;70B;3;2;2;6;5;merge
-ChuckMcSneed/Premerge-XE-EX-123B(private);Q6_K;123B;2;2;2.5;6.75;5.5;merge
-ChuckMcSneed/Premerge-EX-XE-123B(private);Q6_K;123B;2;2;2;5.75;6;merge
-ChuckMcSneed/Premerge-XE-XE-123B;Q6_K;123B;3;2;2.5;7.25;5.25;merge
-ChuckMcSneed/Premerge-EX-EX-123B;Q6_K;123B;2;2;1.5;7.25;6;merge
-MaziyarPanahi/WizardLM-Math-70B-v0.1;Q6_K;70B;0;2;0;3.75;3;merge
-NousResearch/Nous-Hermes-2-Llama-2-70B;Q6_K;70B;0;2;1;3.5;1.5;finetune
-NeverSleep/MiquMaid-v2-70B-DPO;Q6_K;70B;3;1;0;2.75;0.5;finetune
-senseable/WestLake-7B-v2;F16;7B;0;1;1;4;3.75;finetune
-CausalLM/34b-beta;F16;34B;0;2;3;2.75;3.75;finetune
-budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune
-CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune
-Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune
-wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge
-crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune
-ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge
-migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune
-SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune
-CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune
-mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base
-alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune
-openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune
-mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune
-openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune
-miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge
-goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge
-meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune
-meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune
-databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune
-databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base
-Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune
-meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base
-jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge
-llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge
-cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune
-jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune
-jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune
-sophosympatheia/Midnight-Miqu-70B-v1.5;Q6_K;70B;0;2;0;5.75;4.5;merge
-tdrussell/Llama-3-70B-Instruct-Storywriter;Q6_K;70B;3;0;3;7.75;4.25;finetune
-crestf411/L3-70B-daybreak-abliterated-v0.4;Q6_K;70B;3;2;0;7.5;6;finetune
-cognitivecomputations/dolphin-2.9.1-dbrx;Q6_K;16x12B;3;1;3;4;6;finetune
-billyjoe/quill-72b-instruct;Q6_K;72B;1;1.5;0;6.75;5;finetune
-cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune
-alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune
-google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune
-google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune
-deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune
-mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune
-NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune
-meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune
-meta-llama/Meta-Llama-3.1-8B-Instruct;BF16;8B;0;0;2;6.5;3.75;finetune
-mistralai/Mistral-Nemo-Instruct-2407;BF16;12B;0;2;3;6.75;5.25;finetune
-NeverSleep/Lumimaid-v0.2-12B;BF16;12B;0;1;2;2.5;1.25;finetune
-NeverSleep/Lumimaid-v0.2-70B;Q6_K;70B;1;2;3;6.5;3.5;finetune
-SillyTilly/Meta-Llama-3.1-405B-Instruct;Q8_0;405B;3;0;3;6.25;4.5;finetune
-dnhkng/RYS-XLarge;Q6_K;78B;0;0;3;5.25;2.25;finetune+merge
-migtissera/Tess-3-Llama-3.1-405B;Q8_0;405B;3;2;3;4.5;4.5;finetune
-migtissera/Tess-3-Mistral-Large-2-123B;Q6_K;123B;0;2;3;6.5;3.75;finetune
-crestf411/L3.1-70B-sunfall-v0.6.1;Q6_K;70B;1;2;2.5;7.5;4.25;finetune
-mistralai/Mistral-Large-Instruct-2407;BF16;123B;0;2;3;8;5.5;finetune
-NousResearch/Hermes-3-Llama-3.1-70B;Q6_K;70B;3;2;3;6.75;5;finetune
-NousResearch/Hermes-3-Llama-3.1-405B;Q8_0;405B;0;2;3;8;5.75;finetune
-anthracite-org/magnum-v2-123b;Q6_K;123B;0;2;2;7;4.75;finetune
-anthracite-org/magnum-v2-72b;Q6_K;72B;0;2;0;5.75;4.75;finetune
-Sao10K/L3.1-70B-Euryale-v2.2;Q6_K;70B;3;2;3;7.5;2.5;finetune
-anthracite-org/magnum-v3-34b;BF16;34B;3;1;0;4.5;4;finetune
-CohereForAI/c4ai-command-r-08-2024;F16;32B;0;0;0;6;4.75;finetune
-CohereForAI/c4ai-command-r-plus-08-2024;Q6_K;104B;0;1;2;7.25;5;finetune
-FluffyKaeloky/Luminum-v0.1-123B;Q6_K;123B;0;2;3;7.5;5.25;merge
-Qwen/Qwen2.5-72B-Instruct;Q6_K;72B;1;0;2;6.75;1.75;finetune
-mistralai/Mistral-Small-Instruct-2409;BF16;22B;0;2;2;6;4;finetune
-TheDrummer/Behemoth-123B-v1;Q6_K;123B;0;2;3;7.25;5.5;finetune
-nvidia/Llama-3.1-Nemotron-70B-Instruct-HF;Q6_K;70B;0;1.5;3;7.5;4.75;finetune
-anthracite-org/magnum-v4-123b;Q6_K;123B;3;2;3;7;4.5;finetune
-TheDrummer/Behemoth-123B-v1.1;Q6_K;123B;0;2;3;7.5;5;finetune
-Nexusflow/Athene-V2-Chat;Q6_K;72B;1;0;3;6.25;2.25;finetune
-mistralai/Mistral-Large-Instruct-2411;Q6_K;123B;0;0;3;7.5;4.25;finetune
-TheDrummer/Behemoth-123B-v2;Q6_K;123B;1;2;3;6.75;5.5;finetune
-TheDrummer/Behemoth-123B-v2.1;Q6_K;123B;0;2;3;7.5;5;finetune
-TheDrummer/Behemoth-123B-v2.2;Q6_K;123B;0;2;3;7.5;5;finetune
-TheDrummer/Behemoth-123B-v1.2;Q6_K;123B;0;2;3;7.25;5.25;finetune
-Maximum;n/a;n/a;3;2;3;8;6;
+Name;Quant;Size;B;C;D;S;P;Type;Family(incomplete)
+alpindale/goliath-120b;Q6_K;120B;3;2;1;6;6;merge;Llama-2-70b
+NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5;finetune;Llama-2-70b
+Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5;finetune+merge;Llama-2-70b
+Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25;finetune;Llama-2-70b
+NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5;finetune;
+mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5;finetune;Mixtral-8x7B
+Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2;finetune;
+upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4;finetune;
+fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25;finetune;
+fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2.5;3;finetune;
+ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a;finetune;
+elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25;finetune;Llama-2-70b
+migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25;finetune;Llama-2-70b
+jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5;finetune;Llama-2-70b
+Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0;finetune;Llama-2-70b
+DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25;finetune;Llama-2-70b
+upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25;finetune;Llama-2-70b
+augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25;finetune;Llama-2-70b
+garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1;finetune;Llama-2-70b
+jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25;finetune;Llama-2-70b
+KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2;finetune;Llama-2-70b
+NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0;finetune;Llama-2-70b
+Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5;finetune+merge;Llama-2-70b
+lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5;merge;Llama-2-70b
+Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25;merge;Llama-2-70b
+tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5;finetune;
+nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5;merge;Llama-2-70b
+deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1;finetune;
+allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3;finetune;Llama-2-70b
+epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0;finetune;Llama-2-70b
+meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0;base;Llama-2-70b
+ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25;base+merge;Llama-2-70b
+Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25;finetune;Llama-2-70b
+Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0;finetune;Llama-2-70b
+Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5;base;
+Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0;finetune;Llama-2-70b
+ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25;merge;Llama-2-70b
+Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25;merge;Llama-2-70b
+Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5;merge;Llama-2-70b
+Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25;merge;Llama-2-70b
+grimulkan/aurelian-alpha0.1-70b-rope8-32K-fp16;Q6_K;70B;0;1;0;1.25;2;finetune;Llama-2-70b
+ChuckMcSneed/DoubleGold-v0.1-123b-32k;Q6_K;123B;1;2;0;4.5;2.75;merge;Llama-2-70b
+Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss;F16;8x7B;0;2;0;4.75;4.75;finetune;Mixtral-8x7B
+ChuckMcSneed/WinterGoliath-123b;Q6_K;123B;3;2;2;5.5;6;merge;Llama-2-70b
+cognitivecomputations/dolphin-2.2-70b;Q6_K;70B;0;1;1;4.5;4.5;finetune;Llama-2-70b
+cognitivecomputations/MegaDolphin-120b;Q6_K;120B;0;1;1;5.75;5.25;merge;Llama-2-70b
+ChuckMcSneed/PMaxxxer-v1-70b;Q6_K;70B;3;1;1;6.75;4.75;merge;Llama-2-70b
+ChuckMcSneed/SMaxxxer-v1-70b;Q6_K;70B;2;1;0;7.25;4.25;merge;Llama-2-70b
+ChuckMcSneed/BenchmaxxxerSP-v1-123b(private);Q6_K;123B;1.5;2;1;6.75;5.25;merge;Llama-2-70b
+ChuckMcSneed/BenchmaxxxerPS-v1-123b;Q6_K;123B;3;2;1;7.25;5.25;merge;Llama-2-70b
+ChuckMcSneed/BenchmaxxxerMOE-v1-123b(private);Q6_K;2x70B;2;1;3;7.25;5;merge;Llama-2-70b
+ChuckMcSneed/BenchmaxxxerSS-v1-123b(private);Q6_K;123B;1.5;2;0.5;6.5;5.5;merge;Llama-2-70b
+grimulkan/aurelian-v0.5-70b-rope8-32K-fp16;Q6_K;70B;1;1;0;2.5;2.25;finetune;Llama-2-70b
+ChuckMcSneed/DoubleGold-v0.5-123b-32k;Q6_K;123B;1;1;2;3.25;1.5;merge;Llama-2-70b
+grimulkan/lzlv-longLORA-70b-rope8-32k-fp16;Q6_K;70B;3;2;0;3.5;3.75;merge;Llama-2-70b
+grimulkan/Goliath-longLORA-120b-rope8-32k-fp16;Q6_K;120B;0.5;1.5;1;3.75;4.5;merge;Llama-2-70b
+sophosympatheia/Aurora-Nights-70B-v1.0;Q6_K;70B;2.5;2;0;7.25;3.5;merge;Llama-2-70b
+sophosympatheia/Aurora-Nights-103B-v1.0;Q6_K;103B;3;2;0;7.25;4.25;merge;Llama-2-70b
+XWIN-32k-experimental(equivalent to grimulkan/Xwin-longLORA-70b-rope8-32k-fp16?);Q6_K;70B;0;1.5;1;3.5;3.75;merge;Llama-2-70b
+deepnight-research/Saily_220B;Q3_K_L;208B;0;2;1;2.75;1.75;merge;Llama-2-70b
+deepnight-research/saily_100b;Q6_K;118B;0;0;0;4.5;5.25;merge;Llama-2-70b
+sophosympatheia/Midnight-Rose-70B-v1.0;Q6_K;70B;0;0;0;4;5;merge;Llama-2-70b
+abacusai/Smaug-34B-v0.1;F16;34B;0;2;0;1.25;2.5;finetune;
+ChuckMcSneed/WinterGoddess-1.4x-70b-32k;Q6_K;70B;2.5;2;0;1.5;2.25;merge;Llama-2-70b
+ChuckMcSneed/WinterGoliath-123b-32k;Q6_K;123B;3;2;1;3.75;3.75;merge;Llama-2-70b
+alpindale/miquella-120b(old);Q5_K_M;120B;0;0;0;3.25;0.25;merge;miqu
+miqudev/miqu-1-70b;Q5_K_M;70B;3;2;0;6.25;3.75;finetune;miqu
+ICBU-NPU/FashionGPT-70B-V1.1;Q6_K;70B;0;1.5;0;1.75;4;finetune;Llama-2-70b
+ibivibiv/strix-rufipes-70b;Q6_K;70B;0;2;0;1;3.25;finetune;Llama-2-70b
+Chat-Error/fiction.live-Kimiko-V2-70B;Q6_K;70B;0;1.5;0;1;2.25;finetune;Llama-2-70b
+MayaPH/GodziLLa2-70B;Q6_K;70B;1.5;0;1;1.75;4.75;finetune;Llama-2-70b
+WizardLM/WizardLM-70B-V1.0;Q6_K;70B;0;1;0;5.5;5.5;finetune;Llama-2-70b
+Mikael110/llama-2-70b-guanaco-qlora;Q6_K;70B;0;2;0;4.75;5;finetune;Llama-2-70b
+ChuckMcSneed/Gembo-v1-70b;Q6_K;70B;2.5;1.5;3;7.5;5.25;merge;Llama-2-70b
+Qwen/Qwen1.5-72B-Chat;Q5_K_M;72B;0;0;0;6;4.5;finetune;Qwen1.5-72B
+abacusai/Smaug-72B-v0.1(Alpaca format);Q5_K_S;72B;0.5;0.5;0.5;0.75;0.5;finetune;Qwen1.5-72B
+abacusai/Smaug-72B-v0.1(llama chat format);Q6_K;72B;0;0;0;0.5;2.5;finetune;Qwen1.5-72B
+ShinojiResearch/Senku-70B-Full;Q6_K;70B;0;1.5;3;3.75;3.75;finetune;miqu
+Undi95/Miqu-70B-Alpaca-DPO;Q6_K;70B;1.5;1;0;6;4.25;finetune;miqu
+TeeZee/Kyllene-34B-v1.1;F16;34B;0;2;0;4;2.75;merge;
+cloudyu/Mixtral_34Bx2_MoE_60B;Q8_0;2x34B;0;2;0;2.25;2;merge;
+TomGrc/FusionNet_7Bx2_MoE_v0.1;F16;2X7B;0;0;1;3.75;2.75;finetune;
+ChuckMcSneed/Gembo-v1.1-70b;Q6_K;70B;2.5;1.5;3;6.75;5.25;merge;Llama-2-70b
+miqu-123b(personal test merge);Q5_K_M;123B;2;0;1;7.75;4.5;merge;miqu
+wolfram/miqu-1-120b;Q5_K_M;120B;2;0;0;8;4.25;merge;miqu
+berkeley-nest/Starling-LM-7B-alpha;F16;7B;1.5;0.5;0;2.25;2.5;finetune;
+wolfram/miquliz-120b-v2.0;Q5_K_M;120B;1;2;1;7.25;5;merge;miqu
+sophosympatheia/Midnight-Rose-70B-v2.0.3;Q6_K;70B;2.5;1.5;0;6.75;4;merge;Llama-2-70b
+ValiantLabs/ShiningValiant;Q6_K;70B;2.5;1.5;0;1.5;1.75;finetune;Llama-2-70b
+Sao10K/Euryale-1.3-L2-70B+xwin-lora;Q6_K;70B;2;2;1;5.5;5.5;merge;Llama-2-70b
+Xwin-LM/Xwin-LM-70B-V0.1+euryale-lora;Q6_K;70B;3;2;2;6;5;merge;Llama-2-70b
+ChuckMcSneed/Premerge-XE-EX-123B(private);Q6_K;123B;2;2;2.5;6.75;5.5;merge;Llama-2-70b
+ChuckMcSneed/Premerge-EX-XE-123B(private);Q6_K;123B;2;2;2;5.75;6;merge;Llama-2-70b
+ChuckMcSneed/Premerge-XE-XE-123B;Q6_K;123B;3;2;2.5;7.25;5.25;merge;Llama-2-70b
+ChuckMcSneed/Premerge-EX-EX-123B;Q6_K;123B;2;2;1.5;7.25;6;merge;Llama-2-70b
+MaziyarPanahi/WizardLM-Math-70B-v0.1;Q6_K;70B;0;2;0;3.75;3;merge;Llama-2-70b
+NousResearch/Nous-Hermes-2-Llama-2-70B;Q6_K;70B;0;2;1;3.5;1.5;finetune;Llama-2-70b
+NeverSleep/MiquMaid-v2-70B-DPO;Q6_K;70B;3;1;0;2.75;0.5;finetune;miqu
+senseable/WestLake-7B-v2;F16;7B;0;1;1;4;3.75;finetune;
+CausalLM/34b-beta;F16;34B;0;2;3;2.75;3.75;finetune;
+budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune;Llama-2-70b
+CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune;
+Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune;
+wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge;miqu
+crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune;miqu
+ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge;Llama-2-70b
+migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune;miqu
+SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune;miqu
+CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune;
+mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base;Mixtral-8x22B
+alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune;Mixtral-8x22B
+openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune;Mixtral-8x22B
+mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune;Mixtral-8x22B
+openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune;Mixtral-8x22B
+miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge;miqu
+goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge;Llama-2-70b
+meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune;Llama-3-70b
+meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune;
+databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune;dbrx
+databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base;dbrx
+Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune;Qwen1.5-110B
+meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base;Llama-3-70b
+jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge;miqu
+llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge;Llama-3-70b
+cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune;Qwen1.5-110B
+jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune;Qwen1.5-110B
+jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune;Qwen1.5-110B
+sophosympatheia/Midnight-Miqu-70B-v1.5;Q6_K;70B;0;2;0;5.75;4.5;merge;miqu
+tdrussell/Llama-3-70B-Instruct-Storywriter;Q6_K;70B;3;0;3;7.75;4.25;finetune;Llama-3-70b
+crestf411/L3-70B-daybreak-abliterated-v0.4;Q6_K;70B;3;2;0;7.5;6;finetune;Llama-3-70b
+cognitivecomputations/dolphin-2.9.1-dbrx;Q6_K;16x12B;3;1;3;4;6;finetune;dbrx
+billyjoe/quill-72b-instruct;Q6_K;72B;1;1.5;0;6.75;5;finetune;Qwen2-72b
+cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune;Qwen2-72b
+alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune;Qwen2-72b
+google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune;
+google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune;
+deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune;DeepSeek-V2
+mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune;Mistral-Large-Instruct-2407
+NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune;Mistral-Large-Instruct-2407
+meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune;Llama-3.1-70b
+meta-llama/Meta-Llama-3.1-8B-Instruct;BF16;8B;0;0;2;6.5;3.75;finetune;
+mistralai/Mistral-Nemo-Instruct-2407;BF16;12B;0;2;3;6.75;5.25;finetune;
+NeverSleep/Lumimaid-v0.2-12B;BF16;12B;0;1;2;2.5;1.25;finetune;
+NeverSleep/Lumimaid-v0.2-70B;Q6_K;70B;1;2;3;6.5;3.5;finetune;Llama-3.1-70b
+SillyTilly/Meta-Llama-3.1-405B-Instruct;Q8_0;405B;3;0;3;6.25;4.5;finetune;Llama-3.1-405B
+dnhkng/RYS-XLarge;Q6_K;78B;0;0;3;5.25;2.25;finetune+merge;
+migtissera/Tess-3-Llama-3.1-405B;Q8_0;405B;3;2;3;4.5;4.5;finetune;Llama-3.1-405B
+migtissera/Tess-3-Mistral-Large-2-123B;Q6_K;123B;0;2;3;6.5;3.75;finetune;Mistral-Large-Instruct-2407
+crestf411/L3.1-70B-sunfall-v0.6.1;Q6_K;70B;1;2;2.5;7.5;4.25;finetune;Llama-3.1-70b
+mistralai/Mistral-Large-Instruct-2407;BF16;123B;0;2;3;8;5.5;finetune;Mistral-Large-Instruct-2407
+NousResearch/Hermes-3-Llama-3.1-70B;Q6_K;70B;3;2;3;6.75;5;finetune;Llama-3.1-70b
+NousResearch/Hermes-3-Llama-3.1-405B;Q8_0;405B;0;2;3;8;5.75;finetune;Llama-3.1-405B
+anthracite-org/magnum-v2-123b;Q6_K;123B;0;2;2;7;4.75;finetune;Mistral-Large-Instruct-2407
+anthracite-org/magnum-v2-72b;Q6_K;72B;0;2;0;5.75;4.75;finetune;Qwen2-72b
+Sao10K/L3.1-70B-Euryale-v2.2;Q6_K;70B;3;2;3;7.5;2.5;finetune;Llama-3.1-70b
+anthracite-org/magnum-v3-34b;BF16;34B;3;1;0;4.5;4;finetune;
+CohereForAI/c4ai-command-r-08-2024;F16;32B;0;0;0;6;4.75;finetune;
+CohereForAI/c4ai-command-r-plus-08-2024;Q6_K;104B;0;1;2;7.25;5;finetune;
+FluffyKaeloky/Luminum-v0.1-123B;Q6_K;123B;0;2;3;7.5;5.25;merge;Mistral-Large-Instruct-2407
+Qwen/Qwen2.5-72B-Instruct;Q6_K;72B;1;0;2;6.75;1.75;finetune;Qwen2.5-72B-Instruct
+mistralai/Mistral-Small-Instruct-2409;BF16;22B;0;2;2;6;4;finetune;
+TheDrummer/Behemoth-123B-v1;Q6_K;123B;0;2;3;7.25;5.5;finetune;Mistral-Large-Instruct-2407
+nvidia/Llama-3.1-Nemotron-70B-Instruct-HF;Q6_K;70B;0;1.5;3;7.5;4.75;finetune;Llama-3.1-70b
+anthracite-org/magnum-v4-123b;Q6_K;123B;3;2;3;7;4.5;finetune;Mistral-Large-Instruct-2407
+TheDrummer/Behemoth-123B-v1.1;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2407
+Nexusflow/Athene-V2-Chat;Q6_K;72B;1;0;3;6.25;2.25;finetune;Qwen2.5-72B-Instruct
+mistralai/Mistral-Large-Instruct-2411;Q6_K;123B;0;0;3;7.5;4.25;finetune;Mistral-Large-Instruct-2411
+TheDrummer/Behemoth-123B-v2;Q6_K;123B;1;2;3;6.75;5.5;finetune;Mistral-Large-Instruct-2411
+TheDrummer/Behemoth-123B-v2.1;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2411
+TheDrummer/Behemoth-123B-v2.2;Q6_K;123B;0;2;3;7.5;5;finetune;Mistral-Large-Instruct-2411
+TheDrummer/Behemoth-123B-v1.2;Q6_K;123B;0;2;3;7.25;5.25;finetune;Mistral-Large-Instruct-2407
+TheDrummer/Lazarus-2407-100B;Q6_K;123B;0;2;1;6.5;5;merge;Mistral-Large-Instruct-2407
+Maximum;n/a;n/a;3;2;3;8;6;;