Upload 2 files
Browse files- LLM-test.csv +6 -5
- llm-results.png +2 -2
LLM-test.csv
CHANGED
|
@@ -135,7 +135,7 @@ cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune;Qwe
|
|
| 135 |
alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune;Qwen2-72b
|
| 136 |
google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune;
|
| 137 |
google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune;
|
| 138 |
-
deepseek-ai/DeepSeek-V2-Chat-0628;BF16;
|
| 139 |
mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune;Mistral-Large-Instruct-2407
|
| 140 |
NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune;Mistral-Large-Instruct-2407
|
| 141 |
meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune;Llama-3.1-70b
|
|
@@ -175,19 +175,20 @@ bartowski/Lazarus-2407-100B-GGUF;Q6_K;100B;0;2;1;6.5;5;merge;Mistral-Large-Instr
|
|
| 175 |
meta-llama/Llama-3.3-70B-Instruct;Q6_K;70B;0;2;3;6.75;5;finetune;Llama-3.1-70b
|
| 176 |
TheDrummer/Endurance-100B-v1;Q6_K;100B;0;2;3;7;5;finetune+merge;Mistral-Large-Instruct-2407
|
| 177 |
TheDrummer/Endurance-100B-v1.1;Q6_K;100B;0;2;3;7;4.25;finetune+merge;Mistral-Large-Instruct-2407
|
| 178 |
-
deepseek-ai/DeepSeek-V3;Q8_0;
|
| 179 |
mistralai/Mistral-Small-24B-Instruct-2501;BF16;24B;1;2;3;5.75;1.75;finetune;
|
| 180 |
google/gemma-3-27b-it;BF16;27B;0.5;0.5;0;7;2;finetune;
|
| 181 |
CohereForAI/c4ai-command-a-03-2025;Q6_K;111B;1;2;2;6.25;4.5;finetune;c4ai-command-a-03-2025
|
| 182 |
mistralai/Mistral-Small-3.1-24B-Instruct-2503;BF16;24B;0;2;3;5.5;1;finetune;
|
| 183 |
TheDrummer/Fallen-Command-A-111B-v1;Q6_K;111B;0;1;0;5.5;5.25;finetune;c4ai-command-a-03-2025
|
| 184 |
BeaverAI/Fallen-Command-A-111B-v1a-GGUF;Q5_K_M;111B;0;2;2;6.25;5;finetune;c4ai-command-a-03-2025
|
| 185 |
-
meta-llama/Llama-4-Scout-17B-16E-Instruct;Q6_K;
|
| 186 |
TheDrummer/Fallen-Command-A-111B-v1.1;Q6_K;111B;0;2;2;6.75;5;finetune;c4ai-command-a-03-2025
|
| 187 |
Qwen/Qwen3-32B (no thinking);BF16;32B;0;0;3;5.5;1;finetune;
|
| 188 |
-
Qwen/Qwen3-235B-A22B (no thinking);Q3_K_L;
|
| 189 |
-
Qwen/Qwen3-235B-A22B (no thinking);BF16;
|
| 190 |
nvidia/Llama-3_1-Nemotron-Ultra-253B-v1 (no thinking);BF16;253B;0;1.5;3;5.25;2;finetune;Llama-3.1-405B
|
| 191 |
THUDM/GLM-4-32B-0414;BF16;32B;0;1;0;6.75;4;finetune;
|
| 192 |
tiiuae/Falcon-H1-34B-Instruct;BF16;34B;0;0;3;3.75;2.75;finetune;
|
|
|
|
| 193 |
Maximum;n/a;n/a;3;2;3;8;6;;
|
|
|
|
| 135 |
alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune;Qwen2-72b
|
| 136 |
google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune;
|
| 137 |
google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune;
|
| 138 |
+
deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21BA236B;1;1;3;5.75;3.25;finetune;DeepSeek-V2
|
| 139 |
mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune;Mistral-Large-Instruct-2407
|
| 140 |
NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune;Mistral-Large-Instruct-2407
|
| 141 |
meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune;Llama-3.1-70b
|
|
|
|
| 175 |
meta-llama/Llama-3.3-70B-Instruct;Q6_K;70B;0;2;3;6.75;5;finetune;Llama-3.1-70b
|
| 176 |
TheDrummer/Endurance-100B-v1;Q6_K;100B;0;2;3;7;5;finetune+merge;Mistral-Large-Instruct-2407
|
| 177 |
TheDrummer/Endurance-100B-v1.1;Q6_K;100B;0;2;3;7;4.25;finetune+merge;Mistral-Large-Instruct-2407
|
| 178 |
+
deepseek-ai/DeepSeek-V3;Q8_0;37BA671B;1;2;3;6.5;6;finetune;
|
| 179 |
mistralai/Mistral-Small-24B-Instruct-2501;BF16;24B;1;2;3;5.75;1.75;finetune;
|
| 180 |
google/gemma-3-27b-it;BF16;27B;0.5;0.5;0;7;2;finetune;
|
| 181 |
CohereForAI/c4ai-command-a-03-2025;Q6_K;111B;1;2;2;6.25;4.5;finetune;c4ai-command-a-03-2025
|
| 182 |
mistralai/Mistral-Small-3.1-24B-Instruct-2503;BF16;24B;0;2;3;5.5;1;finetune;
|
| 183 |
TheDrummer/Fallen-Command-A-111B-v1;Q6_K;111B;0;1;0;5.5;5.25;finetune;c4ai-command-a-03-2025
|
| 184 |
BeaverAI/Fallen-Command-A-111B-v1a-GGUF;Q5_K_M;111B;0;2;2;6.25;5;finetune;c4ai-command-a-03-2025
|
| 185 |
+
meta-llama/Llama-4-Scout-17B-16E-Instruct;Q6_K;17BA109B;1;1;0;6;2.25;finetune;
|
| 186 |
TheDrummer/Fallen-Command-A-111B-v1.1;Q6_K;111B;0;2;2;6.75;5;finetune;c4ai-command-a-03-2025
|
| 187 |
Qwen/Qwen3-32B (no thinking);BF16;32B;0;0;3;5.5;1;finetune;
|
| 188 |
+
Qwen/Qwen3-235B-A22B (no thinking);Q3_K_L;22BA235B;0;2;0;5;2.25;finetune;
|
| 189 |
+
Qwen/Qwen3-235B-A22B (no thinking);BF16;22BA235B;0;2;0;4.5;3.5;finetune;
|
| 190 |
nvidia/Llama-3_1-Nemotron-Ultra-253B-v1 (no thinking);BF16;253B;0;1.5;3;5.25;2;finetune;Llama-3.1-405B
|
| 191 |
THUDM/GLM-4-32B-0414;BF16;32B;0;1;0;6.75;4;finetune;
|
| 192 |
tiiuae/Falcon-H1-34B-Instruct;BF16;34B;0;0;3;3.75;2.75;finetune;
|
| 193 |
+
moonshotai/Kimi-K2-Instruct;Q5_K_L;32BA1T;1;2;3;7.5;2;finetune;
|
| 194 |
Maximum;n/a;n/a;3;2;3;8;6;;
|
llm-results.png
CHANGED
|
Git LFS Details
|
|
Git LFS Details
|