ChuckMcSneed commited on
Commit
283bcbd
·
verified ·
1 Parent(s): b284e66

Upload 2 files

Browse files
Files changed (2) hide show
  1. LLM-test.csv +6 -5
  2. llm-results.png +2 -2
LLM-test.csv CHANGED
@@ -135,7 +135,7 @@ cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune;Qwe
135
  alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune;Qwen2-72b
136
  google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune;
137
  google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune;
138
- deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune;DeepSeek-V2
139
  mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune;Mistral-Large-Instruct-2407
140
  NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune;Mistral-Large-Instruct-2407
141
  meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune;Llama-3.1-70b
@@ -175,19 +175,20 @@ bartowski/Lazarus-2407-100B-GGUF;Q6_K;100B;0;2;1;6.5;5;merge;Mistral-Large-Instr
175
  meta-llama/Llama-3.3-70B-Instruct;Q6_K;70B;0;2;3;6.75;5;finetune;Llama-3.1-70b
176
  TheDrummer/Endurance-100B-v1;Q6_K;100B;0;2;3;7;5;finetune+merge;Mistral-Large-Instruct-2407
177
  TheDrummer/Endurance-100B-v1.1;Q6_K;100B;0;2;3;7;4.25;finetune+merge;Mistral-Large-Instruct-2407
178
- deepseek-ai/DeepSeek-V3;Q8_0;37A671B;1;2;3;6.5;6;finetune;
179
  mistralai/Mistral-Small-24B-Instruct-2501;BF16;24B;1;2;3;5.75;1.75;finetune;
180
  google/gemma-3-27b-it;BF16;27B;0.5;0.5;0;7;2;finetune;
181
  CohereForAI/c4ai-command-a-03-2025;Q6_K;111B;1;2;2;6.25;4.5;finetune;c4ai-command-a-03-2025
182
  mistralai/Mistral-Small-3.1-24B-Instruct-2503;BF16;24B;0;2;3;5.5;1;finetune;
183
  TheDrummer/Fallen-Command-A-111B-v1;Q6_K;111B;0;1;0;5.5;5.25;finetune;c4ai-command-a-03-2025
184
  BeaverAI/Fallen-Command-A-111B-v1a-GGUF;Q5_K_M;111B;0;2;2;6.25;5;finetune;c4ai-command-a-03-2025
185
- meta-llama/Llama-4-Scout-17B-16E-Instruct;Q6_K;17A109B;1;1;0;6;2.25;finetune;
186
  TheDrummer/Fallen-Command-A-111B-v1.1;Q6_K;111B;0;2;2;6.75;5;finetune;c4ai-command-a-03-2025
187
  Qwen/Qwen3-32B (no thinking);BF16;32B;0;0;3;5.5;1;finetune;
188
- Qwen/Qwen3-235B-A22B (no thinking);Q3_K_L;22A235B;0;2;0;5;2.25;finetune;
189
- Qwen/Qwen3-235B-A22B (no thinking);BF16;22A235B;0;2;0;4.5;3.5;finetune;
190
  nvidia/Llama-3_1-Nemotron-Ultra-253B-v1 (no thinking);BF16;253B;0;1.5;3;5.25;2;finetune;Llama-3.1-405B
191
  THUDM/GLM-4-32B-0414;BF16;32B;0;1;0;6.75;4;finetune;
192
  tiiuae/Falcon-H1-34B-Instruct;BF16;34B;0;0;3;3.75;2.75;finetune;
 
193
  Maximum;n/a;n/a;3;2;3;8;6;;
 
135
  alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune;Qwen2-72b
136
  google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune;
137
  google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune;
138
+ deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21BA236B;1;1;3;5.75;3.25;finetune;DeepSeek-V2
139
  mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune;Mistral-Large-Instruct-2407
140
  NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune;Mistral-Large-Instruct-2407
141
  meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune;Llama-3.1-70b
 
175
  meta-llama/Llama-3.3-70B-Instruct;Q6_K;70B;0;2;3;6.75;5;finetune;Llama-3.1-70b
176
  TheDrummer/Endurance-100B-v1;Q6_K;100B;0;2;3;7;5;finetune+merge;Mistral-Large-Instruct-2407
177
  TheDrummer/Endurance-100B-v1.1;Q6_K;100B;0;2;3;7;4.25;finetune+merge;Mistral-Large-Instruct-2407
178
+ deepseek-ai/DeepSeek-V3;Q8_0;37BA671B;1;2;3;6.5;6;finetune;
179
  mistralai/Mistral-Small-24B-Instruct-2501;BF16;24B;1;2;3;5.75;1.75;finetune;
180
  google/gemma-3-27b-it;BF16;27B;0.5;0.5;0;7;2;finetune;
181
  CohereForAI/c4ai-command-a-03-2025;Q6_K;111B;1;2;2;6.25;4.5;finetune;c4ai-command-a-03-2025
182
  mistralai/Mistral-Small-3.1-24B-Instruct-2503;BF16;24B;0;2;3;5.5;1;finetune;
183
  TheDrummer/Fallen-Command-A-111B-v1;Q6_K;111B;0;1;0;5.5;5.25;finetune;c4ai-command-a-03-2025
184
  BeaverAI/Fallen-Command-A-111B-v1a-GGUF;Q5_K_M;111B;0;2;2;6.25;5;finetune;c4ai-command-a-03-2025
185
+ meta-llama/Llama-4-Scout-17B-16E-Instruct;Q6_K;17BA109B;1;1;0;6;2.25;finetune;
186
  TheDrummer/Fallen-Command-A-111B-v1.1;Q6_K;111B;0;2;2;6.75;5;finetune;c4ai-command-a-03-2025
187
  Qwen/Qwen3-32B (no thinking);BF16;32B;0;0;3;5.5;1;finetune;
188
+ Qwen/Qwen3-235B-A22B (no thinking);Q3_K_L;22BA235B;0;2;0;5;2.25;finetune;
189
+ Qwen/Qwen3-235B-A22B (no thinking);BF16;22BA235B;0;2;0;4.5;3.5;finetune;
190
  nvidia/Llama-3_1-Nemotron-Ultra-253B-v1 (no thinking);BF16;253B;0;1.5;3;5.25;2;finetune;Llama-3.1-405B
191
  THUDM/GLM-4-32B-0414;BF16;32B;0;1;0;6.75;4;finetune;
192
  tiiuae/Falcon-H1-34B-Instruct;BF16;34B;0;0;3;3.75;2.75;finetune;
193
+ moonshotai/Kimi-K2-Instruct;Q5_K_L;32BA1T;1;2;3;7.5;2;finetune;
194
  Maximum;n/a;n/a;3;2;3;8;6;;
llm-results.png CHANGED

Git LFS Details

  • SHA256: d39485011c5560710b4c689e71154dd2b128eb07d170d83d26fdafb1583be234
  • Pointer size: 132 Bytes
  • Size of remote file: 1.06 MB

Git LFS Details

  • SHA256: eae6694518858e9dfe0b76bc7118ae2de9f7b99e4306ba86554f6a24455fd04d
  • Pointer size: 131 Bytes
  • Size of remote file: 936 kB