ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF
Image-Text-to-Text • 27B • Updated • 1.34M • 2.95k
Note IQ3_S помещается в 20 гигабайтную видюху с 100к контекста, генерирует 10-15 т/с.
Note IQ3_M помещается в мою вторую 20 гигабайтную видеокарту, генерирует 50 т/с.
Note IQ4_XS помещается в мою вторую 20 гигабайтную видеокарту, генерирует 40 т/с.