how did you do it?
#4
by
ehartford
- opened
can I make one too?
did you use distillkit?
can you share a config file?
@Crystalcareai Can you help Eric (CognitiveComputations) out?
Ps... I love this model by the way - its intelligence and uncensored nature makes it a prime candidate for almost any task. Plus, what a great homage to Mistral-Nemo; keep cooking. Need more distills that follow this methodical approach; its 🔥.🤩😋
Лучшая модель что я нашёл для RTX 3080 10Gb VRAM + 64Gb RAM (8бит квант gguf). Самая быстрая для своего уровня "ума". Перебрал десятка два моделей, выкачал их на ~500гигабайт и эта, скаченная одной из первых давала результаты в моих тестах на логику и тестах на "человечность" самые лучшие результаты. Большое Вам спасибо!