metadata
base_model: numind/NuMarkdown-8B-Thinking
base_model_relation: quantized
model_type: qwen2.5_vl
quantized_by: LeD_XIII
language:
- en
license: mit
tags:
- quantized
- OCR
- vision-language-model
NuMarkdown-8B-Thinking - bnb4 Quantized
Русский
Это квантованная версия модели numind/NuMarkdown-8B-Thinking.
Сквантована с использованием https://github.com/LeDXIII/BNB4-Model-converter
Создана специально для быстрого старта работы с программой распознавания текста: https://github.com/LeDXIII/NuMarkdown-OCR-bnb4
Описание квантизации
- Тип квантизации: bnb4
- Размер модели: 5,5 ГБ
- Исходный размер: ~16 ГБ (оригинальная модель)
English Description
This is a quantized version of the numind/NuMarkdown-8B-Thinking model.
Quantized using https://github.com/LeDXIII/BNB4-Model-converter
Created specifically for a quick start with the text recognition program: https://github.com/LeDXIII/NuMarkdown-OCR-bnb4
Quantization Details
- Quantization Type: bnb4
- Model Size: 5.5 GB
- Original Size: ~16 GB (original model)