Android/Termux Patch
Эта версия circuit_sparsity содержит патчи, позволяющие запускать модель на Android (Termux) без blobfile, без CUDA и без интернет‑доступа.
Что изменено
- Частично отключён
blobfile(он зависает на Android). - Заменён
read_file_cachedна обычное чтение черезopen(). - Убраны все обращения к URL — загрузка моделей теперь только локальная.
- Добавлен фильтр неизвестных полей в
GPTConfig(исправляет ошибки с новыми ключами вродеignore_dw_grad,afrac_approxи др.). - Исправлен путь к весам (
bf.join→ обычные строки). - Пример
bracket_counting_example.pyпереписан в оффлайн‑режим (без скачивания viz_data). - Модель
csp_yolo2иcsp_smallтеперь работают на CPU ARM64 без зависаний. - Убраны все зависимые части, требующие FlashAttention или GPU.
Зачем это нужно
Оригинальный проект не работает на Android из-за:
- зависаний blobfile,
- отсутствия CUDA,
- попыток скачивать файлы с Azure,
- несовместимых полей в конфиге моделей.
Этот форк делает проект полностью автономным и пригодным для запуска на телефоне.
Статус
✔ Модель загружается
✔ Inference работает
✔ Примеры запускаются оффлайн
✔ Поддержка Termux / Python 3.13
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support