windows上面能够正常使用OvisOCR2吗
#5
by Yunfei1994 - opened
- OvisOCR2 基于 Qwen3.5-0.8B ，它使用了 Gated Delta Network (GDN) 线性注意力层
- 这种线性注意力需要 flash-linear-attention (FLA) 库加速——这不是普通的 flash-attn，是专门针对线性注意力的加速库
- 没有 FLA 时，回退到纯 PyTorch 实现 → 每页6分钟 （实测）
- FLA 的依赖链在 Windows 上断裂：
- 需要 PyTorch ≥ 2.7.0 → Windows cu124 最高只有 2.6.0
- 需要 Triton ≥ 3.3 → Windows 上 Triton 仍是实验性支持
- 还需要 causal-conv1d → 需要 CUDA 编译，Windows 无官方 wheel
总之： Qwen3.5 的线性注意力架构在 Windows 上跑不快 ，这是架构级别的限制，不是简单装个包能解决的。