Blackwell4ComfyUI
English | 简体中文
面向 ComfyUI Windows 环境与 NVIDIA Blackwell(RTX 50 系列)显卡整理的注意力加速扩展预编译包集合。项目当前提供适配 Python 3.11、PyTorch 2.9.1 与 CUDA 13.0 的 Windows x64 wheel,省去本地配置 Visual Studio、CUDA 编译工具链以及长时间编译的过程。
包含组件
| 组件 | 包名 | 版本 | 用途 |
|---|---|---|---|
| Block Sparse Attention | block_sparse_attn |
0.0.1 | 提供密集、流式和块稀疏注意力内核,可降低长序列注意力计算开销 |
| SpargeAttention | spas_sage_attn |
0.1.0 | 基于 SageAttention2 的免训练稀疏注意力实现,适用于语言、图像和视频模型推理 |
| SageAttention | sageattention |
2.2.0 | 通过量化注意力内核加速推理,同时兼顾计算精度 |
| FlashAttention | flash_attn |
2.8.4 | 内存高效的精确注意力内核,可加速模型训练与推理 |
当前兼容环境
- 操作系统:Windows x64
- Python:CPython 3.11
- PyTorch:2.9.1
- CUDA:13.0
- GPU:主要面向 NVIDIA Blackwell / RTX 50 系列
wheel 属于与运行环境紧密绑定的二进制包。Python、PyTorch、CUDA 或系统架构不匹配时,可能无法安装,或在导入、运行阶段出现动态库及 CUDA 内核错误。
目录结构
Blackwell4ComfyUI/
├─ Block-Sparse-Attention/
│ └─ cp311-torch2.9.1-cu130-win/
│ └─ block_sparse_attn-0.0.1-...-win_amd64.whl
├─ FlashAttention/
│ └─ cp311-torch2.9.1-cu130-win/
│ └─ flash_attn-2.8.4-...-win_amd64.whl
├─ SageAttention/
│ └─ cp311-torch2.9.1-cu130-win/
│ └─ sageattention-2.2.0-...-win_amd64.whl
└─ SpargeAttn/
└─ cp311-torch2.9.1-cu130-win/
└─ spas_sage_attn-0.1.0-...-win_amd64.whl
安装
请使用 ComfyUI 实际使用的 Python 解释器执行安装,而不是系统中另一个 Python。先确认环境版本:
python -c "import sys, torch; print(sys.version); print(torch.__version__); print(torch.version.cuda)"
确认输出与上述兼容环境一致后,安装所需 wheel:
python -m pip install ".\Block-Sparse-Attention\cp311-torch2.9.1-cu130-win\block_sparse_attn-0.0.1-cp311-cp311-torch2.9.1-cu130-win_amd64.whl"
python -m pip install ".\SpargeAttn\cp311-torch2.9.1-cu130-win\spas_sage_attn-0.1.0-cp311-cp311-torch2.9.1-cu130-win_amd64.whl"
python -m pip install ".\SageAttention\cp311-torch2.9.1-cu130-win\sageattention-2.2.0-cp311-cp311-torch2.9.1-cu130-win_amd64.whl"
python -m pip install ".\FlashAttention\cp311-torch2.9.1-cu130-win\flash_attn-2.8.4-cp311-cp311-torch2.9.1-cu130-win_amd64.whl"
Block Sparse Attention 还声明了以下运行依赖:torch、einops、packaging 和 ninja。安装 wheel 时,pip 通常会自动处理缺失依赖;为了避免替换 ComfyUI 已配置好的 PyTorch,建议安装前检查 pip 给出的依赖变更信息。
安装后可以验证模块是否能够导入:
python -c "import block_sparse_attn; print('block_sparse_attn: OK')"
python -c "import spas_sage_attn; print('spas_sage_attn: OK')"
python -c "import sageattention; print('sageattention: OK')"
python -c "import flash_attn; print('flash_attn: OK')"
使用提示
- 安装或升级前建议备份 ComfyUI 的 Python 环境。
- 不要让 pip 自动升级或降级现有的 PyTorch/CUDA 组件,除非明确知道环境兼容关系。
- “能够导入”只代表扩展已加载;仍应在目标工作流中实际运行一次,以验证显卡架构和 CUDA 内核兼容性。
- 这些包是底层 Python/CUDA 扩展,本身不是 ComfyUI 自定义节点。是否生效取决于对应节点或模型代码是否调用其 API。
上游项目
各组件的源代码、许可证、接口说明及论文引用以对应上游项目为准。本项目仅整理特定 Windows/ComfyUI 环境所需的预编译产物。
许可证
本仓库的原创内容采用 Apache License 2.0 许可。
仓库内随附的第三方 wheel 及其内容仍遵循各自的上游许可证。Apache-2.0 不替代或修改这些许可证;重新分发前请查阅包元数据及对应的上游项目。