Update README.md
Browse files
README.md
CHANGED
|
@@ -153,9 +153,20 @@ quantize(
|
|
| 153 |
"*.norm", "*.norm1", "*.norm2", "*.norm2_context",
|
| 154 |
"proj_out", "x_embedder", "norm_out", "context_embedder",
|
| 155 |
],
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 156 |
)
|
|
|
|
| 157 |
freeze(pipe.transformer)
|
| 158 |
freeze(pipe.ip_adapter)
|
|
|
|
| 159 |
|
| 160 |
# Enable Model Offloading
|
| 161 |
pipe.enable_model_cpu_offload()
|
|
|
|
| 153 |
"*.norm", "*.norm1", "*.norm2", "*.norm2_context",
|
| 154 |
"proj_out", "x_embedder", "norm_out", "context_embedder",
|
| 155 |
],
|
| 156 |
+
|
| 157 |
+
|
| 158 |
+
quantize(
|
| 159 |
+
pipe.control_net,
|
| 160 |
+
weights=qint8,
|
| 161 |
+
exclude=[
|
| 162 |
+
"*.norm", "*.norm1", "*.norm2", "*.norm2_context",
|
| 163 |
+
"proj_out", "x_embedder", "norm_out", "context_embedder",
|
| 164 |
+
],
|
| 165 |
)
|
| 166 |
+
|
| 167 |
freeze(pipe.transformer)
|
| 168 |
freeze(pipe.ip_adapter)
|
| 169 |
+
freeze(pipe.control_net)
|
| 170 |
|
| 171 |
# Enable Model Offloading
|
| 172 |
pipe.enable_model_cpu_offload()
|