Datasets:

Modalities:
Image
Size:
< 1K
Libraries:
Datasets
License:
zhongdongy SuSung-boy commited on
Commit
e52242a
1 Parent(s): f91e691

Upload controlnet-cn.md (#54)

Browse files

- Upload controlnet-cn.md (2ef1f2e77c852dce13b8bbcc7dbe056d332cd399)


Co-authored-by: SuSung-boy <SuSung-boy@users.noreply.huggingface.co>

Files changed (1) hide show
  1. controlnet-cn.md +422 -0
controlnet-cn.md ADDED
@@ -0,0 +1,422 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ title: "ControlNet in 🧨 Diffusers"
3
+ thumbnail: /blog/assets/controlnet/thumbnail.png
4
+ authors:
5
+ - user: sayakpaul
6
+ - user: yiyixu
7
+ - user: patrickvonplaten
8
+ ---
9
+
10
+ # 使用 🧨 Diffusers 实现 ControlNet 高速推理
11
+
12
+ <!-- {blog_metadata} -->
13
+ <!-- {authors} -->
14
+
15
+ <script async defer src="https://unpkg.com/medium-zoom-element@0/dist/medium-zoom-element.min.js"></script>
16
+
17
+ <style>
18
+ .mx-auto {
19
+ margin-left: auto;
20
+ margin-right: auto;
21
+ }
22
+ </style>
23
+
24
+ <a target="_blank" href="https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/controlnet.ipynb">
25
+ <img src="https://colab.research.google.com/assets/colab-badge.svg" alt="Open In Colab"/>
26
+ </a>
27
+
28
+ 自从 Stable Diffusion 风靡全球以来,人们一直在寻求如何更好地控制生成过程的方法。ControlNet 提供了一个简单的迁移学习方法,能够允许用户在很大程度上自定义生成过程。通过 [ControlNet](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/controlnet),用户可以轻松地使用多种空间语义条件信息(例如深度图、分割图、涂鸦图、关键点等)来控制生成过程。
29
+
30
+ 具体来说,我们可以:
31
+
32
+ 将卡通绘图转化为逼真的照片,同时保持极佳的布局连贯性。
33
+
34
+ <table>
35
+ <tr style="text-align: center;">
36
+ <th>Realistic Lofi Girl</th>
37
+ </tr>
38
+ <tr>
39
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/lofi.jpg" width=300 /></td>
40
+ </tr>
41
+ </table>
42
+
43
+ 进行室内设计。
44
+
45
+ <table>
46
+ <tr style="text-align: center;">
47
+ <th>Before</th>
48
+ <th>After</th>
49
+ </tr>
50
+ <tr>
51
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/house_depth.png" width=300/></td>
52
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/house_after.jpeg" width=300/></td>
53
+ </tr>
54
+ </table>
55
+
56
+ 将涂鸦草图变成艺术作品。
57
+
58
+ <table>
59
+ <tr style="text-align: center;">
60
+ <th>Before</th>
61
+ <th>After</th>
62
+ </tr>
63
+ <tr>
64
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/drawing_before.png" width=300/></td>
65
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/drawing_after.jpeg" width=300/></td>
66
+ </tr>
67
+ </table>
68
+
69
+ 甚至拟人化著名的 logo 形象。
70
+
71
+ <table>
72
+ <tr style="text-align: center;">
73
+ <th>Before</th>
74
+ <th>After</th>
75
+ </tr>
76
+ <tr>
77
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/starbucks_logo.jpeg" width=300/></td>
78
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/starbucks_after.png" width=300/></td>
79
+ </tr>
80
+ </table>
81
+
82
+ ControlNet,使一切皆有可能 🌠
83
+
84
+ 本文的主要内容:
85
+
86
+ 1. 介绍 [`StableDiffusionControlNetPipeline`](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/controlnet)
87
+ 2. 展示多种控制条件样例
88
+
89
+ 让我们开启控制之旅!
90
+
91
+ ## ControlNet 简述
92
+
93
+ ControlNet 在 [Adding Conditional Control to Text-to-Image Diffusion Models](https://arxiv.org/abs/2302.05543) 一文中提被出,作者是 Lvmin Zhang 和 Maneesh Agrawala。它引入了一个框架,支持在扩散模型(如 Stable Diffusion)上附加额外的多种空间语义条件来控制生成过程。
94
+
95
+ 训练 ControlNet 包括以下步骤:
96
+
97
+ 1. 克隆扩散模型的预训练参数(文中称为 **可训练副本**, trainable copy。如 Stable Diffusion 的 latent UNet 部分),同时保留原本的预训练参数(文中称为 **锁定副本**, locked copy)。这样可以实现:a) 让锁定副本保留从大型数据集中学到的丰富知识;b) 让可训练副本学习特定任务的知识。
98
+ 2. 可训练副本和锁定副本的参数通过 “零卷积” 层(详见 [此处](https://github.com/lllyasviel/ControlNet#controlnet))连接。“零卷积” 层是 ControlNet 框架的一部分,会在特定任务中优化参数。这是一种训练技巧,可以在新任务条件训练时保留已冻结模型已经学到的语义信息。
99
+
100
+ 训练 ControlNet 的过程如图所示:
101
+
102
+ <p align="center">
103
+ <img src="https://github.com/lllyasviel/ControlNet/raw/main/github_page/sd.png" alt="controlnet-structure"><br>
104
+ <em>图表摘录于<a href=https://github.com/lllyasviel/ControlNet/blob/main/github_page/sd.png>此处</a></em>
105
+ </p>
106
+
107
+ ControlNet 训练集中的其中一种样例如下(额外的控制条件是 Canny 边缘图):
108
+
109
+ <table>
110
+ <tr style="text-align: center;">
111
+ <th>Prompt</th>
112
+ <th>Original Image</th>
113
+ <th>Conditioning</th>
114
+ </tr>
115
+ <tr style="text-align: center;">
116
+ <td style="vertical-align: middle">"bird"</td>
117
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/controlnet/original_bird.png" width=200/></td>
118
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/controlnet/canny_map.png" width=200/></td>
119
+ </tr>
120
+ </table>
121
+
122
+ 同样地,如果我们使用的额外控制条件是语义分割图,那么 ControlNet 训练集的样例就是这样:
123
+
124
+ <table>
125
+ <tr style="text-align: center;">
126
+ <th>Prompt</th>
127
+ <th>Original Image</th>
128
+ <th>Conditioning</th>
129
+ </tr>
130
+ <tr style="text-align: center;">
131
+ <td style="vertical-align: middle">"big house"</td>
132
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/controlnet/original_house.png" width=300/></td>
133
+ <td><img class="mx-auto" src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/controlnet/segmentation_map.png" width=300/></td>
134
+ </tr>
135
+ </table>
136
+
137
+ 每对 ControlNet 施加一种额外的控制条件,都需要训练一份新的可训练副本参数。论文中提出了 8 种不同的控制条件,对应的控制模型在 [Diffusers](https://huggingface.co/lllyasviel?search=controlnet) 中均已支持!
138
+
139
+ 推理阶段需要同时使用扩散模型的预训练权重以及训练过的 ControlNet 权重。如要使用 [Stable Diffusion v1-5](https://huggingface.co/runwayml/stable-diffusion-v1-5) 以及其 ControlNet 权重推理,其参数量要比仅使用 Stable Diffusion v1-5 多大约 7 亿个,因此推理 ControlNet 需要消耗更多的内存。
140
+
141
+ 由于在训练过程中扩散模型预训练参数为锁定副本,因此在使用不同的控制条件训练时,只需要切换 ControlNet 可训练副本的参数即可。这样在一个应用程序中部署多个 ControlNet 权重就非常简单了,本文会在后面详细介绍。
142
+
143
+ ## `StableDiffusionControlNetPipeline`
144
+
145
+ 在开始之前,我们要向社区贡献者 [Takuma Mori](https://github.com/takuma104) 表示巨大的感谢。将 ControlNet 集成到 Diffusers 中,他功不可没 ❤️。
146
+
147
+ 类似 Diffusers 中的 [其他 Pipeline](https://huggingface.co/docs/diffusers/api/pipelines/overview),Diffusers 同样为 ControlNet 提供了 [`StableDiffusionControlNetPipeline`](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/controlnet) 供用户使用。 `StableDiffusionControlNetPipeline` 的核心是 `controlnet` 参数,它接收用户指定的训练过的 [`ControlNetModel`](https://huggingface.co/docs/diffusers/main/en/api/models#diffusers.ControlNetModel) 实例作为输入,同时保持扩散模型的预训练权重不变。
148
+
149
+ 本文将介绍 `StableDiffusionControlNetPipeline` 的多个不同用例。首先要介绍的第一个 ControlNet 模型是 [Canny 模型](https://huggingface.co/runwayml/stable-diffusion-v1-5),这是目前最流行的 ControlNet 模型之一,您可能已经在网上见识过一些它生成的精美图片。在阅读到各个部分的代码时,也欢迎您使用此 [Colab 笔记本](https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/controlnet.ipynb) 运行相关代码片段。
150
+
151
+ 运行代码之前,首先确保我们已经安装好所有必要的库:
152
+
153
+ ```bash
154
+ pip install diffusers==0.14.0 transformers xformers git+https://github.com/huggingface/accelerate.git
155
+ ```
156
+
157
+ 为处理不同 ControlNet 对应的多种控制条件,还需要安装一些额外的依赖项:
158
+
159
+ - [OpenCV](https://opencv.org/)
160
+ - [controlnet-aux](https://github.com/patrickvonplaten/controlnet_aux#controlnet-auxiliary-models) - ControlNet 预处理模型库
161
+
162
+ ```bash
163
+ pip install opencv-contrib-python
164
+ pip install controlnet_aux
165
+ ```
166
+
167
+ 我们将以著名的油画作品[《戴珍珠耳环的少女》](https://en.wikipedia.org/wiki/Girl_with_a_Pearl_Earring)为例,首先让我们下载这张图像并查看一下:
168
+
169
+ ```python
170
+ from diffusers.utils import load_image
171
+
172
+ image = load_image(
173
+ "https://hf.co/datasets/huggingface/documentation-images/resolve/main/diffusers/input_image_vermeer.png"
174
+ )
175
+ image
176
+ ```
177
+
178
+ <p align="center">
179
+ <img src="https://huggingface.co/datasets/YiYiXu/test-doc-assets/resolve/main/blog_post_cell_6_output_0.jpeg" width=600/>
180
+ </p>
181
+
182
+ 然后将图像输入给 Canny 预处理器:
183
+
184
+ ```python
185
+ import cv2
186
+ from PIL import Image
187
+ import numpy as np
188
+
189
+ image = np.array(image)
190
+
191
+ low_threshold = 100
192
+ high_threshold = 200
193
+
194
+ image = cv2.Canny(image, low_threshold, high_threshold)
195
+ image = image[:, :, None]
196
+ image = np.concatenate([image, image, image], axis=2)
197
+ canny_image = Image.fromarray(image)
198
+ canny_image
199
+ ```
200
+
201
+ 如图可见,Canny 本质上是边缘检测器:
202
+
203
+ <p align="center">
204
+ <img src="https://huggingface.co/datasets/YiYiXu/test-doc-assets/resolve/main/blog_post_cell_10_output_0.jpeg" width=600/>
205
+ </p>
206
+
207
+ 接下来,我们加载 [runwaylml/stable-diffusion-v1-5](https://huggingface.co/runwayml/stable-diffusion-v1-5) 和 [Canny 边缘 ControlNet](https://huggingface.co/lllyasviel/sd-controlnet-canny) 模型。设置参数 `torch.dtype=torch.float16` 可以指定模型以半精度模式加载,可实现内存高效和快速的推理。
208
+
209
+ ```python
210
+ from diffusers import StableDiffusionControlNetPipeline, ControlNetModel
211
+ import torch
212
+
213
+ controlnet = ControlNetModel.from_pretrained("lllyasviel/sd-controlnet-canny", torch_dtype=torch.float16)
214
+ pipe = StableDiffusionControlNetPipeline.from_pretrained(
215
+ "runwayml/stable-diffusion-v1-5", controlnet=controlnet, torch_dtype=torch.float16
216
+ )
217
+ ```
218
+
219
+ 这里我们不使用 Stable Diffusion 默认的 [PNDMScheduler](https://huggingface.co/docs/diffusers/main/en/api/schedulers/pndm) 调度器,而使用改进的 [UniPCMultistepScheduler](https://huggingface.co/docs/diffusers/main/en/api/schedulers/unipc)(目前最快的扩散模型调度器之一),可以极大地加快推理速度。经测试,在保证生成图像质量的同时,我们能将推理阶段的采样步数从 50 降到 20。更多关于调度器的信息可以点击 [此处](https://huggingface.co/docs/diffusers/main/en/using-diffusers/schedulers) 查看。
220
+
221
+
222
+ ```python
223
+ from diffusers import UniPCMultistepScheduler
224
+
225
+ pipe.scheduler = UniPCMultistepScheduler.from_config(pipe.scheduler.config)
226
+ ```
227
+
228
+ 我们通过调用 [`enable_model_cpu_offload` function](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/controlnet#diffusers.StableDiffusionControlNetPipeline.enable_model_cpu_offload) 函数来启用智能 CPU 卸载,而不是直接将 pipeline 加载到 GPU 上。
229
+
230
+ 智能 CPU 卸载是一种降低显存占用的方法。扩散模型(如 Stable Diffusion)的推理并不是运行一个单独的模型,而是多个模型组件的串行推理。如在推理 ControlNet Stable Diffusion 时,需要首先运行 CLIP 文本编码器,其次推理扩散模型 UNet 和 ControlNet,然后运行 VAE 解码器,最后运行 safety checker(安全检查器,主要用于审核过滤违规图像)。而在扩散过程中大多数组件仅运行一次,因此不需要一直占用 GPU 内存。通过启用智能模型卸载,可以确保每个组件在不需要参与 GPU 计算时卸载到 CPU 上,从而显著降低显存占用,并且不会显著增加推理时间(仅增加了模型在 GPU-CPU 之间的转移时间)。
231
+
232
+ **注意**:启用 `enable_model_cpu_offload` 后,pipeline 会自动进行 GPU 内存管理,因此请不要再使用 `.to("cuda")` 手动将 pipeline 转移到 GPU。
233
+
234
+ ```py
235
+ pipe.enable_model_cpu_offload()
236
+ ```
237
+
238
+ 最后,我们要充分利用 [FlashAttention/xformers](https://github.com/facebookresearch/xformers) 进行注意力层加速。运行下列代码以实现加速,如果该代码没有起作用,那么您可能没有正确安装 `xformers` 库,此时您可以跳过该代码。
239
+
240
+ ```py
241
+ pipe.enable_xformers_memory_efficient_attention()
242
+ ```
243
+
244
+ 基本条件准备就绪,现在来运行 ControlNet pipeline!
245
+
246
+ 跟运行 Stable Diffusion image-to-image pipeline 相同的是,我们也使用了文本提示语来引导图像生成过程。不过有一些不同的是,ControlNet 允许施加更多种类的控制条件来控制图像生成过程,比如使用刚才我们创建的 Canny 边缘图就能更精确的控制生成图像的构图。
247
+
248
+ 让我们来看一些有趣的,将 17 世纪的名作《戴珍珠耳环的少女》中的少女一角换为现代的名人会是什么样?使用 ControlNet 就能轻松做到,只需要在提示语中写上他们的名字即可!
249
+
250
+ 首先创建一个非常简单的帮助函数来实现生成图像的网格可视化。
251
+
252
+ ```python
253
+ def image_grid(imgs, rows, cols):
254
+ assert len(imgs) == rows * cols
255
+
256
+ w, h = imgs[0].size
257
+ grid = Image.new("RGB", size=(cols * w, rows * h))
258
+ grid_w, grid_h = grid.size
259
+
260
+ for i, img in enumerate(imgs):
261
+ grid.paste(img, box=(i % cols * w, i // cols * h))
262
+ return grid
263
+ ```
264
+
265
+ 然后输入名字提示语,并设置随机种子以便复现。
266
+
267
+ ```py
268
+ prompt = ", best quality, extremely detailed"
269
+ prompt = [t + prompt for t in ["Sandra Oh", "Kim Kardashian", "rihanna", "taylor swift"]] # 分别为:吴珊卓、金·卡戴珊、蕾哈娜、泰勒·斯威夫特
270
+ generator = [torch.Generator(device="cpu").manual_seed(2) for i in range(len(prompt))]
271
+ ```
272
+
273
+ 最后运行 pipeline,并可视化生成的图像!
274
+
275
+ ```py
276
+ output = pipe(
277
+ prompt,
278
+ canny_image,
279
+ negative_prompt=["monochrome, lowres, bad anatomy, worst quality, low quality"] * 4,
280
+ num_inference_steps=20,
281
+ generator=generator,
282
+ )
283
+
284
+ image_grid(output.images, 2, 2)
285
+ ```
286
+
287
+ <p align="center">
288
+ <img src="https://huggingface.co/datasets/YiYiXu/test-doc-assets/resolve/main/blog_post_cell_16_output_1.jpeg" width=600/>
289
+ </p>
290
+
291
+ 我们还能轻松地将 ControlNet 与微调结合使用!例如使用 [DreamBooth](https://huggingface.co/docs/diffusers/main/en/training/dreambooth) 对模型进行微调,然后使用 ControlNet 增加控制信息,将其渲染到不同的场景中。
292
+
293
+ 本文将以我们最爱的土豆先生为例,来介绍怎样结合使用 ControlNet 和 DreamBooth。
294
+
295
+ 相较于上文,pipeline 中使用的 ControlNet 部分保持不变,但是不使用 Stable Diffusion 1.5,而��重新加载一个 [土豆先生](https://huggingface.co/sd-dreambooth-library/mr-potato-head) 模型(使用 Dreambooth 微调的 Stable Diffusion 模型)🥔。
296
+
297
+ 虽然 ControlNet 没变,但仍然需要重新加载 pipeline。
298
+
299
+ ```python
300
+ model_id = "sd-dreambooth-library/mr-potato-head"
301
+ pipe = StableDiffusionControlNetPipeline.from_pretrained(
302
+ model_id,
303
+ controlnet=controlnet,
304
+ torch_dtype=torch.float16,
305
+ )
306
+ pipe.scheduler = UniPCMultistepScheduler.from_config(pipe.scheduler.config)
307
+ pipe.enable_model_cpu_offload()
308
+ pipe.enable_xformers_memory_efficient_attention()
309
+ ```
310
+
311
+ 现在来让土豆先生摆一个《戴珍珠耳环的少女》的姿势吧!
312
+
313
+ ```python
314
+ generator = torch.manual_seed(2)
315
+ prompt = "a photo of sks mr potato head, best quality, extremely detailed"
316
+ output = pipe(
317
+ prompt,
318
+ canny_image,
319
+ negative_prompt="monochrome, lowres, bad anatomy, worst quality, low quality",
320
+ num_inference_steps=20,
321
+ generator=generator,
322
+ )
323
+ output.images[0]
324
+ ```
325
+
326
+ 看得出来土豆先生尽力了,这场景着实不太适合他,不过他仍然抓住了精髓🍟。
327
+
328
+ <p align="center">
329
+ <img src="https://huggingface.co/datasets/YiYiXu/test-doc-assets/resolve/main/blog_post_cell_22_output_0.jpeg" width=600/>
330
+ </p>
331
+
332
+ ControlNet 还有另一个独特应用:从图像提取人体姿态,用姿态信息控制生成具有相同姿态的新图像。因此在下一个示例中,我们将使用 [Open Pose ControlNet](https://huggingface.co/lllyasviel/sd-controlnet-openpose) 来教超级英雄如何做瑜伽!
333
+
334
+ 首先,我们需要收集一些瑜伽动作图像集:
335
+
336
+ ```python
337
+ urls = "yoga1.jpeg", "yoga2.jpeg", "yoga3.jpeg", "yoga4.jpeg"
338
+ imgs = [
339
+ load_image("https://huggingface.co/datasets/YiYiXu/controlnet-testing/resolve/main/" + url)
340
+ for url in urls
341
+ ]
342
+
343
+ image_grid(imgs, 2, 2)
344
+ ```
345
+
346
+ <p align="center">
347
+ <img src="https://huggingface.co/datasets/YiYiXu/test-doc-assets/resolve/main/blog_post_cell_25_output_0.jpeg" width=600/>
348
+ </p>
349
+
350
+ 通过 `controlnet_aux` 提供的 OpenPose 预处理器,我们可以很方便地提取瑜伽姿态。
351
+
352
+ ```python
353
+ from controlnet_aux import OpenposeDetector
354
+
355
+ model = OpenposeDetector.from_pretrained("lllyasviel/ControlNet")
356
+
357
+ poses = [model(img) for img in imgs]
358
+ image_grid(poses, 2, 2)
359
+ ```
360
+
361
+ <p align="center">
362
+ <img src="https://huggingface.co/datasets/YiYiXu/test-doc-assets/resolve/main/blog_post_cell_28_output_0.jpeg" width=600/>
363
+ </p>
364
+
365
+ 瑜伽姿态提取完成后,我们接着创建一个 [Open Pose ControlNet](https://huggingface.co/lllyasviel/sd-controlnet-openpose) pipeline 来生成一些相同姿态的超级英雄图像。Let's go 🚀
366
+
367
+ ```python
368
+ controlnet = ControlNetModel.from_pretrained(
369
+ "fusing/stable-diffusion-v1-5-controlnet-openpose", torch_dtype=torch.float16
370
+ )
371
+
372
+ model_id = "runwayml/stable-diffusion-v1-5"
373
+ pipe = StableDiffusionControlNetPipeline.from_pretrained(
374
+ model_id,
375
+ controlnet=controlnet,
376
+ torch_dtype=torch.float16,
377
+ )
378
+ pipe.scheduler = UniPCMultistepScheduler.from_config(pipe.scheduler.config)
379
+ pipe.enable_model_cpu_offload()
380
+ ```
381
+
382
+ 超级英雄的瑜伽时间!
383
+
384
+ ```python
385
+ generator = [torch.Generator(device="cpu").manual_seed(2) for i in range(4)]
386
+ prompt = "super-hero character, best quality, extremely detailed"
387
+ output = pipe(
388
+ [prompt] * 4,
389
+ poses,
390
+ negative_prompt=["monochrome, lowres, bad anatomy, worst quality, low quality"] * 4,
391
+ generator=generator,
392
+ num_inference_steps=20,
393
+ )
394
+ image_grid(output.images, 2, 2)
395
+ ```
396
+
397
+ <p align="center">
398
+ <img src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/blog/controlnet/anime_do_yoga.png" width=600/>
399
+ </p>
400
+
401
+ 通过以上示例,我们对 [`StableDiffusionControlNetPipeline`](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/controlnet) 的多种用法有了直观的认识,也学会了如何使用 Diffusers 玩转 ControlNet。不过,还有一些 ControlNet 支持的其他类型的控制条件示例,由于篇幅原因本文不再展开,如想了解更多信息,可以点击以下链接查看相应的模型文档页面:
402
+
403
+ * [lllyasviel/sd-controlnet-depth](https://huggingface.co/lllyasviel/sd-controlnet-depth)
404
+ * [lllyasviel/sd-controlnet-hed](https://huggingface.co/lllyasviel/sd-controlnet-hed)
405
+ * [lllyasviel/sd-controlnet-normal](https://huggingface.co/lllyasviel/sd-controlnet-normal)
406
+ * [lllyasviel/sd-controlnet-scribble](https://huggingface.co/lllyasviel/sd-controlnet-scribble)
407
+ * [lllyasviel/sd-controlnet-seg](https://huggingface.co/lllyasviel/sd-controlnet-scribble)
408
+ * [lllyasviel/sd-controlnet-openpose](https://huggingface.co/lllyasviel/sd-controlnet-openpose)
409
+ * [lllyasviel/sd-controlnet-mlsd](https://huggingface.co/lllyasviel/sd-controlnet-mlsd)
410
+ * [lllyasviel/sd-controlnet-mlsd](https://huggingface.co/lllyasviel/sd-controlnet-canny)
411
+
412
+ 我们非常欢迎您尝试组合不同的控制组件来生成精美的图像,并在 twitter 上与 [@diffuserslib](https://twitter.com/diffuserslib) 分享您的作品。如果您还没有运行上述代码段,这里再次建议您查看此 [Colab 笔记本](https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/controlnet.ipynb),亲自运行代码体验示例的效果!
413
+
414
+ 在上文中,我们介绍了加速生成过程、减少显存占用的一些技巧,它们包括:快速调度器、智能模型卸载、`xformers`。如果结合使用这些技巧,单张图像的生成过程仅需要:V100 GPU 上约 3 秒的推理时间以及约 4 GB 的 VRAM 占用;免费 GPU 服务(如 Google Colab 的 T4)上约 5 秒的推理时间。如果没有实现这些技巧,同样的生成过程可达 17 秒!现已集成至 Diffusers 工具箱,来使用 Diffusers 吧,它真的非常强力!💪
415
+
416
+ ## 结语
417
+
418
+ 本文介绍了 [`StableDiffusionControlNetPipeline`](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/controlnet) 的多个用例,非常有趣!我们也非常期待看到社区在此 pipeline 的基础上能构建出什么好玩的应用。如果您想了解更多 Diffusers 支持的关于控制模型的其他 pipeline 和技术细节,请查看我们的 [官方文档](https://huggingface.co/docs/diffusers/main/en/using-diffusers/controlling_generation)。
419
+
420
+ 如果您想直接尝试 ControlNet 的控制效果,我们也能满足!只需点击以下 HuggingFace Spaces 即可尝试控制生成图像:
421
+ - [![Canny ControlNet Spaces](https://img.shields.io/badge/%F0%9F%A4%97%20Hugging%20Face-Spaces-blue)](https://huggingface.co/spaces/diffusers/controlnet-canny)
422
+ - [![OpenPose ControlNet Spaces](https://img.shields.io/badge/%F0%9F%A4%97%20Hugging%20Face-Spaces-blue)](https://huggingface.co/spaces/diffusers/controlnet-openpose)