Update DiffusionModel_CN_book_Chapter9/README_chapter9.md

DiffusionModel_CN_book_Chapter9/README_chapter9.md

@@ -1,6 +1,6 @@
 ### 第九章
 
-## 9.1.1 Image Conditioning
+## 9.1 Image Conditioning
 
 经过了之前的章节学习之后，相信你已经能够熟练的使用prompt来描述并生成一幅精美的画作了。通常来说，Prompt的准确性越高、描述的越丰富，生成的画作也会越符合你心目中的样子。
 然而你也许也注意到了一件事：无论我们再怎么精细的使用prompt来指导Stable diffusion模型，也无法描述清楚人物四肢的角度、背景中物体的位置、每一缕光线照射的角度等等。文字的能力是有极限的！
@@ -8,7 +8,7 @@
 为了成为一个更加优秀的AI画手，我们需要突破文字提示（Text conditioning），找到一种能够通过图像特征来为扩散模型的生成过程提供更加精细的控制的方式，也就是：图像提示（Image Conditioning）
 幸运的是，我们恰好已经有了这样的工具：[ControlNet](https://arxiv.org/abs/2302.05543) 
 
-## 9.1.2 ControlNet的结构与训练过程
+## 9.2 ControlNet的结构与训练过程
 
 ControlNet是一种能够嵌入任意已经训练好的扩散模型中，为这些模型提供更多控制条件的神经网络结构。其基本结构如下图所示：
 
@@ -59,9 +59,119 @@ $$\partial y/\partial x\neq 0$$
 
 请注意，因为在该训练过程中原本的扩散模型的权重不会产生任何梯度（我们锁死了这一部分！），所以即使我们添加了十四个ControlNet blocks，整个训练过程也不会需要比训练原先扩散模型更多的显存。
 
-## 9.1.3 ControlNet的示例
+## 9.3 ControlNet示例
+
+我们在本章节将展示一些已经训练好的ControlNet的示例，这些图片都来自ControlNet的github repo：https://github.com/lllyasviel/ControlNet。
+你可以在HuggingFace上找到这些由ControlNet的原作者提供的模型：https://huggingface.co/lllyasviel/ControlNet。
+
+以下图片中左上角的图像为ControlNet的额外控制条件的输入图像，右侧的图像则为给定条件下稳定扩散模型的生成结果。
+
+### ControlNet 与 Canny Edge
+
+Canny edge 检测器是由 John F. Canny 于1986年发明的一种多阶段的边缘检测算法。该算法可以从不同的视觉对象中提取有用的结构信息，从而显著降低图像处理过程中的数据处理量。
+
+Prompt："bird"
+
+![图片](./files/canny.png)
+
+### ControlNet 与 M-LSD Lines
+
+M-LSD Lines 是另外一种轻量化边缘检测算法，比较擅长提取图像中的直线线条。训练在M-LSD Lines上的ControlNet很适合生成室内环境的图片。
+
+Prompt: "room"
+
+![图片](./files/canny.png)
+
+### ControlNet 与 HED Boundary
+
+Soft HED Boundary 能够保存输入图片更多的细节，训练在HED Boundary上的ControlNet很适合用来重新上色和风格重构。
+
+Prompt: "oil painting of handsome old man, masterpiece"
+
+![图片](./files/hed.png)
+
+### ControlNet 与 涂鸦画
+
+ControlNet 的强大能力甚至不使用任何真实图片提取的信息也能生成高质量的结果。训练在涂鸦数据上的ControlNet能让稳定扩散模型学会如何将儿童涂鸦转绘成高质量的图片。
+
+Prompt: "turtle"
+
+### ControlNet 与 人体关键点
+
+训练在人体关键点数据上的ControlNet，能让扩散模型学会生成指定姿态的人体。
+
+Prompt: "Chief in the kitchen"
+
+![图片](./files/humanpose.png)
+
+### ControlNet 与 语义分割
+
+语义分割模型是一种提取图像中各个区域语义信息的一种模型，常用来对图像中人体、物体、背景的区域进行划分。训练在语义分割数据上的ControlNet适合让稳定扩散模型来生成特定结构的场景图。
+
+Prompt: "House"
+
+![图片](./files/segmentation.png)
+
+此外还有诸如深度图、Normal Map、人脸关键点等等不同的ControlNet可以使用，我们在这里就不再一一列举了，读者可以自行在HuggingFace上寻找开源模型和示例。
+
+## 9.4 ControlNet实战
+
+在本章节中，我们将以Canny Edge为例，展示如何在diffusers中使用 StableDiffusionControlNetPipeline 来生成图像。
+
+首先我们先运行以下代码来安装需要使用的库：
+
+```python
+!pip install -q diffusers==0.14.0 transformers xformers git+https://github.com/huggingface/accelerate.git
+```
+
+对应选择的ControlNet，我们还需要安装两个依赖库用来对图像进行处理，以提取不同的图像控制条件。
+- [OpenCV](https://opencv.org/)
+- [controlnet-aux](https://github.com/patrickvonplaten/controlnet_aux#controlnet-auxiliary-models) - 一个简单的ControlNet前处理模型集合
+
+```python
+!pip install -q opencv-contrib-python
+!pip install -q controlnet_aux
+```
+
+让我们来使用这个著名的 ["戴珍珠耳环的少女"](https://en.wikipedia.org/wiki/Girl_with_a_Pearl_Earring) 来做示范:
+
+```python
+from diffusers import StableDiffusionControlNetPipeline
+from diffusers.utils import load_image
+
+image = load_image(
+    "https://hf.co/datasets/huggingface/documentation-images/resolve/main/diffusers/input_image_vermeer.png"
+)
+image
+```
+![图片](./files/girlwithperl.png)
+
+首先将这张图像送入Canny Edge 边缘提取器做一下前处理：
+
+```python
+import cv2
+from PIL import Image
+import numpy as np
+
+image = np.array(image)
+
+low_threshold = 100
+high_threshold = 200
+
+image = cv2.Canny(image, low_threshold, high_threshold)
+image = image[:, :, None]
+image = np.concatenate([image, image, image], axis=2)
+canny_image = Image.fromarray(image)
+canny_image
+```
+![图片](./files/girlwithperl_canny.png)
+
+
+
+
+
+
 
-你可以在HuggingFace上找到ControlNet的作者放出的若干已经训练好的模型：https://huggingface.co/lllyasviel/ControlNet。以下是这些模型的图例：