样式迁移(neural style)

藏宝库编辑 2024-10-11 14:39:09 3719 0 来自 中国
(一)样式迁移(neural style)

就是有两张图片,例如一张人像,一张油画,你想把优化的风格迁移到人像上。天生一张油画版的新的人像。
(1)基于CNN的样式迁移

从图中看出好像有三个神经网络,实际上是只有一个神经网络。这图的意思是,我们渴望输出值是左右两张图片的结合,但是具体怎么结合呢?就是让有些层能够和左边网络的某些层匹配。尚有些曾能够和右边的样式的某些层匹配。左边的层主要是抽取图片的内容信息。右边的层主要抽取图片的纹理信息。两者结合在一起,就能天生我们想要的图片。
我们以前所使用的网络都是更新网络中层的参数,但是这里不同,由于是必要对输入的图片举行改变而不是举行参数的权重更新,那么我们将网络层的参数固定,将输入做成可以更新的,然后在天生我们所必要的样式图片。
(2)基于CNN的样式迁移怎么训练

这和前面我们的神经网络在技术上没有什么区别,但是他的训练方式比较奇特。他的目的是天生一张带有风格样式的图片。
我们知道神经网络层的作用是使用不同的卷积核能提取特性信息,颠末训练的网络的卷积核往往能够将图片的纹理信息,空间信息提取出来。于是基于CNN的样式迁移就使用了已经训练好的VGG模型,使用训练好的卷积核分别提取两张图片的内容和样式信息,共同作用出一张样式图像。
第一个区别,一般的网络是更新网络里的参数,然而在这个网络中,我们是相当于修改输入,而网络中的参数是固定不变的。
第二个大区别是,loss函数的定义,这个网络总共由三个部门的loss构成,

  • 内容损失,天生的x和原图之间的差距
  • 风格损失,天生的x和风格图片之间的差距
  • 全变分损失,让图片没那么多噪点。
缺点,每张图片我们都必要重新训练。
具体实现可以参考代码。
(二)代码实现

%matplotlib inlineimport torch import torchvision from torch import nn from d2l import torch as d2ld2l.set_figsize()content_img = d2l.Image.open('../img/rainier.jpg')d2l.plt.imshow(content_img)style_img = d2l.Image.open('../img/autumn-oak.jpg')d2l.plt.imshow(style_img)rgb_mean = torch.tensor([0.485, 0.456, 0.406])rgb_std = torch.tensor([0.229, 0.224, 0.225])# 将图片处置惩罚成一个tensordef preprocess(img, image_shape):    transforms = torchvision.transforms.Compose([        torchvision.transforms.Resize(image_shape),        torchvision.transforms.ToTensor(), # 会除以255        torchvision.transforms.Normalize(mean=rgb_mean, std=rgb_std)])    return transforms(img).unsqueeze(0)# 将一个tensor输出成一张图片def postprocess(img):    img = img[0].to(rgb_std.device)    img = torch.clamp(img.permute(1, 2, 0) * rgb_std + rgb_mean, 0, 1)    return torchvision.transforms.ToPILImage()(img.permute(2, 0, 1))# 使用CGG作为预训练模型pretrained_net = torchvision.models.vgg19(weights=torchvision.models.VGG19_Weights.IMAGENET1K_V1)# 层的下标style_layers, content_layers = [0,5,10,19,28], [26]# 抽取对应的层net = nn.Sequential(*[pretrained_net.features for i in range(max(style_layers+content_layers))])# 抽取特性def extract_features(x, content_layers, style_layers):    contents = []    styles = []    for i in range(len(net)):        # 前向流传,获取featuremap        x = net(x)        if i in style_layers:            styles.append(x)        if i in content_layers:            contents.append(x)    return contents, styles# 图片预处置惩罚def get_contents(image_shape, device):    content_X = preprocess(content_img, image_shape).to(device)    contents_Y, _ = extract_features(content_X, content_layers, style_layers)    return content_X, contents_Ydef get_styles(image_shape, device):    style_X = preprocess(style_img, image_shape).to(device)    _, styles_Y = extract_features(style_X, content_layers, style_layers)    return style_X, styles_Y(1)内容损失

就直接可以使用均方损失,盘算对应像素的均方损失。
(2)风格损失


风格损失与内容损失雷同,也通过平方误差函数权衡合成图像与风格图像在风格上的差别。
为了表达风格层输出的风格,我们先通过extract_features函数盘算风格层的输出。
假设该输出的样本数为1,通道数为
您需要登录后才可以回帖 登录 | 立即注册

Powered by CangBaoKu v1.0 小黑屋藏宝库It社区( 冀ICP备14008649号 )

GMT+8, 2024-11-23 18:07, Processed in 0.180585 second(s), 33 queries.© 2003-2025 cbk Team.

快速回复 返回顶部 返回列表