专业做俄语网站建设司,搜索引擎优化的流程,关键词 网站,传奇做网站#x1f6a9;#x1f6a9;#x1f6a9;Transformer实战-系列教程总目录 有任何问题欢迎在下面留言 本篇文章的代码运行界面均在Pycharm中进行 本篇文章配套的代码资源已经上传 4、Embbeding类
self.embeddings Embeddings(config, img_sizeimg_size)
class Embeddings(nn.…Transformer实战-系列教程总目录 有任何问题欢迎在下面留言 本篇文章的代码运行界面均在Pycharm中进行 本篇文章配套的代码资源已经上传 4、Embbeding类
self.embeddings Embeddings(config, img_sizeimg_size)
class Embeddings(nn.Module):Construct the embeddings from patch, position embeddings.def __init__(self, config, img_size, in_channels3):super(Embeddings, self).__init__()self.hybrid Noneimg_size _pair(img_size)if config.patches.get(grid) is not None:grid_size config.patches[grid]patch_size (img_size[0] // 16 // grid_size[0], img_size[1] // 16 // grid_size[1])n_patches (img_size[0] // 16) * (img_size[1] // 16)self.hybrid Trueelse:patch_size _pair(config.patches[size])n_patches (img_size[0] // patch_size[0]) * (img_size[1] // patch_size[1])self.hybrid Falseif self.hybrid:self.hybrid_model ResNetV2(block_unitsconfig.resnet.num_layers,width_factorconfig.resnet.width_factor)in_channels self.hybrid_model.width * 16self.patch_embeddings Conv2d(in_channelsin_channels,out_channelsconfig.hidden_size,kernel_sizepatch_size,stridepatch_size)self.position_embeddings nn.Parameter(torch.zeros(1, n_patches1, config.hidden_size))self.cls_token nn.Parameter(torch.zeros(1, 1, config.hidden_size))self.dropout Dropout(config.transformer[dropout_rate])def forward(self, x):# print(x.shape)B x.shape[0]cls_tokens self.cls_token.expand(B, -1, -1)# print(cls_tokens.shape)if self.hybrid:x self.hybrid_model(x)x self.patch_embeddings(x)#Conv2d: Conv2d(3, 768, kernel_size(16, 16), stride(16, 16))# print(x.shape)x x.flatten(2)# print(x.shape)x x.transpose(-1, -2)# print(x.shape)x torch.cat((cls_tokens, x), dim1)# print(x.shape)embeddings x self.position_embeddings# print(embeddings.shape)embeddings self.dropout(embeddings)# print(embeddings.shape)return embeddings接上前面的debug模式在构造模型部分一直步入到Embbeding类中
构造函数传入了图像大小224*224通道数3以及配置参数patch_size[16,16]16*16的区域选出一份特征这个参数自己定义n_patches224224的图像能够切分出1616的格子数量(224/16)(224/16)1414196个196就是我们要定义的序列的长度了patch_embeddings是一个二维卷积输入通道为3输出通道为768卷积核为patch_size1616步长为1616步长为1616就表明原本224224的图像卷积后的长宽就为14*14了position_embeddings初始化参数全部为0 形状为[1,197768]1971961加一的原因是在Transformer模型中通常会在序列的开始添加一个可学习的类标记class token它在训练过程中帮助模型捕获全局信息以用于分类任务。position_embeddings是用来记录位置信息的cls_token初始化参数全部为0形状为[1,1,768]因为要涉及到全连接层所以加上Dropout
5、Encoder类
self.encoder Encoder(config, vis)
class Encoder(nn.Module):def __init__(self, config, vis):super(Encoder, self).__init__()self.vis visself.layer nn.ModuleList()self.encoder_norm LayerNorm(config.hidden_size, eps1e-6)for _ in range(config.transformer[num_layers]):layer Block(config, vis)self.layer.append(copy.deepcopy(layer))def forward(self, hidden_states):# print(hidden_states.shape)attn_weights []for layer_block in self.layer:hidden_states, weights layer_block(hidden_states)if self.vis:attn_weights.append(weights)encoded self.encoder_norm(hidden_states)return encoded, attn_weights接上前面的debug模式在构造模型部分步入到Encoder类中
构造函数传进配置参数vis设置可视化layer设置PyTorch的一个列表encoder_normLayerNormBatch Normalization是对Batch做归一化LayerNorm对层循环添加Block循环config.transformer[num_layers]次每次都创建一个Block实例并添加到self.layer中。这里的Block是一个定义了Transformer编码器层的类它包括自注意力机制和前馈网络。copy.deepcopy(layer)确保每次都是向ModuleList添加一个新的、独立的Block副本
之前ConvNet的任务中都是使用Batch 做归一化为什么Transformer是对Layer做归一化呢Transformer是在NLP任务中提出来的每一句话的单词个数都不一样太长的阶段短的补0如果是对batch做归一化长句子的后面一些地方要和短句子补0的地方做归一化改用Layer归一化实现显著提升效果的情况。
