当前位置：网站首页 > 技术教程 > 正文

卷积神经网络CNN总结(六) 卷积神经网络cnn模型

suiw9 2024-10-25 16:54 26 浏览 0 评论

MobileNet-v2

MobileNet-v2是在v1基础上的改进与优化版本。MobileNet-v2论文题目为MobileNetV2: Inverted Residuals and Linear Bottlenecks，由谷歌发表于2018年CVPR上。

MobileNet-v1的特色就是深度可分离卷积，但研究人员发现深度可分离卷积中有大量卷积核为0，即有很多卷积核没有参与实际计算。作者发现是ReLU激活函数的问题，在低维空间运算中会损失很多信息，而在高维空间中会保留较多有用信息。

因此MobileNet-v2的解决方案也很简单，就是直接将ReLU6激活换成线性激活函数，只将最后一层的ReLU换成线性函数。具体到MobileNet-v2网络中就是将最后的Point-Wise卷积的ReLU6都换成线性函数。MobileNet-v2给这个操作命名为linear bottleneck，这也是v2网络的第一个关键点。

深度卷积（Depth-Wise）本身没有改变通道的作用，比如MobileNet-v1中的深度可分离卷积，在前一半的深度卷积操作中，输入是3个通道，输出还是3个通道。所以为了能让深度卷积能在高维上工作，v2提出在深度卷积之前加一个扩充通道的卷积操作，也就是1x1卷积，具体描述如下图所示。

这种在深度卷积之前扩充通道的操作在MobileNet-v2中被称作Expansion layer，这也是MobileNet-v2的第二个关键点。

MobileNet-v1虽然加了深度可分离卷积，但网络主体仍然是VGG的直筒型结构。所以MobileNet-v2网络的第三个大的关键点就是借鉴了ResNet的残差结构，在MobileNet-v1基础上加入了跳跃连接。相较于ResNet的残差块结构，MobileNet-v2给这种结构命名为Inverted resdiual block，即倒残差块。

从图中可以看到，ResNet是先0.25倍降维，然后标准3x3卷积，再升维，而MobileNet-v2则是先6倍升维，然后深度可分离卷积，最后再降维。MobileNet-v2的维度升降顺序跟ResNet完全相反，所以才叫倒残差。

综合上述三个关键点：Linear Bottlenecks、Expansion layer和Inverted resdiual之后就组成了MobileNet-v2的block，如下图所示。

MobileNet v2的结构如下图所示

从上图可以看到，输入经过一个常规卷积之后，MobileNet-v2网络紧接着加了7个bottleneck block层，然后再两个1x1卷积和一个7x7的平均池化的组合操作。

layer mobile

上一篇：MobileNetV1/V2/V3简述 | 轻量级网络
下一篇：大小仅17KB!这个微型风格迁移模型太好玩了|代码+教程

相关推荐

俄罗斯的 HTTPS 也要被废了?（俄罗斯网站关闭）: 发布该推文的ScottHelme是一名黑客，SecurityHeaders和ReportUri的创始人、Pluralsight作者、BBC常驻黑客。他表示，CAs现在似乎正在停止为俄罗斯域名颁发...

如何强制所有流量使用 HTTPS一网上用户: 如何强制所有流量使用HTTPS一网上用户使用.htaccess强制流量到https的最常见方法可能是使用.htaccess重定向请求。.htaccess是一个简单的文本文件，简称为“.h...

https和http的区别（https和http有何区别）: “HTTPS和HTTP都是数据传输的应用层协议，区别在于HTTPS比HTTP安全”。区别在哪里，我们接着往下看：...

快码住!带你十分钟搞懂HTTP与HTTPS协议及请求的区别: 什么是协议？网络协议是计算机之间为了实现网络通信从而达成的一种“约定”或“规则”，正是因为这个“规则”的存在，不同厂商的生产设备、及不同操作系统组成的计算机之间，才可以实现通信。简单来说，计算机与网络...

简述HTTPS工作原理（简述https原理,以及与http的区别）: https是在http协议的基础上加了一层SSL(由网景公司开发)，加密由ssl实现，它的目的是为用户提供对网站服务器的身份认证(需要CA)，以至于保护交换数据的隐私和完整性,原理如图示。1、客户端发...

21、HTTPS 有几次握手和挥手?HTTPS 的原理什么是(高薪常问): HTTPS是3次握手和4次挥手，和HTTP是一样的。HTTPS的原理...

一次安全可靠的通信——HTTPS原理: 为什么HTTPS协议就比HTTP安全呢？一次安全可靠的通信应该包含什么东西呢，这篇文章我会尝试讲清楚这些细节。Alice与Bob的通信...

为什么有的网站没有使用https（为什么有的网站点不开）: 有的网站没有使用HTTPS的原因可能涉及多个方面，以下是.com、.top域名的一些见解：服务器性能限制：HTTPS使用公钥加密和私钥解密技术，这要求服务器具备足够的计算能力来处理加解密操作。如果服务...

HTTPS是什么?加密原理和证书。SSL/TLS握手过程: 秘钥的产生过程非对称加密...

图解HTTPS「转」（图解http 完整版彩色版 pdf）: 我们都知道HTTPS能够加密信息，以免敏感信息被第三方获取。所以很多银行网站或电子邮箱等等安全级别较高的服务都会采用HTTPS协议。...

HTTP 和 HTTPS 有何不同?一文带你全面了解: 随着互联网时代的高速发展，Web服务器和客户端之间的安全通信需求也越来越高。HTTP和HTTPS是两种广泛使用的Web通信协议。本文将介绍HTTP和HTTPS的区别，并探讨为什么HTTPS已成为We...

HTTP与HTTPS的区别，详细介绍（http与https有什么区别）: HTTP与HTTPS介绍超文本传输协议HTTP协议被用于在Web浏览器和网站服务器之间传递信息，HTTP协议以明文方式发送内容，不提供任何方式的数据加密，如果攻击者截取了Web浏览器和网站服务器之间的...

一文让你轻松掌握 HTTPS（https详解）: 一文让你轻松掌握HTTPS原文作者：UC国际研发泽原写在最前：欢迎你来到“UC国际技术”公众号，我们将为大家提供与客户端、服务端、算法、测试、数据、前端等相关的高质量技术文章，不限于原创与翻译。...

如何在Spring Boot应用程序上启用HTTPS?: HTTPS是HTTP的安全版本，旨在提供传输层安全性（TLS）[安全套接字层（SSL）的后继产品]，这是地址栏中的挂锁图标，用于在Web服务器和浏览器之间建立加密连接。HTTPS加密每个数据包以安全方...

一文彻底搞明白Http以及Https（http0）: 早期以信息发布为主的Web1.0时代，HTTP已可以满足绝大部分需要。证书费用、服务器的计算资源都比较昂贵，作为HTTP安全扩展的HTTPS，通常只应用在登录、交易等少数环境中。但随着越来越多的重要...

取消回复欢迎你发表评论:

一周热门

最近发表

首页
收录
顶部