第一周《卷积神经网络》

P1.2/1.3 边缘检测

说到了卷积核之前是手工设计的,能提取出一些特定的浅层边缘信息,但是存在卷积核粒度太过粗糙、适应性不好等问题,因此引出了我们把卷积核设为一个参数,然后利用反向传播算法来学习其中的参数。

P1.4 Padding

讲到是为了解决:

  1. 卷积后图像变少(变为原图的维度 - 卷积核的维度 + 1,比如原图是66,卷积核是33,那么卷积之后的图像是6-3+1=4,是4*4的图像了,被缩小了。)

那为什么怕图像变小呢?你想想看,网络深度是大趋势,假如我们的网络有100层,那么原图到后面就很小了啊!这还怎么表现高维特征啊!

  1. 边缘位置的像素比图像中心像素卷积次数要少。

如下图所示,边缘位置处的像素被卷积的次数减少,也就是说会有信息丢失,因此为了补充这部分信息,我们人为地加入填充来使得边缘像素被充分卷积,从而不丢失信息

  1. 为什么卷积核大小一般都是奇数呢?

如下图所示,为了保证卷积后的大小保持不变,我们的需要填充的层数p=(f-1)/2,因此卷积的维数f一般得取奇数才能保证填充对称啊!
第二个原因是:奇数维度的卷积核才会有一个中心点啊!偶数卷积核就没有,因此在后面有可能需要选择一个中心点的时候奇数核才方便。
注:这不是充分条件。

P1.5 Strided convolution

假设:

图像:n*n
卷积核(filter):f*f
padding:p
stride: s

那么卷积后的图像大小是:(n+2p-f)/s + 1
那么问题来了:假如除完后不是整数咋办?
我们一般对之进行floor操作(见下图中floor处),也就是当图中蓝色框移出图像的边界的时候我们按照惯例就不做卷积操作了!

P1.6 立体卷积(彩色图像卷积)

这里需要注意的是,卷积之后深度(channel)变为1了,而不是3;

不同的卷积核得到不同的feature maps

P1.7/1.8 构建单层卷积网络

这里是进行非线性(ReLU)激活(函数)操作,由于只有两个卷积核,因此输出是4*4*2


P1.9 Max Pooling

最大的那个是最有可能代表特征。
filter大小strde大小这个是固定的,不是通过反向传播来学习的。


  • 绝大部分用的都是最大池化,在某些个深度网络中是个例用平均池化。
  • 通常情况下绝对不用padding,除了某种情况(后面会讲)。

P1.10 实例操作(参考LeNet-5模型的参数)

参考LeNet-5建立的模型
  • 卷积层的一层定义为:卷积操作+pooling层;因为pooling层是没有权值参数的,因此不算layer;
  • 可以从下图看到pool层是没有参数的,Activation是缓慢变小的(视频里说到按照经验假如下降很快的话效果反而不好),参数在全连接层是最多的。

P1.11为什么使用卷积

因为跟全连接比起来有参数共享稀疏连接两个大优势啊!
参数共享:就是说跟全连接比起来n的n次方个权值比起来要少的多的多啊!
稀疏连接:如下图所示卷积后的值,比如绿色圈内标识的那个0,只受原图左上角的九个值的影响,除此之外的其他像素完全不影响它,因此这就是稀疏的连接,也就是降维嘛!减少了参数就是降低了过拟合的风险嘛!

含冲量/RMSProp/....的梯度下降?

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,265评论 6 490
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,078评论 2 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,852评论 0 347
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,408评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,445评论 5 384
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,772评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,921评论 3 406
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,688评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,130评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,467评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,617评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,276评论 4 329
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,882评论 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,740评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,967评论 1 265
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,315评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,486评论 2 348

推荐阅读更多精彩内容