神经网络的数据增强技术
扫描二维码
随时随地手机看文章
为什么需要数据增强 :
一般而言,比较成功的神经网络需要大量的参数,许许多多的神经网路的参数都是数以百万计,而使得这些参数可以正确工作则需要大量的数据进行训练,而实际情况中数据并没有我们想象中的那么多
数据增强的作用 :
① 增加训练的数据量,提高模型的泛化能力
② 增加噪声数据,提升模型的鲁棒性
如何获得大量的数据 :
一种方法是获得新的数据,这种方法比较麻烦,需要大量的成本,而第二种方法则是对数据进行增强,即利用已有的数据比如翻转、平移或旋转,创造出更多的数据,来使得神经网络具有更好的泛化效果。
数据增强的分类 :
数据增强可以分为两类,一类是离线增强,一类是在线增强。
① 离线增强 : 直接对数据集进行处理,数据的数目会变成增强因子 x 原数据集的数目 ,这种方法常常用于数据集很小的时候
② 在线增强 : 这种增强的方法用于,获得 batch 数据之后,然后对这个 batch 的数据进行增强,如旋转、平移、翻折等相应的变化,由于有些数据集不能接受线性级别的增长,这种方法长用于大的数据集,很多机器学习框架已经支持了这种数据增强方式,并且可以使用 GPU 优化计算。
常用的数据增强技术 :
首先定义增强因子 : 指的是数据做离线增强之后增长的倍数。
① 翻转 :增强因子 2 或 3
数据翻转是一种常用的数据增强方法,这种方法不同于旋转 180 这种方法是做一种类似于镜面的翻折。
② 旋转 : 增强因子 2 到 4
旋转就是顺时针或者逆时针的旋转,注意在旋转的时候, 最好旋转 90 - 180 度否则会出现尺度的问题
③ 缩放 :增强因子任意
图像可以被放大或缩小。放大时,放大后的图像尺寸会大于原始尺寸。大多数图像处理架构会按照原始尺寸对放大后的图像 进行裁切。我们将在下一章节讨论图像缩小,因为图像缩小会减小图像尺寸,这使我们不得不对图像边界之外的东西做出假设。
下面是图像缩放的例子。
④ 裁剪 :增强因子任意
这种方法更流行的叫法是随机裁剪,我们随机从图像中选择一部分,然后降这部分图像裁剪出来,然后调整为原图像的大小
⑤ 平移 : 增强因子任意
平移是将图像沿着 x 或者 y 方向 (或者两个方向) 移动。我们在平移的时候需对背景进行假设,比如说假设为黑色等等,因为平移的时候有一部分图像是空的,由于图片中的物体可能出现在任意的位置,所以说平移增强方法十分有用。
⑥ 添加噪声 :增强因子任意 看噪声的类型
过拟合通常发生在神经网络学习高频特征的时候 (因为低频特征神经网络很容易就可以学到,而高频特征只有在最后的时候才可以学到) 而这些特征对于神经网络所做的任务可能没有帮助,而且会对低频特征产生影响,为了消除高频特征我们随机加入噪声数据来消除这些特征。
图像增强的效果 :
图像增强非常必要,我也有过亲自的实验,特别是有些论文中,如果不进行图片增强,就无法达到论文中提到的效果,下面展现一下图片增强的效果示意图 :
图中 :C10 和 C100 是没有经过图片增强的,C10+ 和 C100+ 是经过了图片增强的,意识到它的神奇的效果了吧 (图片增强应该不是玄学)。