在边缘培训人工智能模型

近年来,各类公司纷纷引进和推广深层次学习技术.然而,在深入学习方面,仍有两大问题有待解决。一种是需要准备大量的训练数据,另一种是在最初训练阶段需要大量的反向传播和其他计算。后者通常在具有高性能的GPS的服务器上执行,位于云中,因此非常耗电。因此,在边缘设备上进行训练是不现实的。然而,有一种技术可以执行训练和推理,从少量数据中提取特征。这种技术被称为稀疏建模。

在本文中,我们将比较稀疏建模和深入学习;涵盖了稀疏建模是有益的使用案例;并解释了稀疏建模训练和推理的机制。此外,还将介绍利用稀疏建模技术的视觉检测应用实例。在这种情况下,我们将涵盖在飞行起重机模式,这是一个传统的模式日本纸张。

什么是稀疏建模 ?

"稀少"一词的定义是"微弱的分散或分散"。稀疏建模是基于基本信息实际上非常有限的假设(因此"稀疏分布")。该技术识别并提取输出的输入数据中的基本信息。

稀疏建模识别不同数据之间的关系。当输出时,稀疏建模并不关注输入数据本身,而是关注输入和输出数据之间的关系。通过关注数据之间的关系,输入数据本身的数量和质量并不重要。因此,只需要少量数据。稀疏建模是机器学习中的一种无监督学习方法。

深入学习通常在可以准备足够数据和注释的应用程序中提供高性能(例如:,供自动驾驶使用。然而,稀疏建模扩大了AI应用的范围,以使用无法收集大量数据的情况,而可解释性是非常重要的。

稀疏建模与深度学习的比较

有限的建模可以处理像时间序列这样的一元数据和像图像这样的二维数据。成像应用包括缺陷插值、缺陷检测(异常检测)和超分辨率。图1展示了在太阳能电池板检测中检测缺陷图像任务的传统机器学习方法与稀疏建模的比较。您可以看到,稀疏建模所需的培训数据量(图像数量)大大小于深入学习的数据量。然而,稀疏建模的精度超过90%--训练时间只有19秒。

图1人工智能太阳能电池板缺陷检测性能比较。

稀疏建模有益的应用

即使只有少量的训练数据也能有效建模.这是因为它从训练阶段的输入数据中提取出必要的特征。看一看位于工业制造现场的视觉检查应用程序的例子,通常有大量的"好"数据,但很少有坏数据。这是一个稀疏建模作为AI解决方案的例子。

对于模型的创建来说,简洁的建模是很便宜的,因此它不仅使我们能够在边缘设备上执行推理,而且还可以进行训练。

当谈到在边缘设备上同时进行训练和推理的人工智能模型时,Hacarus称之为"真正的边缘"。通过边缘培训,没有必要将数据发送到外部位置(例如:,云中的一个服务器)导致了较少的数据安全问题。康格里克和哈卡鲁斯人工智能工具包(图2)是一个能够在边缘执行稀疏建模的设备的例子。这个设备是由一个康格里克盒-PC和一个哈卡鲁斯人工智能工具包-包括视觉检测软件光谱核心。

图2康格拉克盒-PC和哈卡鲁斯人工智能工具包。

使用稀疏建模进行培训和预测

图3显示了使用稀疏建模进行视觉检查的总体流程。

图3视觉检查系统的整体流程.

在这个例子中,目标是检测作为异物的穿孔金属上的螺丝。首先,制备无异常穿孔金属的图像。为了避免由于相机角度和目标位置的不同而产生错误,建议从略有不同的角度准备几十个训练图像。在训练阶段,这些训练图像被输入到训练算法中,以创建一个AI模型。如果检查目标没有改变,只需要创建一次AI模型。

在预测阶段,我们将带有螺丝钉的预测图像以及AI模型输入到推理算法中,以进行推理。由于推理的结果,生成了一个在外部对象的位置周围有红色框架的图像。

培训阶段的详细情况见图4。首先,训练图像被划分为称为补丁的小片段。然后,字典学习算法分析补丁并提取特征图像模式.在这个例子中,64个不同类型的孔在穿孔的金属。它们都被称为基地,而AI模型(也被称为训练有素的字典)是64个基地的集合。

图4异常检测训练阶段。

预测阶段的细节如图5所示。首先,我们将预测图像(A)分解为与训练阶段大小相同的补丁。对于每个已分解的补丁,选择一个AI模型的基础并进行组合,以找到最能代表补丁的组合。这个过程被应用到所有的补丁和拼接在一起,以产生一个近似的图像使用AI模型。我们称之为重建图像(b)。

图5异常检测的预测阶段。

在重建图像(b)中,接近训练图像的图像特征的位置与预测图像(a)非常相似,在这种情况下,是一个规则的小孔图案。相比之下,培训图像中未包括的具有图像特征的地点,即:,安装螺丝的位置,在人工智能模型中所包含的基础上没有很好的表示。在那个位置,重建的图像和预测的图像有所不同.因此,可以检测到一种外来物质。外来物体检测图像(c)中的红色区域表示外来物体的位置。

利用稀疏建模技术的视觉检查应用

我们利用飞鹤图像(图像尺寸640像素x480像素)进行了一个划痕检测实验,这是日本传统纸张的经典设计。实验环境如图2所示。

训练

图6所示13幅正常图像用于培训。该数据集不到深入学习所需图像的十分之一。虽然在13幅图像中,起重机的图案是一样的,但这些图像中起重机的位置略有不同。其原因是为AI模型提供了翻译不变性。

图6日本纸飞行起重图案训练图像。

缺陷检测实例

预测图像显示在图7的左侧。在左下角的起重机上,抓痕部分重叠。在预测图像中,划痕是作为一个外来物体检测出来的,周围是一个红色的框架。因此,AI模型能够检测到由于抓挠而引起的起重机形状的变化,因为它已经了解了起重机的形状。

图7起重机上的一个抓痕。

训练图像尺寸及训练时间

图8显示了飞行起重机模式的训练图像尺寸和训练时间。在13个训练图像的情况下,1280像素x960像素的大小,训练时间只有大约16秒。训练时间比深入学习的时间短得多。随着图像尺寸的减小,学习时间几乎以线性的形式减少。

图8训练形象尺寸与训练时间。

预测图像尺寸和预测时间

图9显示了飞行起重机模式的预测图像大小和预测时间图。每1280像素x960像素的预测图像尺寸的训练时间大约只有0.6%秒.随着图像尺寸的减小,480像素x360像素的学习时间几乎线性减少到不到0.1秒。

图9预测图像尺寸与预测时间。

检测精度

图10显示了使用光谱(Hacarus的视觉检查解决方案)对另外100幅工业图像进行评估的结果。我们获得了非常积极的结果,准确率为96%,精确率为100%,繁殖率为95.65%。图中的异常值是一个内部光谱指示器,它的值从0到1,而值越高,异常值就越高。水平轴表示异常值,垂直轴表示总分的累计百分比。红色的图表显示异常程度在0.133附近,涵盖所有缺陷产品。

图10准确结果。

结论

我们讨论了稀疏建模和深度学习的比较,稀疏建模的应用,以及稀疏建模中的培训和预测机制。通过采用稀疏建模的视觉检测程序--光谱核技术,成功地实现了日本传统纸样和飞行起重机的划痕检测。实验结果表明,实验结果的准确性、准确性和再现性较高。