神经网络如何助力人工智能算法

美陆军联合工业部门研究人员共同研发一种神经网络衡量标准，用于评估下一代人工智能和机器学习算法的可靠性与可信度。

背景

深度神经网络（DNNs）是一种利用训练数据学习的机器学习形式，一旦数据接受训练，即可在获取新信息或输入信息时做出预测；但如果新的信息超出训练范围，则很容易做出虚假判断。研究人员表示，鉴于训练数据和潜在输入数据的信息多样性，解决上述问题非常具有挑战性。

研究成果应用

美陆军研究实验室研究人员认为，此项研究为创造下一代强大而有弹性的算法提供了一个新的研究机会，该方法用途广泛，可作为附加模块应用于陆军众多现代化算法中。新的衡量标准可帮助陆军开发更加安全可靠的机器学习技术，并可应用于指挥控制系统、精确打击和决策支持系统。

虽然目前工作已经取得一定成果，但尚未研发出可检测新型攻击的方法。在研究过程中，研究团队提出了一个生成模型，该模型可以调整底层原始深层神经网络中原始输入图像的各个方面，然后评估原始深层神经网络对这些生成的输入的响应，以测量模型的一致性。该方法不需要访问训练数据，不需要使用集合或需要在与训练集不同的验证数据集上训练校准模型。

下一步计划

研究人员将继续与测试和评估团队合作，完善算法，以衡量各种算法在不同应用程序中的可信度。该方法也对陆军发展现代化优先事项具有重要意义，对下一代网络解决方案具有很重要的应用价值，向战场作战人员提供技术能力。