神经网络进化能否改变机器学习

神经网络进化通过筛选人工神经网络中的神经通路来模拟自然进化。神经进化将进化算法和人工神经网络结合起来，能像类似于地球上大脑进化的方式来训练系统。

许多与机器学习相关的概念已经存在了几十年。然而，在过去的几年中，由于计算能力的巨大进步，研究人员才得以探索那些已经停滞不前的算法和方法。在人工智能领域，有一个概念突然引起了人们的注意：神经进化。这种方法通过筛选人工神经网络中的神经通路来模拟自然进化。通过突变，它确定了处理特定任务最有效的途径。

在未来几年，神经进化通过允许系统更动态、更智能地进行调整和适应，可能会影响各种领域，如机器人、医学和后勤。虽然这个概念的起源可以追溯到20世纪80年代，但一直到今天，计算能力的发展才使研究人员能够给旧算法注入新的活力。

“神经进化将进化算法和人工神经网络结合起来。其结果是得到了一种训练系统的方法，该方法与人类大脑的进化方式非常相似。”Uber人工智能实验室的高级研究科学家Kenneth Stanley解释道。

神经进化受自然的启发。传统的深度学习使用一种被称为随机梯度下降（SGD）的方法；它通过不断的训练，逐步减少误差，从而改进算法。尽管SGD在处理许多计算任务（包括语音和图像识别等复杂活动）方面非常有效，但它难以应付“强化学习”（学习如何在很少反馈的情况下学习）这一更艰巨的挑战。例如，腿受损或残废的机器人必须学会一种不同的行走方式，而无需任何人告诉它应该如何适应这种特殊情况。

人工智能软件公司SentientTechnologies的研究副总裁、德克萨斯大学奥斯汀分校（University of Texas at AusTIn）计算机科学系教授Risto Miikkulainen解释说：“通常，神经网络被用在拥有现有数据集的领域。当你有现有的数据点告诉你如何将输入映射到输出时，此时神经网络是有用的。典型场景包括理解股票市场的行为或天气状况的潜在动态，这两者都会随着时间的推移显示出已知的模式。但是，如果您不知道给定输入的正确输出是什么，那么您就不能使用这种方法，”Miikkulainen补充道。

神经进化旨在绕过这一障碍。在过去的几年中，一些研究人员已经涉足了这种方法，包括非盈利研究公司OpenAI、以及DeepMind和Google的团队成员。Uber人工智能实验室的高级研究科学家、怀俄明大学的副教授Stanley和Jeff Clune已经证明，神经进化是一种能够创建深度神经网络的强大算法，能够解决强化学习问题。他们和Uber人工智能实验室的团队开发了一种遗传算法（GA），训练具有超过400万参数的深度卷积网络。

这项研究已经证明了神经进化的实际可行性。在Uber人工智能实验室，Stanley和Clune共同撰写了五篇关于这个主题的学术论文，他们利用遗传算法训练了一个神经网络，能够根据像素数据玩Atari视频游戏。该系统在13场比赛中的6场中表现优于传统的机器学习方法，并避免了一些SGD方法可能出现的一些死循环。更重要的是，在其中三场比赛中，该系统的表现优于人类。

Stanley称一个关键因素是神经网络自发突变的能力。他和克莱恩，以及Uber的另一位研究科学家Joel Lehman找到了引入“安全”突变的方法，帮助神经网络显著增长，并产生更好的结果。这种技术使他们能够进化出具有100层以上的深层神经网路（DNNs），这远远超出了以前通过神经进化所能达到的程度。

在Uber，该系统的实际好处可能包括开发出更好的定价模型或更高效的调度或路由系统。但这只是神经进化的魅力之一。遗传算法，尤其是当它与其他机器学习算法结合在一起时，可以在机器人、无人机、自动驾驶汽车、智能城市、药物设计和网络安全等领域带来各种各样的改进。不管是对无人机的结构损坏，还是社区交通的突然激增，这些系统都能动态、智能地适应变化。“我们的目标是创建一个框架，可以快速地探索和测试各种可能性，并选择最佳方法，”Miikkulainen解释说。

事实上，Miikkulainen认为神经进化的未来是光明的。它为解决复杂的计算问题提供了一个潜在的强大工具。包括OpenAI集团在内的其他公司也在致力于这一领域的研究，并寻找各种可能性。Clune总结道：“神经进化一直是一个有趣的概念。现代计算让研究人员开始真正利用这个想法，就像列奥纳多·达芬奇设想的直升机，直到很久以后才能真正建造和飞行。”