智慧之巅，三十年来AI宗师们的那点事

deep learning曾被《纽约时报》头版报道：“深度学习让机器执行人类的活动，如看、听和思考，可以模式识别提供了可能性，促进了人工智能技术的进步。”但是也不免有人笑谈，Hinton已建立了一个很好的梯子，但这个梯子并不一定能带你到月球。而这里，Leo或许可以带给你不一样的想法。

近期Nature杂志刊登了Lecun、Bengio、Hinton的深度学习(deep learning)文章，是对最近深度学习火爆进展的总结，也是对他们三十年专注突破精神的最佳肯定。

深度学习火到什么程度呢?据我所知，在工业界，Google、Facebook、微软、百度、腾讯以及其它创业公司，都想用深度学习的算法，意图达到顶级的智能识别实用精度(语音识别、人像识别等)。

深度学习的广泛应用，让它载入史册，可以比肩最近人工智能领域的图灵奖工作--哈佛教授 Leslie Valiant的可学习性理论(2010年图灵奖，90年代初在此思想下诞生了著名的 Boosting 算法)、 UCLA教授 Judea Pearl 的基于概率推断的人工智能(2011年图灵奖，90年代末开始基于此思想的图模型风靡学术界)。

Harvard教授 Leslie Valiant

UCLA教授 Judea Pearl

我时常和业内人士交流 ，包括硅谷的工程师、研究员(图像分类、广告推荐等)，风险投资者，美国学术界的教授，还有在创业公司的和在学校实验室做研究的清华、交大学生。大家对深度学习的历史背景缺乏全面细腻的了解，甚至有些盲从。

在我创业前，深度学习还没“火”，我在Yann Lecun的实验室呆了一年，研究图模型和深度学习的关系——当时对两个体系都深刻理解的人几乎没有。而在本该功利的创业环境里，到目前为止，我们团队还未使用深度学习，显得有些“另类”甚至“落伍”，所以带着这样熟悉又陌生的心情，今天想分享一下自己的体会，算是对深度学习以及Hinton和Lecun的三十年创新之路的致敬。

首先，来介绍下Deep Learning的主要人物背景：

Geoff Hinton是深度学习学派的祖师爷，老爷子腰椎不好，经常得站着写代码到夜里一点，不能坐飞机，得坐火车从东边到西边去开会。

Geoff Hinton，deep learning 学派创始人之一

Yann Lecun 是 Geoff Hinton 三十年前的弟子。最近深度学习应用于智能理解特别广泛的模型是卷积神经网(ConvNet)，就是 Yann Lecun 发明的 / 命名的。在学术上，这和传统的深度学习其他的模型有显著性差异 —— 我甚至认为这是思想性的巨大差异(世界可学性的假设)。

图右为Yann Lecun，卷积神经网的发明者，Geoff Hinton的弟子

Andrew Ng 是 Michale Jordan( Berkeley 教授，图模型的泰斗)的明星弟子，Andrew 独立后，在Stanford,、Google 和 Baidu 做的反而是deep learning (有点武当弟子学了少林，或者少林弟子学了武当的意味)。后来做了网络公开课程Coursera后名声大噪，意义大大超越了其学术界的地位和范畴。

吴恩达(Andrew Ng)，百度首席科学家，在线教育平台coursera的创始人

历史究竟发生了什么? 深度学习为什么突然火了?

标志性事件发生在2012年，两个“小毛孩”打败了业界神话。

2012年底，Geoff Hinton 的博士生 Alex Krizhevsky、Ilya Sutskever(他们研究深度学习时间并不长)在图片分类的竞赛 ImageNet上，在识别结果拿了第一名。其实类似的比赛每年有很多，而这个事件的意义在于，Google 团队也在这个数据集上做了测试(非公开的，Google没有显式参加学术界的“竞赛”)，用的也是深度学习，但识别精度比Geoff Hinton的团队差了很多，这下工业界振奋了：

同样用深度学习的算法，大神级别的Google团队，居然会在识别精度上差这么多!

先来谈谈“Google团队”是干什么的。它是特殊的，因为它不同于其他Google团队，并且这个项目受到Google公司足够的战略级重视，有着世界级的明星领导者，其中包括 Andrew Ng、Google 神人 Jeff Dean(他们在深度学习领域已投入很多，并到处宣讲他们的战果)以及业界无法企及的硬件和数据资源的支持。

我想，如果没有这样巨大的反差，深度学习还不会得到这么快的传播和认可。因为当时的学术界还不知道Google内部的测试成绩，只知道Geoff Hinton得了第一，击败了另一个学术界顶级的Oxford团队。甚至今天，很多人还不知道这段历史。

两个“小毛孩”让业界神话陷入低沉：Google投入产出并不具有说服力，甚至，是可耻的。但是，工业界似乎不需要、也不该关心面子。

紧接着，巨头的垄断游戏开始了。

在机器学习方面顶级年度会议(NIPS)上，Google竞价超过了包括微软在内的其他公司，收购了Alex Krizhevsky、Ilya Sutskever 和 Geoff Hinton这三个 刚刚注册几个月的公司。好像是花5000万美元买了三个人的部分时间。现在，Google 团队里面，曾经被打败的人可以正式拉着 Geoff Hinton 聊天了，工业界似乎不需要、也不该关心面子。而Facebook作为对谷歌的回应，挖了Yann Lecun，让他在纽约领导成立了 Facebook AI lab。Andrew Ng则离开Google去了百度。

从“硬”结果来说，其实此时的百度做得不会比过去的 Google 差，“软”名声还是因此提高很多：相比于Google X, Facebook AI lab, Google Brain等，能提出用“深度学习研究院”这个用算法来命名部门的人是需要“魄力”的。[!--empirenews.page--]

有趣的是，后来Yann Lecun组的学生也出来了一半，陆续开了几家深度学习的创业公司，其中一家早前被 Twitter 收购。另外一些创业公司，则分别投入了Facebook 和 Google的麾下 。粗略估计，深度学习给Geoff Hinton和 Yann Lecun 的组带来了近十个千万富翁。

更有意思的是(很有启发性并值得思考)，Alex Krizhevsky 和 Geoff Hinton的竞赛用的正是 Yann Lecun 发明的卷积神经网，但结果刚出来时(实现细节还没有公布)，Yann Lecun和他的NYU实验室成员甚至没法重复Geoff Hinton的结果。这显然不科学!

自己发明的算法，使用结果不如另外一个组。这下炸了锅，Yann Lecun开了组会，反思的主题是“为什么过去两年我们没有得到这样的成绩” 。

高手过招，Idea is cheap; The devil is in the details (有想法很廉价;魔鬼在细节处)。想法其实很重要，但只能区分高手和普通人。高手都有想法，但谁才能创造历史呢?Yann Lecun 这样的实验室需要反思什么呢?先看看他们有些什么吧。

我经历过巅峰时期的微软亚洲研究院(十五年前，这里的实习生只能是名校的各系第一名)、UCLA (排名10名左右)、MIT AI lab (计算机专业第一名)，实验室的茶歇时间 Tea Time, 过道挤满了顶级会议的最佳论文获得者---NIPS, CVPR等 。基于以上经验，我先介绍一下 Yann Lecun 实验室的过人之处。

Yann Lecun上课教授和使用的是他自己写的语言Lush，用来替代 matlab(很方便描述矩阵运算、图像处理等)、python在科学研究的功能。他的团队三十年如一日的专注于神经网络的研究，从不随波逐流，课题覆盖卷积神经网的方方面面。有的博士生聪明数学好，非常敏感于卷积神经网模型的深刻理解;有的博士生专注于结构参数的行为分析(多少层啊之类);有的博士生研究在不同数据分布(应用场景下)的表现，比如字母识别、图像分类、物体检测、场景分类等。

这样的学术坚持，是在怎样的艰难背景下呢?

人工智能领域，神经网络思想在80年代末开始衰落，之后分别经历了几个划时代的图灵奖级工作的兴起，统计学习理论(带来支持向量机 SVM 算法)，可学习理论(带来 Boosting 算法)，概率推断(图模型，graphical model)几乎垄断了过去的三十年。在之前提到2012年的 Geoff Hinton 团队的深度学习打败Google的标志性事件前，图模型的思想横扫计算机视觉领域(超越了boosting，SVM等)。这使得深度学习生存艰难，没有多少同行在研究中使用深度学习，更多年轻学生愿意去“时髦”的机器学习研究组。

2006年，Yann Lecun的文章还在阐述深度学习如何能跟当年流行的图模型(比如条件随机场模型)等价，证明自己的工作在不同数据集上也能和图模型做到相当的识别精度。尽管在2012年末，Alex Krizhevsky、Ilya Sutskever 两个“小毛孩”在竞赛中用深度学习打败了Google团队，让工业界炸了锅。

但是，工业界对深度学习的追捧传递回学术界是发生在一年以后 。原因是， 除了顶级教授因为私人关系能知道工业界最前沿进展，大部分学术界教授并没有公开渠道及时获取信息，而这些教授却是学术工作评审的主力。因此，直到2013年，Yann Lecun 的文章在计算机视觉的顶级会议上(CVPR)依然很难发表(这时的深度学习在多项数据集上相比其他“传统”方法并不排他性的出色)。

Yann Lecun 像战士一样对抗着学术界的“庸俗”和“传统”，在不同场合讨伐从业人员的态度、标准和品味，公开发文抵制计算机视觉顶级会议CVPR，并于2013年创办了新的学术文章发布体系(ICLR)。

可笑的是，仅仅不到两年的时间，现在，视觉的文章没用上深度学习都很难被发表。

主流(不见得创造历史)的和最需要独立思想和自由批判精神的年轻学者，却似乎没有节操地要和深度学习沾上边(当上“千”个博士生都在研究深度学习的时候，应该不需要什么独立见解和勇气)。

今天，反而是三十年后卷土重来的Yann Lecun(还有Bengio，Geoff Hinton)愿意站在先锋，批判性地谈论深度学习的泡沫繁荣，呼吁学术界、资金拥有者冷静。这种反差很是让人感慨。

Yoshua Bengio

到底当时，Yann Lecun 和 Geoff Hinton的团队细微差别在哪呢?高手也可能错过什么呢?或许我们很难有接近事实的答案，原因可能很复杂。对于历史的真实解读才有助于我们抛开浮华，启发与他们一样追求创新的我们，无论是在学术研究还是创业。

下次我会撰文就这个问题专门讨论一下，期待有兴趣的朋友和我共同交流，邮箱：leo@yitu-inc.com。

附：作者与深度学习的关系

加州大学洛杉矶分校(UCLA)统计学博士，师从 Alan Yuille 教授，思想上属于 Bayesian 理念，继承大师 Stuart Geman(美国数学家，科学院院士, 他和弟弟在84年的马尔科夫随机场奠基性工作，足足影响了之后三十年的科研历史)David Mumford(美国数学家，74年菲尔兹奖得主)和概率学大师Ulf Grenander开创的 Pattern Theory 学派(这些数学家的工作大大早于计算机领域的图模型)。创立依图前，作者在 Yann Lecun 的实验室研究图模型和深度学习的关系，可以从不同视角看深度学习。