2019年3月27日,ACM(国际计算机学会)宣布,三位“深度学习之父”约书亚·本吉奥(Yoshua Bengio)、杰弗里·辛顿(Geoffrey Hinton)和杨乐昆(Yann LeCun) 共同获得了2018年图灵奖。这是图灵奖自1966年设立以来,第三次将年度图灵奖同时办法给三位获奖者。根据ACM官网信息,此次图灵奖是为了表彰三位大师给人工智能带来的重大突破,这些突破使深度神经网络成为计算的关键组成部分。今天我们的主人公杰弗里·辛顿(Geoffrey Hinton)在今年70岁的高龄,给我们展示了什么叫做勇气?
一个月前,在多伦多接受媒体采访时,Hinton大神断然宣称要放弃反向传播,让整个人工智能从头再造。不明就里的媒体们顿时蒙圈不少。8月份的时候,Hinton大神还用一场“卷积神经网络都有哪些问题?”的演讲来介绍他手中的Capsule研究,他认为“CNN的特征提取层与次抽样层交叉存取,将相同类型的相邻特征检测器的输出汇集到一起”是大有问题的。如果继续他提出的Capsule研究,成功了会毁掉自己赖以成名的反向传播算法和深度学习理论,失败了则将重蹈爱因斯坦晚年“宇宙常数”的覆辙。但是对此,正如Hinton大神在接受吴恩达采访时所说的:"如果你的直觉很准,那你就应该坚持,最终必能有所成就;反过来你直觉不好,那坚不坚持也就无所谓了。反正你从直觉里也找不到坚持它们的理由。"
回顾hinton的"封神之路"
Hinton出生于科学家世家,他的父亲Howard Hinton是一名昆虫学家,母亲Margaret Clark是一名教师。在Hinton成长的过程中,他的母亲给了他两种选择:“要么成为一名学者,要么就做个失败者。”Hinton家族的家谱上,科学家占了很大的比例。他的高祖父是布尔逻辑创始人乔治·布尔(George Boole),任何用过“布尔检索”的人都很熟悉他。乔治布尔的女婿之一Charles Howard Hinton是Hinton的曾祖父,是一位数学家和科幻作家,他创造了“超立方体(tesseract)”的概念。Hinton的中间名是Everest,这个名字来源于他高祖母的叔叔、地理学家Everest,珠穆朗玛峰就是以他的名字命名的。
在"人工智能冬季",他选择了坚持。1972年,Hinton开始在爱丁堡大学攻读博士学位,研究方向是神经网络。每周,他的导师都会对他说,你是在浪费时间,但Hinton还是坚持继续研究。1987年,Hinton接受了加拿大高级研究所(CIFAR)的邀请,他和妻子Ros搬到多伦多的Annex。尽管从未学过计算机课程,但Hinton还是在多伦多大学计算机科学学院接受了一个职位,并在CIFAR展开了机器和大脑学习项目的研究。他在多伦多大学圣乔治校区的桑福德·弗莱明大楼里有了一间小办公室,开始安静地工作。渐渐地,一些相信深度学习的人都加入了他的团队。其中就包括Ilya Sutskever,他现在是OpenAI的联合创始人兼董事。Sutskever还记得2000年前后在Hinton的实验室工作的时光。他说,当时还是“人工智能冬季”,有10个左右的学生在Hinton的实验室做研究,那时人工智能研究领域的工作和资金都很匮乏,而且来自行业的资助也越来越少。“我们是局外人,但我们觉得我们有一种罕见的洞察力,觉得我们与众不同。”Sutskever说。到目前,hinton的深度学习理论,已经深深影响了一代AI,Hinton的观点曾被业界抛弃,而突然间他却成了行业里最重要的人物,从弃儿变成了明星。

如今,站在下一代AI的风口,hinton勇敢"抛弃"以往的成就,70岁依然坚守在科研的阵地,提出Capsule理论。尽管目前Capsule的论文刚刚出来,深度学习的各路大神并没有贸然对其下评论,深夜中的外媒亦尚未就此发稿,甚至就连技术圈内一向口水不断的Hacker News,今天也是静悄悄地一片,但我们相信Hinton大神的苦心孤诣是值得期待的。