“卷积神经网络之父”Yann LeCun:深度学习已死,可微分编程万岁!

2018-02-0319:10:25人工智能与大数据Comments7,256 views字数 1084阅读模式

深度学习领域最知名的学者之一Yann LeCun今日在自己facebook上发表的一篇短文,瞬间引爆了国内人工智能关注者们的朋友圈。这条动态讲的是什么呢?为何会引起如此轩然大波?文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

我们常常提到的深度学习是全部深度学习算法的总称,卷积神经网络是深度学习算法在图像处理领域的一个应用。而Yann LeCun就是卷积神经网路的发明者,也被称之为“卷积神经网络之父”。卷积神经网络的出现对人工智能发展的重要性不必多说。而这次Yann LeCun的推文传播如此之快,是不是有比“卷积神经网络”更重大的学术成果出来了?为了使国内读者了解到 LeCun推送的内容,雷锋网编辑对推文进行了编译。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

首先开头是一句极具有标题党风格的英法混合语:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

 Deep Learning est mort. Vive Differentiable Programming!文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

翻译成中文就是:深度学习已死,可微分编程万岁!文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

为何突出此言?深度学习算法是人工智能多个领域的底层框架,怎么就死了呢?接着往下看发现LeCun说的是“深度学习”这个词已死,该有新的名词来替代它了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

LeCun提到的新词是可微分编程。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

他在推文中解释道“可微分编程”不过是把现代深度学习技术重新换了个叫法,这就跟当年神经网络还只有两个以上隐藏层时就被称之为“深度学习”差不多。对于现代深度学习技术,“深度学习”这个词已经不够用了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

他又写道:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

但重点的是,人们现在正通过组装参数化功能模块网络,构建一种新软件,并用某种基于梯度优化的方法来训练它们。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

越来越多的人正在以一种依赖于数据的方式(循环和条件)来程序化定义网络,让它们随着输入数据的动态变化而变化。这与普通的程序非常类似,除了前者是参数化的、可以自动可微分,并且可训练和优化。动态网络变得越来越流行(尤其是对于NLP),这要归功于PyTorch和Chainer等深度学习框架(注意:早在1994年,之前的深度学习框架Lush,就能处理一种称为Graph Transformer Networks的特殊动态网络,用于文本识别)。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

现在人们正在积极研究开发命令式可微分编程语言编译器,这对开发基于学习的AI(learning-based AI)来说是一条非常令人兴奋的途径。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

最后,LeCun还特别强调将“深度学习”改名为”可微分编程”还不够,其他的一些概念也需要改,比如“预测性学习”应该改为 “Imputative Learning”。他说稍后会谈更多......(读者们可以帮想想还有什么需要改名的,这句是雷锋网加的)。让我们一起来关注LeCun的最新动态吧!文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

LeCun的Facebook截图:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

“卷积神经网络之父”Yann LeCun:深度学习已死,可微分编程万岁!文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

雷锋网(公众号:雷锋网)文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/728.html

  • 本站内容整理自互联网,仅提供信息存储空间服务,以方便学习之用。如对文章、图片、字体等版权有疑问,请在下方留言,管理员看到后,将第一时间进行处理。
  • 转载请务必保留本文链接:https://www.cainiaoxueyuan.com/ai/728.html

Comment

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定