马库斯又开炮了,直指 LeCun 最新一篇采访。
「LeCun 所说的一切,我之前几乎逐字逐句都说过。」
「大部分内容就在 2018 年一篇论文中,而 LeCun 当时还嘲笑,大部分内容是错误的」。
同样在 Twitter 上,马库斯也发布数十条相关主题推文,还是针对 LeCun 的这篇内容,引发不少业内人关注。
目前,相关媒体 ZDNet 已注意到马库斯的声音,并在原报道中刊出相关争议 ——
但目前 LeCun 尚未回应。
所以,这究竟是怎样一篇采访?LeCun 又说了什么?
往下看。
事情起因是 9 月 24 日商业技术媒体 ZDNet 对 LeCun 进行了采访,主题关于他在 6 月发表的一篇探讨 AI 未来的一篇论文。
该论文中,LeCun 披露了自己在未来十年的研究方向:自主机器智能(Autonomous Machine Intelligence),更多细节之前有过介绍,请参考这篇文章。
此番采访,LeCun 介绍了更多信息,更对此前专注的路线予以不小否定。
尤其在深度学习研究路径问题上,他表达了怀疑态度。
目前 GPT-3、Transformer 拥护者们相信,只要将一切标记化,再训练出巨大模型来做离散预测,AI 就会以某种方式出现。但他认为,这还只是未来智能系统的组成部分之一,但不是关键必要的部分 ——
而即便是强化学习,也无法解决上述问题,他解释道,尽管它们是下棋好手,但仍只是专注于「动作」的程序。
LeCun 还补充,很多人都声称要以某种方式推动 AI 进步,但这些想法误导了我们,目前智能机器的常识性甚至还不如一只猫,这也许才是解决问题的原点。
由此,LeCun 坦诚,自己已放弃用生成网络从这一帧预测视频下一帧的研究 ——
「这是一次彻底的失败」他补充道。
LeCun 总结了失败的原因,概率理论基础的模型限制了他自己。同时,他谴责了那些认为概率论迷信者。他们认为,概率论即解释机器学习的唯一框架,但事实上,一个 100% 概率构建的世界模型雀食难以实现。
LeCun 认为,目前所有 AI 都面临的基本问题是 ——
如何测量「信息」。
目前这一底层问题他自己也没能很好解决,不过,LeCun 希望去重新思考并打了个比方:
「这好比我们要去月球,于是建了个梯子,但梯子无法到达那里,我们需要退回来重新思考基本原理」。
不止分享学研观点,LeCun 提醒,产业界也需要重新思考目前 AI 技术面临的问题。
尤其在自动驾驶领域,他认为相关公司一直都过于乐观,从业者以为将数据扔进大型神经网络就能让它学到一切。但事实上,我们可能会拥有一个没有常识的 L5 自动驾驶系统,这将使相关功能变得十分脆弱,仍有很多极端状况无法照顾到。
「终极解决方案是一个能更好理解世界运作方式的系统」,LeCun 提出了自己的思路。
ZDNet 还问了 LeCun 为何此时又出来发声。
他解释道,自己很早就在思考监督学习、强化学习的不足,Hinton 也是,他感慨「我们不再年轻,时间不多了」。
值得一提的是,LeCun 在采访中直言不讳聊了聊自己的批评者,其中就包括纽约大学教授,加里・马库斯,LeCun 评价道「从未对 AI 做任何贡献」。
至于另一位常在社交网络开炮的人,LTSM 之父、Dalle Molle 人工智能研究所联合主任 Jürgen Schmidhube,LeCun 也小小讽刺了下「提想法容易,有贡献才难」。
大概正是这些言论,为他招来了争议。
不出意外,这篇采访前脚刚发,后脚马库斯就来了。
不同于以往的争辩,这次马库斯发布篇幅超过 6000 个单词的长文,直指 LeCun 剽窃观点。
马库斯称 LeCun 观点自己很早之前就已经说过,并表示:
从来没有人比 LeCun 在采访中更严密地重复我的观点了。
甚至从采访中摘出原话,和自己曾经的观点一一作出比对。
△ 对比节选(共 7 条)
一直以来,马库斯就对当前人工智能的架构不抱期待,称要实现通用人工智能还需要引入其他的技术。
对马库斯关于 AI 的一些观点,LeCun 总是认为其在博取关注。此前,他就发布一篇“如何在推特吸引 AI 圈眼球”的方法论,在其中,若有所指地罗列道:
一再指出深度学习的局限性(其实这是每个人都知道的)。
根据某人新言论,声称他们改变自己的想法,同意自己 N(N=5/10/15/20)年前说的;
利用观点模糊性,宣称某人观点出自自己早年言论,指控对方剽窃;
坚持发推 / 写小作文;
…
如前文提及,LeCun 也在此次采访更是专门点名马库斯,「他是一位心理学家,根本不懂 AI」。
不出意外,马库斯做了回应。
他引用了 LeCun 的讽刺原文回应称,ZDNet 已经在报道中补充了他的博客,希望 LeCun 也能作出相应的解释。
值得一提的是,关于 LeCun 采访中提及的那篇论文,LSTM 之父 Jürgen Schmidhube 也表达过不满,称其没有正确引用自己实验室 1990-2015 年的成果。
参考链接:
[1]https://www.zdnet.com/article/metas-ai-guru-lecun-most-of-todays-ai-approaches-will-never-lead-to-true-intelligence/
[2]https://garymarcus.substack.com/p/how-new-are-yann-lecuns-new-ideas?sd=pf&s=09