为什么 AI 圈那么多人都不喜欢马斯克？ Etzioni：伤害大于贡献

1新智元编译

来源：inverse.com

作者：Joe Carmichael

译者：刘小芹 弗格森

　　新智元启动新一轮大招聘：COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。

　　简历投递：jobs@aiera.com.cn

　　HR 微信：13552313024

　　新智元为COO和执行总编提供最高超百万的年薪激励；为骨干员工提供最完整的培训体系、高于业界平均水平的工资和奖金。

　　加盟新智元，与人工智能业界领袖携手改变世界。

　　【新智元导读】在人工智能圈，马斯克可谓是一位怪咖：他一边对 AI 的未来忧心忡忡，认为发展AI 就是在“召唤恶魔”，一边又在特斯拉、OpenAI 甚至是DeepMind进行投资。在公开场合，不管是接受采访或者自己的社交媒体账户上，马斯克经常有惊人语录，这也让他在AI圈内引来了许多批评者。艾伦人工智能研究院的CEOEtzioni 在接受 Inverse 采访时直言：“我从未听任何人说过马斯克的半句好话，可能有人说过，但我没听过。不感兴趣。” 马斯克为什么会那么招人讨厌？但是又同时拥有那么多追随者呢？

　　埃隆·马斯克 （Elon Musk） 向来以极端化的形象出现在公众面前。他曾经承诺要使用他的两家公司――自动驾驶电动汽车 Tesla 和火星移民计划 Space X ，将全人类从对石油燃料的依赖中解放出来，并在无形中减少车祸致死率，以及最终将人类带离地球。马斯克对于人类未来的愿景是光明的。只要你别让他谈人工智能。

　　当他开始谈论 AI，你就得留心别被洗脑了。他会谈起“天网”（Skynet），把其称为“我们生存的最大威胁”，并说，发展 AI，“我们就是在召唤恶魔”。这些说法确保了马斯克和 AI 占据着各大媒体的头条，让公众觉得 AI 的危险已经成为不容忽视的存在。但是，如果不是大多数，至少也是很多 AI 领域的专家都对这位频频抢风头的男孩表态是不太高兴的。

　　当被问及马斯克的爱好时，艾伦人工智能研究所 CEO Oren Etzioni 说：“马斯克非常的不负责任，又虚伪，我真是不明白为什么他要做那些事。”Etzioni 在 AI 圈子里是有声望的人物，对圈内人也很熟悉。他在接受 Inverse 采访时说：“我从未听任何人说过马斯克的半句好话，可能有人说过，但我没听过。不感兴趣。”

　　并不是说 Etzioni 觉得忧心 “恶意AI”（malevolent AI）的人全都不可理喻。在他看来，“恶意 AI ”是“50年后、100年后再去思考的东西”。比如说，他欣赏 Nick Bostrom 在人类未来研究院（Future of Humanity Institute）的工作，该机构研究如何为潜在的存在风险（existential rists）做好准备――尽管他不同意 Bostrom 的许多结论。他说：“Nick 是个哲学家，哲学家在非常长远的时间维度上思考问题。他建了一个认真做研究的中心，我认为这些研究确实是有价值的，当然我是指从理性的角度，在合理的时间范围内思考。”

　　但是，当研究变得不切实际，追求纯理论的思辨而忽略了实际、紧迫的问题，Etzioni 就开始反感了。“（马斯克）对 AI 的投资非常多，不仅仅在特斯拉，他还投资了许多其他的公司。”Etzioni 解释说，“而同时他却毫不留情地攻击、驳斥这个领域。所以说，我真是不明白。”

　　不过，Bostrom （《超级智能》一书的作者）对马斯克的看法比其他人好一些，虽然他也同意对这个领域太过消极的评论不利于其发展。在接受 Inverse 采访时，Bostrom 说：“我欣赏马斯克不是因为他的言论，而是因为他实际做的事情。他事实上投资了很多钱做了一些有用的研究。所以，我认为他与这个领域的其他大部分人不同，其他人只会空口说白话，完全没做什么有实际帮助的事情。”

　　马斯克确实促进了 AI 的进步，以他的特斯拉 ，OpenAI 和其他个人投资。特斯拉的自动驾驶汽车利用其内部的，“狭义的” AI （narrow AI）技术――只把一项任务做得非常好的 AI。马斯克认为我们只需要担心通用 AI（general AI），或者超级智能（superintelligence），它们或许将具有完全自主的推理和行为能力。马斯克正在尽其所能阻止这样的 AI 实体出现――至少在人类还没有做好必要的保护措施时别出现。

　　2015年底，马斯克（与 Y Combinator的总裁 Sam Altman 一起）投资创建 OpenAI，OpenAI 是一家非盈利性 AI 研究机构，致力于在发展 AI 的同时确保 AI 的安全，有益，以及无恶意。同年，他与其他许多著名人士（包括 Etzioni 和 Bostrom）联名签署了一份公开信，承诺支持有益的 AI。在2014年，马斯克投资了谷歌的DeepMind，并宣称只是为了留心观察 DeepMind，监控其不可避免的发展。（他再次提到《终结者》。）

　　马斯克在推特140个字符的限制之外的地方详细阐述他对 AI 的担心时，他表现得并不像一个煽动者，他只是想让 AI 民主化，以确保不会出现专制的机器。“并不是说马上就会面临，但我们应该关心这些，”他在 Reddit 上写道，“在 AI 的安全性方面，我们需要做更多的工作。”一个专制的 AI，或者说由少数权力统治的超级智能，似乎会让人类的未来遭大难。马斯克只是希望未来更美好。

　　但有些人认为，马斯克对 AI 领域的伤害大于其贡献。Etzioni 认为，两个实际的问题是 AI 对工作和隐私的影响。当马斯克引用《终结者》时，即便他只是开玩笑地说说，他的600万推特粉丝却忽略了这些真实存在、必要的话题。2014年在麻省理工学院演讲时，马斯克对一位听众说“发展人工智能，我们是在召唤恶魔。”这激怒了 Etzioni。“我不想刺激他，”Etzioni 说，“但我确实认为对在造自动驾驶汽车的人来说，说出召唤恶魔这种话是不负责任的。”

　　Bostrom 认为，马斯克在尽最大的努力试图在复杂的情况中形成导向。“这个问题需要有人提出来，然后人们才能认识到问题的存在，这对研究来说很重要，然后才有人把资金和人才注入这些研究。” Bostrom 解释道，“除此之外，我认为拉响警钟是恰得其反的。你不会想疏远 AI 研究这个圈子，因为不管开发什么安全的技术，这些人才是最终实现这些技术的人。”双方需要耐心合作。那些希望人们为不可避免的世界毁灭做好准备的人“需要非常小心，避免引起公众的反抗、危言耸听或发狂。”同时，AI 圈也必须承认这些煽动者的担忧并非完全没有根据。Bostrom 说：“AI 是很强大的技术，对于它将把人类社会引向何方，我们需要讨论；但假装这项技术绝不会出错是没什么好处的。”

　　这些讨论正在进行，而其结果可能改变我们的人类全体的命运。AI 研究圈子倾向于让它取得的进步开放可得：例如，AI 圈内两位大玩家 Facebook 和 Google 的常规做法是与世界共享开源代码。但这种开放性可能导致两种结果：个人或组织能够无成本地开发一个强大的 AI，可能带给美好的未来一记重锤。更别说有许多监管机构、公益机构的干涉。

　　Etzioni 认为竞争是好事，他说：“我衷心觉得我们真正受益于这样一个生态系统。我认为大公司，以及政府对 AI 的巨大投资是件好事，没有国防高级研究计划局，以及其几十年来致力于自然语言处理的研究，我们不会有 Alexa。”

　　Etzioni 采取了两个行动，证明对AI 的担忧是杞人忧天，或者是很久、很久以后的事情。他先是设置了一个奖金 50000 美元的挑战赛：让 AI 在八年级科学考试的一部分题目中及格。8000多名开发者都只得了 F。然后他调查了 AI 领域领先的专家，向每个人提问他们认为什么时候会出现超级智能。在80名受访者中，92.5%回答说永远不可能出现，或需要超过25年。

　　不管怎么说，前行的道路需要用金钱和脑力来铺设。Stephan Bugaj 是专注于 AI 驱动的类人机器人公司 Hanson Robotics 的创意副总裁，他说马斯克代表了一种令人不安的趋势：富有的人和大公司在“引领着未来”，同时他们也是最担心 AI的一群人。“马斯克那样的家伙到处都有，那些大亨都说我们应该害怕机器人” Bugaj 在接受 Inverse 采访时说，“我就说，为什么我们要害怕机器人？他们造出了让我们恐惧的机器人吗？没有吧？那他们瞎嚷嚷什么？要我说，我们是在为我们自己创造未来，我们不会造什么让人恐惧的机器人。”

　　“马斯克说人类没有能力做伦理道德方面的决定，所以我们需要一个正确的 AI 未来。” Bugaj 说。但他和 Etzioni 认为人类能够胜任此任务。不可否认，AI 将改变我们的世界，但没有理由认为未来将是“天网”。

　　马斯克无疑将继续他的讨伐，而他的追随者也会乐意附和他的言论。AI 圈子也将继续发展无害的 AI，继续怀疑马斯克的预言。

　　本文由新智元编译，原文链接：https://www.inverse.com/article/23048-elon-musk-artificial-intelligence，如需转载，请联系新智元授权。

　　新智元启动新一轮大招聘：COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。

　　简历投递：jobs@aiera.com.cn

　　HR 微信：13552313024

　　新智元为COO和执行总编提供最高超百万的年薪激励；为骨干员工提供最完整的培训体系、高于业界平均水平的工资和奖金。

　　加盟新智元，与人工智能业界领袖携手改变世界。

　　点击阅读原文，查看新智元招聘信息