转载

在太空之外马斯克还有一个更具野心的人工智能梦

　　去年 12 月在蒙特利尔，为期一周的人工智能（AI）大会快要结束的时候，汽车制造商特斯拉的创始人伊隆·马斯克（Elon Musk）和高科技孵化器 Y Combinator 的总裁山姆·奥特曼（Sam Altman）突然宣布推出一家新的人工智能公司。

　　天价挽留的人才

　　政界和金融界人士认为，选在星期五下午发布的消息，通常都有点蹊跷。而 OpenAI 推出的消息选在这样一个时候发布也不是没有原因的。听到这个项目的风声之后，硅谷一些顶尖公司就刚刚被 OpenAI 挖角的人工智能研究者开出天价，试图挽留这些出色的人才。

　　这样的情形足以迫使马斯克和奥特曼拖延发布新公司的消息。“真是超高的天价，”曾经在谷歌和 Facebook 实习，后来加入 OpenAI 的沃伊切赫·萨伦巴（Wojciech Zaremba）说。有公司向他开出了这样的天价。

　　这些开价到底有多高呢？两年前，当最新的机器学习技术市场真正开始升温的时候，微软研究院的副总裁皮特·李（Peter Lee）就说过，一个顶尖人工智能研究者的报酬，会让美国橄榄球联赛的顶尖四分卫人选黯然失色——这还是指在通常情况下，不是硅谷两位著名企业家试图挖走你的高级人才的时候。萨伦巴说，在 OpenAI 组建时期，一些公司给他开出的价格是他市场价值的两到三倍。

　　OpenAI 的情怀

　　OpenAI 的开价没有这么高。但它提供了别的东西：为你提供机会，让你在进行研究和探索时，只需要考虑未来，无需考虑产品和季度盈利目标，而且，最终可以将你的绝大部分（如果不是全部的话）研究成果分享给任何人。你没听错：马斯克，奥特曼和这家公司的目标是把一些有可能是 21 世纪最具变革性的技术免费供应给大家。

　　萨伦巴说，那些天价反而让他失去了兴趣——尽管他对谷歌和 Facebook 这样的公司非常尊重。他觉得，那些开价让他越发受到 OpenAI 坦荡使命的吸引。“我意识到，OpenAI 是最好的地方，”萨伦巴说。

　　这件事最大的讽刺意味在于：世界上最大的科技公司在试图留住自己的明星员工，研究者却只是想和大家分享自己的研究。在 AI 研究的世界里，那些最聪明的人才的驱动力不是（至少不仅仅是）下一个产品周期或利润率。他们希望让 AI 变得更好，而要让它变得更好，你就不能将最新发现保密。

　　近日，OpenAI 发布了它的首批 AI 软件：一个工具包，可以通过一种名为“增强学习”（reinforcement learning）的技术来构建智能系统。还记得之前在围棋赛中战胜韩国棋手李世石的谷歌人工智能 AlphaGO 吗？“增强学习”就是它背后的一项关键技术。

　　但是下围棋仅仅是个开始。 OpenAI 拥有十亿美元级的资金，力图让 AI 尽可能走得更远。从这个公司的组建过程和规划中，你可以看到下一波创新大潮正在到来。OpenAI 本身是否会在这个变化中扮演主要角色，现在尚未可知。但是从推动它形成的那股力量来看，新的 AI 不仅将重塑技术的面貌，也将改变我们构建技术的方式。

　　以 AI 制 AI

　　硅谷并不反对夸张。对于夸张的说法，它总是明智地抱以怀疑的态度。但是在人工智能的领域，变化是确实存在的。在谷歌和 facebook 这样的公司，“深度学习”（deep learning）技术已经在帮助互联网服务识别照片中的面孔，识别发送给智能手机的运行命令，对互联网搜索作出反应。这种深度学习技术还将为未来很多任务提供动力。它可以帮助机器理解自然语言（即人类说写的自然方式），它可以制作出新型机器人，让机器不仅可以执行任务，而且能够边做边学。一些人认为，最终机器会拥有某种“常识”，即真正像一个人类那样去思考。

　　但是，这样的承诺也带来了深深的焦虑感。马斯克和奥特曼担心，既然人们能够造出神奇的 AI 来帮助我们，那么他们也可以造出一些邪恶的 AI。有这种想法的人不仅是他们两个。但是令人吃惊的是，马斯克和奥特曼同时也认为，要抵御恶意 AI 的威胁，最好方式不是限制 AI 的发展，而是扩散它。这就是为什么这个项目对一些年轻的高智商理想主义者富有吸引力的原因之一。

　　在饭局上诞生

　　OpenAI 的诞生开始于去年夏天的一个夜晚，在硅谷的紫檀酒店（Rosewood Hotel，风投资本家最喜欢的聚集地之一），伊隆·马斯克和 Google Brain 的伊尔亚·苏茨克维（Ilya Sutskever）参加的一个饭局。Google Brain 是负责打造深层神经网络（人工智能系统，可以通过对海量的数字化数据进行分析，来学习如何执行任务，包括从识别照片到撰写往来电邮的各种任务）的部门。苏茨克维是这个项目的顶尖研究者。

　　山姆·奥特曼的 Y Combinator 曾帮助孵化过 Airbnb、Dropbox 和 Coinbase 等公司。他促成了这次会面，将几位 AI 研究者聚集一堂。在场的还有格雷格·布罗克曼（Greg Brockman），一个年轻但经验丰富的创业者，曾是硅谷数字支付初创公司 Stripe 首席技术官。这些人有一个相同的目标：创建一种新的 AI 实验室，不仅不受谷歌控制，也不受所有其他公司控制。

　　马斯克参加这个饭局是因为他是奥特曼的老朋友——也因为 AI 对他的各项生意都非常重要。特斯拉需要 AI 来开发无人驾驶汽车，SpaceX 公司也需要 AI 来让人类进入太空。但马斯克也曾高调警告说，AI 是一种强大到可以自己学习的系统，人类可能一天会失去对它们的控制。

　　麻烦的是：最有资格来解决这些问题的人，很多都已经在为谷歌工作了（还有 facebook、微软、百度和 Twitter）。当时在场的人觉得，一个初创公司要挖到这些人才非常困难，即便这个初创公司是马斯克和奥特曼创办的。不过也并不是全无希望。“我觉得有风险，”苏茨克维说。“但我也认为尝试它会非常有趣。”

　　在酒庄里挖角

　　用马斯克、奥特曼和其他人的支持下，布罗克曼很快就决心建立他们设想的这个实验室。他开始全职做这个项目，先是联系到了蒙特利尔大学的计算机科学家、深度学习运动的奠基人之一 Yoshua Bengio。该领域的另外两位先驱者—— Geoff Hinton 和 Yann Lecun 分别在谷歌和 Facebook 就职，但 Bengio 致力于学术，基本上不会出山。他列出了该领域最好的一些研究者的名单，于在是接下来的几个星期里，布罗克曼就根据名单联系这些人。

　　很多研究者都表示喜欢他们的想法，但是他们对于跳槽也很谨慎。为了制造机会，布罗克曼挑选了 10 个他最需要的研究者，邀请他们到纳帕谷酒庄度过一个周六，在吃吃喝喝的同时打动他们。对于布罗克曼来说，即使是开车前往纳帕的过程，也起到了催化剂的效果。“在这种时间里，你没有办法很快抵达你要去的地方，人们就会开始互相交谈，很容易拉紧距离，”他说。在他们到达酒庄之后，良好的氛围保持了下去。“然后你就看得出来，火花已经产生，”布罗克曼说。或者就像苏茨克维说的那样：“交谈是第一位的，酒是次要的。”

　　在聚会结束时，布罗克曼向每个人提议加入这个实验室，并给他们三周时间进行考虑。结果有 9 个人都同意了，而且尽管硅谷巨头开天价让他们留下，他们还是加入了这个实验室。“谷歌确实很想挽留我，所以这不是一个容易的决定，”苏茨克维说，“但最后，我决定加入 OpenAI，部分原因是这是一个很强大的团队，还有很大一个原因是它的使命太有吸引力。”

　　分享的趋势

　　深度学习运动发源于学术界，直到最近，像谷歌、Facebook、微软这样的企业才开始进军这个领域，因为计算能力大幅进步，使得深层神经网络成为现实，不再仅仅是理论上有可能的东西了。像 Hinton 和 LeCun 这样的人离开学术界，进入谷歌和 Facebook，是因为这些公司内部拥有巨大的资源。但是，他们仍然与其他研究者一起合作。事实上，就像 LeCun 解释的那样，开展深度学习研究需要人们能自由交流想法。“如果你秘密进行研究，”他说，“你就会落后。”

　　其结果是，大公司现在会把自己在人工智能领域的很多研究进行分享。这是一个真正的变化，对谷歌来说尤其如此，因为该公司长期以来都把这项技术作为其在线帝国秘密的核心。布罗克曼、奥特曼和马斯克希望将这种开放性进一步扩大。他们表示，不想人工智能的未来被一两家大公司操控。

　　开放的边界

　　所有这一切听起来都很美好，但是研究者可能会发现，他们之前曾经面临的问题并没有消失。开放自有其局限性。而且，人工智能的长期愿景并不是唯一的影响因素。 OpenAI 并不是慈善事业。马斯克的公司可以从这个项目中大大受益，奥特曼 Y Combinator 孵化的很多公司也是如此。“当然，还有一些相互有冲突的目标，”LeCun 说。“这是一个非营利性的公司，而且和 Y Combinator 也有非常紧密的联系。大家也像这个行业的所有人一样获得了报酬。”

　　布罗克曼表示，这个实验室开出的薪酬不如人工智能研究者目前在谷歌和 Facebook 那种地方可以拿到的那么高。但是他说，实验室也想“付给他们高薪”，而且提供了股票期权，一开始是 Y Combinator 的股票期权，然后可能还有 Space X 的（它和特斯拉不同，仍是一家私人公司）。

　　苏茨克维和布罗克曼都说，OpenAI 可能会为一些成果申请专利，比如会采取“先发制人”的专利申请战术，防止其他公司获得了专利。

　　但是，专利暗示着营利动机的存在。因此有些人对 OpenAI 的目标持怀疑态度。

　　超级 AI 的正与邪

　　马斯克和奥特曼在推出 OpenAI 的时候，将其描述为一种消除恶意 AI 威胁的方式。当然，超级智能也可能从 OpenAI 创建的技术中诞生，但他们坚称，由于该公司的技术开放给所有人使用，所以恶意 AI 的威胁将得到缓解。“我们认为更有可能出现这样的情况：很多很多正义的 AI 会帮助阻挡偶尔出现的邪恶，”奥特曼说。

　　但在人工智能领域，不是所有人都同意这样的看法。牛津哲学家尼克·博斯特伦（Nick Bostrom）就表示，如果你不加限制的分享研究成果，坏人就有可能抢在好人之前利用它们。“如果你有一个按钮，可以做坏事，”博斯特伦说，“你是不会想把它分享给每个人的。”但是，如果 OpenAI 决心要捍卫自己的研究，不让坏人得到它，那么它和谷歌或 Facebook 又有什么不同呢？

　　开源的精髓就是放弃控制权。如果有足够多的人朝着一个共同目标努力，最终就会击败你秘密炮制的任何东西。但是如果 AI 真的变得非常强大，那么这种情况就可能遭到颠覆。我们必须确保不会发生这样的事情。马斯克、奥特曼他们对“群众的智慧”抱有极大的信心。但是有朝一日，这些群众不一定全都是人类。

正文到此结束