转载

震撼人类的人工智能：可以思考和感知的机器人

　　英文原文：The Wall Street Journal

　　人工智能正在越来越多地引起我们的思考：由 Google 开发的软件 AlphaGo 在最近的围棋比赛中轻松击败了目前世界上最好的围棋高手。围棋代表着深层、复杂的问题，但是想要下好围棋却非常困难，它要求下棋人掌握良好的战略和战术来掩饰自己的计划，同时能够读懂对手的计划。

　　掌握围棋正好满足了人工智能研究人员的雄心抱负，它表明人类已经将人工智能发展到了什么程度，并且促使人类应对人工智能的未来计划。那么人工智能会达到一个什么样的高度，以及何时会实现呢？

　　人工智能领域的先知们展望了人工智能将会在数十年内达到类人智慧：阿兰图灵曾在 1950 年的一篇文章（在该文章中，他提出了后来以他名字命名的图灵测试）中指出，这种智能不仅仅体现在完成单一任务上，也包含非常灵活的、广泛的活动。一旦我们研究出了如何建立平均智商为 100 的人工大脑，我们就会很快研究出智商达到 500 甚至 5000 的人工大脑。而潜在的好处和坏处却是惊人的。人类的未来岌岌可危。

　　假设你拥有很多智商达到 150（亦或是 500 或者 5000）的软件来帮助你管理你的生活。你像下载普通 App 一样下载它们，然后它们会蔓延到你的手机和电脑中，并且继续通过计算机网络进行传播，从而最终到达所有地方。

　　人工智能 App 将会阅读你的邮件，并且帮助你回复邮件，你只需要授权回复即可。它们将会陪同你去国税局报税，监视过程中的一切，并且向你报告。当你在街上行走时，它们会告诉你哪条路更容易走，哪位朋友正在穿过大街，你的步态略显奇怪等等——你已经脊背发凉了吗？它们将会用 19 种不同的随机密码来登陆 19 个不同的系统，从安全协议中拯救你。它们将会替你接电话，然后帮你发送信息，或者添加一些必要的提示信息。下一代人工智能 App 将会通过很多种方式来减轻现代生活中的各种摩擦。

　　但是我们其实并不知道智商达到 5000 究竟意味着什么。或许在某个时刻，我们会建造出这样一台机器，在他眼中，人类和室内盆栽之间并没有什么区别。这款围棋软件就是一个强有力的提醒，它告诉我们已经在这条路上走了多远。我们将如何面对一个充满了超级机器人的世界？

震撼人类的人工智能：可以思考和感知的机器人

　　让我们考虑一种最好的情况。人类喜欢蝴蝶，非常喜欢它们的存在，也不驱赶它们。但是，我们仍然无法区分蝴蝶的种类，它们和我们是如此的不同，因此它们的个体特征超过了我们的分辨能力。一些小孩也喜欢收集蝴蝶。作为一项爱好，我们其实是非常鼓励的，（尤其是相对于视频游戏和社交网络而言）；你可以走进大自然，了解大自然。如果超级机器人对待我们就像我们对待蝴蝶一样，我们也仍然是幸运的，但是千万不要这样指望，我们无法像蝴蝶那样通过在花丛中寻觅就可以养活我们自己。

　　那么，为什么我们还要建造那些智商远远高于我们的机器呢？机器对于人类的行为和态度是无法预测的吗？因为这是人类的天性：尽可能多地学习新知识，建造最好的机器。当然，这并不会使得它更加智能。具有超级智能的机器人其潜在危险性不亚于核武器。然而这也是具有「普通」智能的机器人的必然发展结果——这也是全世界人工智能领域的研究人员的目标。

　　所有有思想的人都应该想办法来解决这样的问题，因为允许技术专家为类人机器人和超级机器人提供技术支持的行为本身就是非常愚蠢的——除非经过全世界的严格审查。通常情况下，技术人员都是出于商业目的开发机器人，而并没有考虑到这样做的后果。

　　那么我们现在处在一个什么阶段呢？距离这些大规模危险计算机的诞生还有多远？

　　就目前而言，我们的开发方向甚至都不尽正确。今天人工智能还远不能理解人类的大脑。但是突破性的进展或许很快就会到来。我们仅需要从一个稍微不同的角度来看待问题就可以——在一百年内将会发生什么？而我们一旦开始进行研究，我们就需要时刻关注事态发展，就像我们监测进行鼠疫研究的实验技术一样。

　　这些问题其实也非常简单。大多数科学家和哲学家通过理性、推理和逻辑等来识别人类思想。即使他们认为情感也非常重要，但是他们很少将情绪作为中心——即使他们这样做，他们也很难找到一种简单的方法将之与理性思维联系在一起。将这一部分添加到我们的知识库中是非常危险的，它使得我们朝着超级机器人又迈进了一步。但是学习是我们的天性，而且我们也绝无可能止步不前。我们能做的就是尽我们所能去发现新知识，同时我们要时刻警惕这些知识的应用。

　　人类思想并不只是静态的、理性的。有时候我们是理性的，有时候我们是感性的，这取决于我们的情绪或者所面对的人群等。而且每一天中我们的情绪也在发生变化。在一天的开始，我们都会感觉精力充沛，此刻我们处于情绪频谱的顶端。而在一天结束的时候，我们则处于该频谱的另一端。当我们犯困的时候，频谱会持续向下。当我们熟睡或者做梦的时候，我们近乎处于频谱的底端。在一天中，我们会经历两次主要的振荡——一次短暂的向下的波动（在中午或者下午），然后会持续兴奋几个小时，最终下降，直到睡觉。每一个人都有自己的频谱，但是通常来说，频谱都是从顶点开始往下的。软件可以模拟这种频谱，如果我们希望机器也具有类人行为的话，这也是可以应用的一点。

　　在频谱的顶端的时候，我们或许可以考虑这样的一些问题，例如观看早间新闻，或者关注美国大学的未来。相反，在底部的时候，你就完成被感性所主宰。寒冷或温暖、幸福或兴奋，这一切本应都有原因，但是这一切也都不重要。在一天中，人类的精神状态会从一个完全变换到另一个状态。如果我们可以重现该频谱的端点，那么我们就可以在软件中重现该频谱。思考的过程可以在计算机上进行模拟，但是没有哪一台电脑可以进行感知，感觉是无法进行计算的。感觉和意识是地球上的有机生物所独有的，通过软件是无法在电脑上进行复制的。

　　但是这并不会限制人工智能的发展。软件可以模拟感觉。机器人可以告诉你它非常沮丧，且行为也可以表现得很沮丧，尽管事实上它们什么都无法感知。原则上来说，虽然人工智能没有意识，但是人工智能可以建造一个通过刺激来工作的大脑，其可以复制人类想法的点点滴滴，并且以人类的方式来对世界进行思考。这样的话，你最好的朋友或许只是一个僵尸。

震撼人类的人工智能：可以思考和感知的机器人

　　回到这个问题：人工大脑永远不会和人类一样，除非它不仅可以模仿感觉，还能模拟整个频谱。让我们再回顾一下人类思想的变化和频谱之间的关系——人类的感性元素和理性元素会逐渐混合，就像画家逐渐将蓝色涂料加入到冰冷的红色中一样，其整体颜色就会逐渐发生变化。人类思想并不完全是理性的，也不单纯是感性和理性的叠加，而是整体都在随时变化中。而这个变化范围是无限的，但是创造这种无限范围的公式却是非常简单的。

　　当我们处于频谱顶端的时候，我们可以更加集中，且非常注重外部现实，有利于解决实际问题。而我们的记忆在这个时候也是非常配合，可以为我们提供事实、图表和解决问题的方法等。情绪因素会比较低。而当我们逐渐走向频谱底部时，我们的注意力和推理能力会下降，并且会越来越依赖记忆而不是推理来解决问题。当在频谱上的位置更低时，我们就会开始天马行空：我们的记忆、幻想、想法等变得栩栩如生，且注意力会越来越分散，因为我们的思维开始由外部转移到内部。最后，我们会变得困倦，我们会开始自由想象，现在记忆已经控制了我们的整个大脑，然后我们就会开始进入睡眠状态。当我们在频谱上的位置继续降低时，情绪的力量就变得更加强大。有时候做梦并不都是美好的，但是它也能让我们感觉到激动或者是被惊吓。在梦境中我们总能感受到最强烈的情绪。

　　在一个向上型的频谱中，我们的思想会充分利用记忆，而记忆就像一个信心满满的、没有色彩的助手一样；而在一个向下型的频谱中，记忆则会自主下降。当我们完全沉浸在自身状态时，来自自己的信息流会逐渐取代来自外部的信息流。该频谱表明，做梦是一种非常正常的侵入正常思维的过程。这也是向下型频谱的一个正常结果，就像飞机降落时会行进在跑道上一样。我们都会经历梦境，但是我们我们并不会对此进行深究。我们也允许很多不可能事件或者荒谬事件的发生。

　　如果我们想要理解我们的思想，那么我们就需要了解这一切。但是人工智能需要复制这一切来达到和人类一样的智能吗？答案是最好能完全复制每一点一滴。向下型频谱很重要的一点是创造力。有过亲身经历的人认为，当你并没有深入研究某一个问题时，你的注意力会比较分散，因此你的创造力才会产生。换句话说，处于向下型频谱状态的时候。创新通常集中在发明新的类比上，这使得我们可以以一种新的观点来看待旧的问题。但是这种新的类比来自于哪里呢？或许是通过感觉。情绪具有非常强大的力量，它可以通过一种微妙的感觉来理解一个非常复杂的场景。通过这种感觉的指引，我们可以搜索我们的记忆，从而找到大脑中最相近的事物。

　　一旦人工智能决定关注并且接受这种频谱，我们就可以在软件中进行复制。然而从频谱到超级机器人还有很长的一段路要走，这就像飞到月球一样艰难。但是一旦我们拥有了火箭引擎、无线电、计算机和很多其他科技时，飞向月球就指日可待。频谱只是让人工智能顺利工作的技术中的一种，而现在这一环却缺失在整个研究中。

　　类人机器和超级机器人必将会遵循频谱和其他与大脑相关的基础。而这些将会使得人工智能变得非常危险，正如一开始提到的那样：超级智能计算机的建立是人类在所有已知知识的基础上制造机器的必然结果。我们无法阻止这一过程，我们也不想阻止这一过程。

　　我们应该提醒人工智能的研究人员，我们学到的更多，我们就应该越发小心、严谨，需要时时刻刻注意人工智能背后所隐藏的危险。

　　文章由 TECH2IPO / 创见林云箫编译，首发于创见

正文到此结束