转载

日媒总结关于人工智能的十大误区

　　自从 20 年前电脑在国际象棋对决中败阵以来，人们一直认为至少围棋上电脑是无法胜过人类的。但在 AlphaGo4:1 完胜韩国围棋职业九段棋手李世石后，人类感受到了人工智能(AI)的进化。或许要理解 AI 的威胁和发展并不那么容易，但关于 AI 的种种都将随着科技的进步而逐渐明朗。日本 Livedoor 新闻网 3 月 25 日的文章里就为大家解开了一些有关 AI 的误区。

　　误区1：AI 一定无法拥有与人类一样的感性

　　纽约大学心理学家 Gary Marcus 表示，几乎所有 AI 相关业者都认为，机械最终会超越人类。部分对此抱有怀疑的人多认为使 AI 拥有人类般的感性是不可能的，或是说人脑有一些本质上独特的东西等等，但这些观点却并没有什么说服力。人类可以说是一种生物机械，本质上与机械是没有区别的，与计算机一样存在于物质世界，遵从物理法则。

　　误区2：AI 拥有自我意识

　　伦敦帝国学院认知机器人技术学家 Murray Shanahan 指出，不应混淆自我与智能这两个概念。他表示：“自我意识确实是一个充满吸引力的主题，但是我认为那对于人类级别的 AI 来说是不必要的。更准确地说，‘意识’是数种心理认知类的特征，只不过对于人类来说被归为了一种。”而且，即便有机器人让人类无法分辨它与人类的区别，我们也不能说它就拥有了自我。

　　误区3：无需畏惧 AI

　　Facebook 的 CEO 马克?扎克伯格认为，我们无需畏惧 AI，它们只会带给世界各种好处，比如在无人驾驶汽车、新药开发等领域。但他并没有考虑到，AI 带来的不一定都是善。高智能的系统或许在特定的领域无所不能，但在其他的领域则不然。另外，大多机械系统并没有完全考虑到安全层面。一旦有类 AI 的系统被用在不好的方面，后果难以想象。

　　误区4：AI 很聪明，所以不会失败

　　牛津大学 Peter McIntyre 与 Stuart Armstrong 认为，AI 一般受程序控制，不认为 AI 有聪明到可以理解我们期望。他们认为：“超级 AI 在定义上是在所有领域上都超越人脑的智慧的存在”。“这样的存在是可以理解我们想让其所达到的意图的”。虽然 AI 被程序所控制，但如果足够聪明的话它将能够理解法的精神与人的意图。

　　误区5：我们能解决一切 AI 的控制问题

　　当我们制造出一个比人类聪明的 AI 的时候，我们将面临能否控制它的问题。比如，事先设置“应该取悦人类”的程序，使其只拥有作为人类的工具的功能，在代码中写入对人类的爱与尊敬这样的概念等等。另外也有观点认为，为避免其世界观过于单纯，应该写入接受智慧的、文化的、社会多样性的程序。但以上都是在想用简单的语言来给 AI 植入人类复杂的价值观。

　　误区6：人类会被超级 AI 毁灭

　　我们无法断言 AI 是否会毁灭人类或者人类将无法控制 AI。牛津大学哲学家 Nick Bostrom 认为，真正超级 AI 的出现或许是人类所发明的有史以来最大的危机。超级 AI 想要达成的目标中，可能大多都有消灭人类的理由。但我们无法确定 AI 会以什么形式和方式对人类产生威胁。

　　误区7：超级 AI 是友好的

　　哲学家 Immanuel Kant 认为理性与伦理有很强的关联。神经学家 David Chalmers 在论文中采纳了他的观点，用于解释超级 AI 的进化：“如果这是正确的，那么可以预想理性爆发于伦理爆发是相连的，那么(超级 AI 的)系统会既聪明又懂伦理，可以预想将会是善良的。”但针对聪明的 AI 就会是善良的这一点，Armstrong 认为，“进行反伦理行为的聪明人要比不聪明的更易造成大规模的危害。理性带给了他们更聪明的为恶的能力而非行善”。某个主体的目标达成能力与他的目的是否正确无关。

　　误区8：AI 与机器人技术的风险是一样的

　　这一误区源自不少机器人电影。如果超级 AI 想要毁灭人类的话，它应该会使用更加有效率的方式，比如散播瘟疫、破坏大气层等等。AI 的危险不在于驱使机器人来统治世界，而是其对世界本身的影响力。

　　误区9：科幻作品所展现的 AI 的未来是正确的

　　科幻作品的确展现了许多作家或是未来学家的想象。但如今超级 AI 所导致的问题跟那些完全不同。并且人类与 AI 在本质上的区别，决定了人类不可能完全了解、预测其本质与形式。许多的科幻作品为了作品的趣味性，牺牲了许多科学上的正确性。

　　误区 10：被 AI 接手工作是可怕的

　　AI 能够自动完成工作和 AI 要毁灭人类是两码事。无疑，AI 将会替换既存的许多工作。但即使如此，并不是说人类无法面对这种变化了。能从大量的体力脑力劳动中解脱出来难道不是人类的目标吗？

　　总而言之，AI 会产生大量新的生产方式。随着 AI 的进化，使用 AI 进行生产的产业也就会进化。将来，我们的基本需求就会更容易得到满足了。

正文到此结束