AI 新生

[美] 斯图尔特·罗素

在许多方面，人工智能主要是研究如何构建理性机器的细节。

机器人无法提供让你满意的比萨，因为总会有另一种你更喜欢吃的比萨。机器人只能满足你的偏好中一致的部分，例如，假设比起没有比萨吃，你更喜欢有比萨吃。在这种情况下，一个乐于助人的机器人可以提供给你三种比萨中的任意一种，从而让你避免“没有比萨吃”，而且让你在闲暇时可以思考你那令人讨厌的比萨口味偏好。

毋庸置疑，我们必须和智能机器相互合作，才能造福人类，而不是大家同归于尽。

直到今天，没有一辆无人驾驶汽车知道人们不喜欢被撞死。

到目前为止，大多数读者都已经体验过不太智能的个人助理：把从电视购物节目中听到的话当成购买指令去执行的智能音箱，或者听到“给我打电话叫救护车！”（Call me an ambulance!）之后回答“好的，从现在开始我叫你‘Ann Ambulance’”的手机聊天机器人。

速度更快的机器只会更快地给出错误的答案。

2015年初，我曾向一位计算机安全专家建议，由强化学习驱动的自动勒索系统可能很快就会成为现实。他笑着说，这正在成为现实。

技术的直接影响是双向的：首先，通过提高生产率，技术可以降低一项服务的价格，从而增加需求以及增加就业；其次，技术的进一步发展意味着需要的人力越来越少。

大猩猩问题就是，人类是否能在一个拥有更高智能的机器的世界里保持人类至高无上的地位和自主权的问题。

人类的偏好和人类的选择之间存在着不完美的差异，如果机器要将人类的选择解释为人类偏好的证据，那么它就必须考虑到这些不完美。

例如，想象一下，未来某个家用机器人负责在你工作到很晚的时候照顾你的孩子。孩子们饿了，但冰箱是空的。然后机器人注意到了猫。可惜，机器人只知道猫的营养价值，却不知道它的情感价值。短短几个小时内，有关发疯的机器人烤猫肉的新闻就铺天盖地地出现在全球媒体上，整个家用机器人行业全军覆没。

人类不是单一的、理性的实体，而是由多得不计其数的、令人讨厌的、嫉妒驱动的、非理性的、不一致的、不稳定的、计算能力有限的、复杂的、不断进化的、异质的实体组成的。