【3657】道德机器：如何让机器人明辨是非

（〔美〕温德尔?瓦拉赫，科林?艾伦著，王小红主译，北京大学出版社，28万字，2017年11月第1版，58元）

△共12章：①机器道德为什么如此重要？②工程道德：AI时代的炼金术；③人类想要计算机做道德决策吗？④机器人真的能有道德吗？⑤哲学家、工程师与人工道德智能体的设计；⑥自上而下的道德；⑦自下而上的发展式进路；⑧自上而下与自下而上式的混合；⑨超越“雾件”？⑩超越理性；?更像人的人工道德智能体；?危险：权利和责任。

○这本书预言：在未来数年内，人工智能系统可能会摆脱人类监管、自主做出决定，甚至走上反抗人类的道路。这种不确定性，将使机器人面临的道德风险日益凸显。人类迫切需要确保机器人的设计符合道德规范。

○“机器越自由，就越需要道德准则”。

○生活中没有零风险。

○物质、生命与心灵之谜定义了科学的三大挑战。

○霍金指出过：“人工智能的进化速度会比人类更快，而它们的未来还不可预测”。

○这本书阐述了一种混合式系统，组合了自下而上式的数据驱动的学习和进化的方式，以及自上而下式的理论驱动做决策。这本书的基本信息是：不应该让未来学家的担心和猜测转移我们的注意力，我们的任务依然是设计自主机器，让它们以辨识的道德方式行事，使用着我们已经获得的社会、政治和技术资源。