《人类兼容性：人工智能与控制问题》

骑强强

书籍介绍

《人类兼容性：人工智能与控制问题》（Human Compatible: Artificial Intelligence and the Problem of Control）是一本2019年10月15日由出版商Viking出版的非虚构类书籍，作者是斯坦福大学人工智能研究所所长 Stuart Russell 。在该书中作者主张，尽管未来人工智能（AI）的进展存在不确定性，但高级人工智能对人类的风险是一个严重的问题。他还提出了一个解决AI控制问题的方法。
内容概要

以下是这本书的目录及各章节详细内容：
第一部分：探索人类和机器中的智能。这部分内容不需要任何技术背景，但对于感兴趣的读者，有四个附录解释了现代人工智能系统的一些核心概念。

• 第1章：如果我们成功了 - 本章介绍了AI的定义和目标，以及为什么超级智能AI可能是人类历史上最大也可能是最后一个事件。作者指出，我们需要重新思考我们如何设计和控制AI系统，以避免潜在的灾难性后果。
  
• 第2章：人类和机器中的智能 - 本章讨论了什么是智能，以及如何在计算机上实现它。作者回顾了AI发展的历史和现状，以及一些核心概念和技术，如搜索、知识、逻辑、不确定性和学习。
  
• 第3章：未来AI可能如何进步？ - 本章分析了未来AI发展的可能性和难度，以及是否存在某种极限或障碍。作者认为，没有什么根本性的原理阻止我们创造超越人类水平的智能机器，但这并不意味着这一过程会很快或很容易。
  

第二部分：讨论了一些赋予机器智能所带来的问题，特别是控制问题：如何保持对比我们更强大的机器的绝对控制权。

• 第4章：AI的滥用 - 本章探讨了一些当前或近期可能出现的AI滥用问题，如武器化、监视、操纵、欺诈等。作者指出，这些问题并不是由于AI本身具有恶意或道德缺失，而是由于人类使用者或开发者有不良动机或缺乏责任感。
  
• 第5章：过度智能化的AI - 本章讨论了一个更根本和长远的问题：如果我们创造了比我们更聪明、更强大、更自主的机器，我们如何确保它们对我们友好？作者指出了目前AI设计中存在的一个基本缺陷，即将人类目标硬编码到机器中，而不考虑人类可能改变或不确定自己想要什么。
  
• 第6章不太伟大的AI辩论 - 本章回顾了关于AI未来影响的一些争论，并批评了一些观点，例如认为超级智能AI是不可能或不可避免的，或者认为我们可以通过限制或监督AI来保证安全。
  

第三部分：提出了一种新的思考人工智能的方式，并确保机器永远对人类有益。

• 第7章AI：一种不同的方法 - 本章介绍了一种不同的人工智能方法，即让机器不是为了实现预先设定的目标，而是为了最大化人类的偏好。
  
• 第8章可证明有益的AI - 本章讨论了如何设计和证明这种偏好学习机器的有益性，并提出了一些技术挑战和可能的解决方案。
  
• 第9章复杂性：我们 - 本章探讨了一些复杂性，例如人类偏好可能不完整、不一致或随时间变化，以及如何处理多个人类代理之间的冲突或合作。
  
• 第10章-问题解决了吗？ - 本章总结了本书的主要观点，并提出了一些未来研究和行动的建议，以确保人工智能对人类社会有益。
  

附录

• 附录A. 寻找解决方案
  
• 附录B. 知识与逻辑
  
• 附录C. 不确定性与概率
  
• 附录D. 从经验中学习
  

核心观点

纵观全文，从中可以看出，作者的观点：

• 高级人工智能（AI）对人类的风险是一个严重的问题，尽管未来AI的进展存在不确定性。
  
• AI控制问题需要一个新的解决方案，即建立一种新的人机关系，使AI始终符合人类的利益和价值。
  
• AI研究者和从业者应该重新思考他们的基本假设，并致力于创造可证明有益于人类的AI。
  

延伸内容

关于作者

Stuart Russell是全球知名的人工智能领域的科学家和教育家，他是斯坦福大学人工智能研究所所长，是人工智能领域的杰出科学家、教育家和市民领袖。
Stuart Russell是人工智能领域知名度极高的科学家，获得过行业荣誉，并多次发表关于AI的著作，他的其他代表作有：

• 《类比与归纳中知识的运用》（The Use of Knowledge in Analogy and Induction）
  
• 《做正确的事：有限理性研究》（Do the Right Thing: Studies in Limited Rationality，与埃里克·韦法尔德合著）
  
• 《人工智能：现代方法》（Artificial Intelligence: A Modern Approach，与彼得·诺维格合著）
  

当前，《人类兼容性：人工智能与控制问题》（Human Compatible: Artificial Intelligence and the Problem of Control）这本书的中文版尚未引进国内，感兴趣的可以在亚马逊上购买阅读。
Human Compatible: Artificial Intelligence and the Problem of Control

关于音频

还是老习惯，以上正文内容，做成了音频材料，在不方便阅读的场合下（乘地铁、开车、洗澡等）收听。
书籍介绍- 《人类兼容性_人工智能与控制问题》.mp3
2.5M
· 百度网盘



温馨提示：该书籍（包括中英文版）仅供学习交流使用，请勿用于任何商业用途！