读AI新生：破解人机共存密码笔记18后总结与感想兼导读

1. 基本信息

读AI新生：破解人机共存密码

斯图尔特·罗素 著

中信出版社,2020年8月出版

1.1. 读薄率

书籍总字数301千字，笔记总字数44614字。

读薄率44614÷301000≈14.8%

1.2. 读厚方向

1. 千脑智能

2. 脑机穿越

3. 未来呼啸而来

4. 虚拟人

5. AI3.0

6. 新机器人

7. 人工不智能：计算机如何误解世界

8. 人工智能全传

9. 写给大家的AI极简史

1.3. 笔记--章节对应关系

笔记	章节	字数	发布日期 2024年
读AI新生：破解人机共存密码笔记01以史为鉴	01如果我们成功了	2360	6月15日
读AI新生：破解人机共存密码笔记02进化	02人类和机器的智能	2683	6月16日
读AI新生：破解人机共存密码笔记03计算机	02人类和机器的智能	2390	6月17日
读AI新生：破解人机共存密码笔记04计算的极限	02人类和机器的智能	2598	6月18日
读AI新生：破解人机共存密码笔记05逻辑	02人类和机器的智能	5059	6月19日
读AI新生：破解人机共存密码笔记06人工智能生态系统	03人工智能在未来会如何发展？	3333	6月20日
读AI新生：破解人机共存密码笔记07概念和理论	03人工智能在未来会如何发展？	2715	6月21日
读AI新生：破解人机共存密码笔记08超级智能	03人工智能在未来会如何发展？	2823	6月22日
读AI新生：破解人机共存密码笔记09精神安全权	04人工智能的滥用	3704	6月23日
读AI新生：破解人机共存密码笔记10人类角色	04人工智能的滥用	2951	6月24日
读AI新生：破解人机共存密码笔记11智能爆炸	05过于智能的人工智能	3880	6月25日
读AI新生：破解人机共存密码笔记12人工智能辩论	06不那么伟大的人工智能辩论	4323	6月26日
读AI新生：破解人机共存密码笔记13有益机器	07人工智能：一种不同的方法	2926	6月27日
读AI新生：破解人机共存密码笔记14逆强化学习算法	08可证明有益的人工智能	2869	6月28日
读AI新生：破解人机共存密码笔记15辅助博弈	08可证明有益的人工智能 09复杂的难题：我们	3472	6月29日
读AI新生：破解人机共存密码笔记16对人工智能的治理	09复杂的难题：我们 10问题解决了吗？	3924	6月30日
读AI新生：破解人机共存密码笔记17不确定性和概率	附录A寻找解决方案 附录B知识与逻辑 附录C不确定性和概率论 附录D从经验中学习	3771	7月1日
$	总计	44614	$

---

2. 亮点

2.1. 智能爆炸

• 第一台超级智能机器将是人类最后的发明，前提是这台机器足够驯顺，可以告诉我们如何控制它
• 超级智能机器就可以设计出更为智能的机器，然后智能就爆炸了，然后人类就望尘莫及你了，然后，然后就黑客帝国了。。。。

2.2 计算的极限

• 难度的指数级增长意味着问题在理论上或许是可解决的，有时在实践中无法解决，我们称这些问题为难解问题
• 能不能计算是一个问题？
• 能计算，能不能计算的出结果是另一个问题？
• 能计算，能计算的出结果，但是需要多长时间又是另一个问题？

2.3 精神安全权

• 这是一个很有意思的知识点

• 我们很可能被蒙蔽、被误导、被欺骗、被骚扰

• 如果保证我们的精神安全，是一个问题！

2.4 逆强化学习算法

• 强化学习讲述的很多了
• 逆强化学习，涉及贝叶斯理论，更新概率分布等

---

3. 感想

3.1 书到用时方恨少

原来以为读了很多AI方面的书，相关概念、知识点，不说掌握吧，至少名词是知道的，读了该书后，发现又有不少新的名词和知识点，真是应验了“书到用时方恨少”。

3.2 最近火出圈的无人驾驶就是一个典型的AI应用场景

• 替代已经开始，就看你能不能逃脱了

• 替代是一回事？责任划分是另一回事？

  • 权、责、利如何划分是个问题？！

3.3 好书，推荐阅读

---