读人工智能时代与人类未来笔记15_改变人类经验

1. 认识世界的方式

1.1. 信仰

1.2. 理性

1.2.1. 理性不仅革新了科学，也改变了我们的社会生活、艺术和信仰

1.2.2. 在其浸染之下，封建等级制度瓦解了，而民主，即理性的人应该自治的理念崛起了

1.3. 人工智能

1.3.1. 这种转变将考验（在某些情况下还将改变）我们对这个世界以及我们人类在其中所处位置的核心假设

1.3.2. 现在，人工智能将再次检验我们的自我认知所依据的原则到底是什么

2. 人工智能与人类身份

2.1. 人工智能将扩展我们对现实的了解

2.1.1. 它将改变我们沟通、联系和共享信息的方式，也将改变我们发展的理论和部署的战略

2.2. 在先前的时代，人类始终将自己置于叙事的中心

2.2.1. 人类并不完美，但它们同样视人类的能力和经验为世间众生可以实现的最高成就

2.2.2. 这些社会颂扬那些体现人类精神巅峰的个人，这实际折射出的正是我们对自己的期许

2.2.3. 这些英雄在不同的社会、不同的时代有着不同的形象

2.2.3.1. 领导者、探险家、发明家、殉道者

2.2.3.2. 他们都体现了人类成就的各个方面，也因此体现了人的独特性

2.2.4. 在现代，我们对英雄的崇拜集中在那些探索和塑造我们所处现实的理性开拓者身上

2.2.4.1. 宇航员、发明家、企业家、政治领袖

2.3. 我们正在迈入一个新时代，作为人类的创造物，人工智能正日益被赋予以前只能由人类心智完成或尝试的任务

2.3.1. 它挑战了人何以为人的决定性属性

2.3.2. 人工智能能够学习、演化并变得“更好”

2.3.2.1. 根据它被赋予的目标函数

2.3.3. 这种动态学习能力使人工智能能够实现复杂的结果，而这些结果直到目前还都是人类和人类组织的专利

2.4. 随着人工智能的崛起，对人类角色、人类愿望和人类成就的定义都将发生变化

2.5. 在一个人工智能可以评估我们生活中的诸般事物，预测接下来会发生什么，并决定该做什么的时代，即一个现实可以被预测、近似和模拟的时代，人类理性的角色将会改变

2.5.1. 在某些领域，人工智能可能会增强人类的理性

2.5.2. 在其他领域，人工智能则可能会让人类产生一种置身事外的感觉

2.5.2.1. 对根据一种无法解释的（实际上也未被言说的）计算而选择了不同的车道或路线的司机来说

2.5.2.2. 对根据人工智能协助的审查而被延长或被拒绝信贷的借款人来说

2.5.2.3. 对根据类似程序被决定是否获得面试机会的求职者来说

2.5.2.4. 对在认真开始研究工作之前就被人工智能模型告知最可能答案的学者来说

2.5.2.5. 这种体验可能会是高效的，但并不总是令人满意的

2.6. 对习惯了独断专行、以自我为中心，并垄断了复杂智力活动的人类而言，人工智能将挑战其自我认知

2.7. 我们所设想的种种进步，说明人工智能正在以多种途径改变我们与世界的互动方式，从而改变我们看待自己和自己在世界中所扮演角色的方式

2.7.1. 它们将迅速成为大多数人眼中具有创造性或专业性的存在

2.7.2. 人工智能能够做出某些预测或决定、生成某些材料的事实本身，并不表明它具有类似于人类的复杂性

2.7.3. 在许多情况下，这些结果可以与以前只有人类才能给出的结果相媲美，甚至更好

2.7.3.1. 编写文档和代码（GPT-3可以做到）需要复杂的技能，人类需要花费数年时间接受高等教育来培养这些技能

2.8. 借助与人类互补的现实感知，人工智能可能会成为对人类有用的同伴

2.8.1. 在科学发现、创造性工作、软件开发和其他类似的领域中，有一个持不同视角的对话者会大有裨益

2.8.2. 在这个世界中，我们的理性并不是认识或驾驭现实的唯一方式，或许也不是最具广泛性的方式

2.8.3. 人类如今所经历的这场转变的意义比自活字印刷机问世近6个世纪以来所发生的任何转变都更加重大

3. 社会的选择

3.1. 各自为战

3.1.1. 弃权式的默认

3.2. 带着合作意向开始对话，举全人类的进步之力来界定人工智能的角色，同时明晰我们自己的角色

3.2.1. 需要领导人和哲学家、科学家和人文主义者，以及其他各种团体的清醒参与

3.3. 个人和社会将不得不决定，生活的哪些方面应该留给人类智能，哪些方面则应交由人工智能或人类与人工智能的合作

3.3.1. 人类与人工智能的合作并不是一种对等关系

3.3.1.1. 人工智能既由人类构建，也由人类指挥

3.3.2. 随着我们逐渐习惯和依赖人工智能，对其加以限制可能会导致更高昂的成本、更困难的心理挑战，甚至更复杂的技术

3.3.3. 我们的使命将是了解人工智能给人类经验带来的变化、它对人类身份的挑战，以及这些发展变化的哪些方面需要由其他的人类义务来加以调节或制衡

3.3.4. 人类未来将如何呈现，这取决于人类在人工智能时代的角色界定

4. 卢德派

4.1. Luddites

4.2. 机械纺织机等发明取代了纺织工人，并激发了卢德派(Luddites)的兴起

4.3. 卢德派是一种政治运动的参与者，他们试图禁止新技术，以保留旧有生活方式，如果无法达成这一点，就破坏新技术

4.4. 农业的工业化引发了人口向城市的大规模迁移

4.5. 全球化改变了制造业和供应链，在许多社会最终吸收这些变化以实现自身的整体改善之前，两者都引发了新的变化乃至动荡

5. 改变人类经验

5.1. 事实上，在许多领域，借助专业化的技术超越传统理性的体验，如人工智能在医学、生物、化学和物理方面取得的突破，往往会令人颇有成就感

5.2. 将人工智能嵌入消费产品确实可以广泛传播该技术带来的福祉

5.3. 人工智能也将运行不是为任何特定个人用户的利益而设计，也不是任何个人用户可以控制的网络和系统

5.3.1. 遭遇人工智能可能会让人感到不安或泄气

5.3.1.1. 由人工智能推荐某个人而非其他人获得理想的升职或调任时

5.3.1.2. 人工智能鼓动或怂恿对主流观点持挑战甚至蔑视态度时

5.4. 人工智能的决策通常与人类的决策一样准确，甚至比人类的更准确

5.4.1. 如果有适当的保障措施，人工智能的决策可能更少有偏见

5.5. 人工智能在分配资源、预测结果和推荐解决方案方面可能更有效

5.5.1. 优化资源配置和提高决策准确性对社会是有益的

5.5.2. 对个人来说，其实所谓意义，更多地来自其自主性，以及基于一系列行动和原则解释结果的能力

5.6. 随着生成式人工智能变得越来越普遍，它产生全新文本、图像、视频和代码的能力甚至可能使它在通常被认为需要创造性的角色（如起草文件和制作广告）中表现得和人类同行一样出色

5.7. 算法不会提供基于人类经验的理由，来向公众解释其结论

5.7.1. 更多的人可能并不理解人工智能为什么会这样做，这将削弱他们的自主性和赋予世界意义的能力

5.8. 人工智能改变了工作的性质，这可能会危及许多人的身份认同感、成就感和财务安全

5.8.1. 不仅可以带来更高的效率，而且会创造新的岗位，但对在这个过程中经历了哪怕短暂错位与混乱的失意者而言，就算知道这只是过渡期的阵痛，而且这些改变终将提升整个社会的生活质量和经济生产力，他们恐怕也不会感到有所慰藉

5.9. 无论人工智能的长期影响究竟如何，在短期内，这项技术都将彻底改变某些经济领域、职业和身份

5.9.1. 社会需要为此做好准备，不仅要为职位被取代者提供替代的收入来源，还要为他们提供新的成就感来源

6. 决策

6.1. 我们所有人都会在不经意间与人工智能互动，或者在自己并未提出请求的情况下获得人工智能提供的答案或结果

6.2. 有时候，无形的人工智能可能给世界带来一种神奇的亲和感，就像商店似乎能预料到我们的到来和心血来潮的购物冲动一样

6.3. 在其他时候，人工智能则可能产生一种卡夫卡式的荒诞与噩梦感

6.3.1. 没有一个人可以解释这决定是如何做出的时候

6.4. 这些合理的解释与不透明的决策之间、个人与庞大的体制之间、拥有技术知识和权威的人与一无所有的人之间的矛盾对立，其实并不是什么新鲜事

6.4.1. 新鲜之处在于，另一种智能，即一种非人类的、通常无法以人类理性加以测度的智能，成了这些矛盾的源头

6.4.2. 同样新鲜的还有这种新智能的普遍性和规模

6.5. 缺乏人工智能知识或对其无权限的人可能特别倾向于拒绝人工智能

6.5.1. 社会的某些群体可能会在这条路上走得更远，执着于自身“实体主义者”而非“虚拟主义者”的定位

6.5.2. 随着人工智能的日益普及，“断开连接”将变成一种离群索居、孤家寡人般的自我孤立

6.6. 随着社会日益数字化，人工智能日益融入政府职能和各种产品中，其影响可能使我们避无可避