读所罗门的密码笔记18_大宪章

1. 大宪章

1.1. 1215年会议开启了一个艰难的谈判过程，充满了紧张和对权力与道德权威的争夺

1.1.1. 这部宪章会赋予各方一系列的权力，对国王的自由裁量权进行制衡

1.2. 《大宪章》还需要300多年的时间和多次迭代，才能成为财产权、公平税收、司法程序和政府最高法律的参考文件

1.3. 当殖民者到达北美海岸时，他们为殖民地制定了自己的宪章，并最终通过了《宪法》和《权利法案》，这使得《大宪章》中的理想得以实现，无论贵贱贫富，每个公民都享有他们应有的权利

1.4. 很少把《大宪章》看作一个具有约束力的法典范例，而是更多地把它看作人类朝着权力与受权力支配者之间的平等关系迈进的分水岭

1.5. 标志着历史上一个难以驾驭的时期的开始，这一过渡时期包括不同大陆和大洋之间的人员流动，新的政治结构的出现，以及在日益互联的世界中发展中国家之间可能出现的许多致命冲突

1.6. 为权力之间的对话奠定了基础，最终导致了启蒙运动、文艺复兴和宪政民主，而宪政民主是几个世纪以来人们用流血和冲突换来的

1.7. 尽管它确实导致了一些错误，但也可以公平地说，至少对西方国家来说，它为制度、政治和政府监管框架提供了肥沃的土壤，这些最终促进了贸易和投资的经济增长，并通过欧洲和美洲大陆社会力量之间的辩证关系推动着人类和文明的进步

2. 人工智能系统

2.1. 当我们把更多的判断和决策委托给人工智能系统时，我们面临的一些关于价值观、权力和信任的问题，与几个世纪前约翰国王和他的贵族们讨价还价的问题如出一辙

2.2. 认知计算机系统现在几乎影响了世界上大多数最大的工业化国家中人民生活的方方面面，而且正迅速渗透到发展中经济体

2.3. 我们不能把“妖怪”放回瓶子里，也不应该尝试这么做

2.4. 人工智能及其相关的先进技术可以让我们的生活变得更美好，引领人类进入成长和发展的新领域

2.5. 人类的进化正在迎来爆发式的发展机遇，这不同于我们过去千年经历过的任何事情

2.5.1. 爆发式发展和革命性变化都是混乱的、模糊的、充满道德风险的

2.6. 需要考虑认知系统（就像生活中数以万计的细菌和病毒）会给我们的大脑和社会带来什么样的连锁反应

2.7. 将新的应用程序投入市场时，我们还需要落实保障良好基础设施的关键要素，包括尊重多样性的社会文化规范的数字化，适当的传感器和数据搜集技术，以及规范开发和部署的治理机构、政策和法律

2.8. 由于认知系统渗透到生活的各个领域，所以这些结构不能由技术、商业或政府专家独自构建，也不能在不了解各种人工智能应用及其潜力的宽泛政策中加以规定

2.8.1. 需要一系列历史学、人类学、社会学和心理学方面的专业知识，以多样化的视角思考不同群体的价值体系，以及这些先进技术将对他们产生什么影响

2.8.2. 需要弄清楚哪些应用引发了哪些问题，如果想要发挥它们的潜力，那么我们就不能过度或过少地限制它们

2.8.3. 需要确保听到最广泛的声音，尊重人们的价值观，这样人工智能才能为全人类的共同利益服务

3. 全球人工智能经济大宪章

3.1. 包含了指导人工智能相关技术发展的目标和责任，为人机共存的未来奠定了基础

3.2. 通过整合经济、社会和政治背景，这份宪章将开始塑造集体价值观、权力关系和信任度

3.3. 作为这个共享世界中的人类，我们对控制人工智能系统的人类和组织充满了期待

3.4. 需要一份充满活力的宪章，它具有足够的可塑性，能够适应人工智能可能带来的不可避免的破坏

3.5. 应该建立一个全球治理协会，具有相互认可的核查和执行能力

3.6. “寒武纪大联盟”，以表明人类成长机会的大爆发可能类似于地球历史上寒武纪时期的生命大爆发

3.6.1. 大联盟应包括公共部门、民营部门、非政府组织和学术机构，它们的共同目标是基于共同商定的准则支持赋予人类权力

3.7. 应该鼓励提高透明度和可解释性，从而增进人类和机器智能之间的信任和平等

3.8. 应该促进一种更强大的共生智能关系，增强人类的力量和潜力，而不仅仅是提高机器的效率

3.9. 如果没有宪章或国家组织来规定和监督它，那么我们不仅可能无法减轻其对人类安全的严重威胁，也可能错过一个前所未有的发展人类、促进理解的机会

3.9.1. 无论如何，使用人工智能及其同类技术既可能促成巨大的进步，也可能造成可怕的后果

4. 倡议网络

4.1. 有些时候，想法比时代超前，但也有时候，创新跟不上时代的发展

4.1.1. 从一些先驱者身上汲取关于人工智能管理的灵感

4.2. LSTM（长短期记忆网络）

4.2.1. 让人工智能系统记住某些信息，而不需要存储它所消耗的每一个比特和字节的数据

4.2.2. LSTM几乎使所有类型的深度神经网络都变得更加有效，为可行的自动驾驶提供了平台，并使得语音处理程序的效率大大提高

4.3. 对于任何新药，我们都必须权衡其潜在的有效性和副作用

4.3.1. 并不局限于识别已知的毒素，而是开始发现新的、可能会产生类似不良影响的结构，这些亚结构往往更小，且以前并不被制药研究人员所知

4.3.2. 必须先将数据转化为知识，然后根据知识来做出决策

4.4. 人工智能设计的伦理准则

4.4.1. 约翰·C.黑文斯和制定IEEE《人工智能设计的伦理准则》的委员会，可能已经代表了最全面的全球意见，因为他们从世界各地的开发人员、伦理学家和其他跨学科的人工智能专家那里广泛征求意见

4.5. 人工智能合作组织

4.5.1. Partnership on AI

4.5.2. 或许是企业界最广为人知的关于人工智能的组织

4.5.3. 苹果、亚马逊、脸书、谷歌、微软和IBM，以及美国公民自由联盟、国际特赦组织等都是其成员

4.5.4. 也与OpenAI合作

4.6. 许多商业部门的巨大努力都是通过基金会或非政府组织的架构来运作的，经常需要多个学科学者的参与，并需要保持与政策制定者的联系

4.7. 在英国，一些世界著名的思想家们聚集在剑桥的生存风险中心和人类未来研究所

4.7.1. 这两个机构都希望制定相关战略和协议，为先进技术创造一个安全有益的未来

4.8. 实干派智库

4.8.1. 世界经济论坛将该中心设定为一个“实干派智库”，运行一些务实的试点项目来看效果，而不是提出一些无法付诸实践的抽象理论

4.8.2. 这些项目是其与合作政府、企业、民间组织和学术机构共同创建的，目的是让那些合作政府能够试点这些政策，然后再进行推广实施

4.8.2.1. 在非洲使用医用无人机，帮助当地建立自主飞行标准，几个月以来已有其他几个国家采用了这一标准

4.8.3. 让老师们结合本地的情况和文化习俗因地制宜、因材施教

4.9. 世界上首部基于性能的无人机交通监管法规

4.9.1. 无人机运营商必须满足一定的安全和运营标准，航空监管机构也将对国家空域内无人机的使用负责

4.9.2. 可能会使卢旺达的空域向各种各样的创新者和创意敞开大门

5. 包容才能有效

5.1. 所有这些举措都在提升全球对人工智能价值、权力和信任的认知

5.2. 每项举措都至少有三个不完美之处

5.2.1. 许多行动都是自上而下的，或者是由技术精英、社会精英或政治精英所推动的

5.2.1.1. 无论初衷有多好，一个小而强大的小群体只能引导我们到一定程度，而人工智能已经开始渗透到我们生活的方方面面，且通常是以非常私密和身份塑造的方式影响我们的

5.2.1.2. 远离世界历史上那些最黑暗的“赢者通吃”的权力掠夺

5.2.2. 没有一个论坛获得了明确的授权，可以评估和促进人工智能对社会经济地位低下阶层的社会影响

5.2.3. 西方代表和西方思维模式似乎主导了几乎所有的领导组织

5.2.3.1. 工智能跨越了地理界限和社会阶层

5.2.3.2. 需要一份新的“宪章”，代表社会各个阶层的不同利益——无论是技术、哲学、神学、社会经济，还是商业、文化等领域

5.3. 每个国家的政府都应该思考并明确说明它对即将到来的变革所持的立场，以及人民应该如何引导它

5.3.1. 在人类发展中如此重要的关键时刻，我们不能听天由命，只有观点明确的人才能对共同的未来愿景做出有意义的贡献

5.3.2. 不需要有严格的先后顺序，因为一个多方利益相关的论坛可以表明国家的立场

5.3.3. 随着国家立场开始形成，我们可以开始进行现代数字化宪章的国际协调和谈判

5.4. 在理想的情况下，一份被广泛采纳、共同执行的协议将概述指导这些努力的原则。该协议以正式文件的形式存在，并由一个支持组织在必要时进行协调、监控和执行

5.5. 作为第一要务，大联盟需要具有智库的功能，能够进行诊断和优先级排序

5.5.1. 为了实现这一目标，大联盟将在人工智能部署的优先领域进行案例研究，确定存在的问题和二级社会效应，以及各个案例参与者的激励方案

5.6. 为了将诚信合作嵌入商业主导、广泛存在于我们生活中的事物中，我们需要让民营部门代表直接参与进来并授予他们权力，比如创造未来世界的社会企业家、人工智能发展滞后的国家政府，以及在社会生活不同领域代表弱势群体或无声群体的非政府组织

5.7. 许多其他协议也成了政治愿望的牺牲品，遭到长期忽视

5.7.1. 从应对气候变化的《巴黎协定》到《伊朗核问题协议》，从英国脱欧到美国威胁退出《北美自由贸易协议》，现在各种跨国条约变得越来越难以维持

5.8. 一个兼容并包、尊重各方、自下而上的方法可能有助于恢复信任，并让我们的协议有望避免落入与许多其他全球协议同样的命运

5.8.1. 政府代表是不可或缺的，但政府本身缺乏灵活性和相关的专业知识来推动有益的和负责任的创新

5.8.2. 民营部门和民间社会人士的共同参与能对科学社会发展的重要细节给予更多的关注，因为他们的工作就处在科技前沿

5.8.3. 世界各国对人类和机器的角色仍然存在着不同的政治和哲学观点

5.9. 这些组织已经广泛地开展了人类发展的项目，对全球社会有着深入的洞察力，它们可以利用可观的捐赠资金投资计算能力和其他所需的资源，公正地测试项目，并召集一群积极的利益相关者