读人工不智能：计算机如何误解世界笔记08_受欢迎的

1.       受欢迎的

1.1.         受欢迎的不一定就是好的

1.2.         拍照时焦点对准，不要截断人物的额头

1.3.         最初的自拍照片池中包括老年女性、男性和有色人种的照片，但几乎所有的“好照片”中都是年轻白人女性

1.3.1.           数据科学家基于“受欢迎程度”创建了一个具有显著偏见的模型

1.3.2.           该模型偏向年轻、顺性别的白人女性的图像，符合一种狭隘的异性恋吸引力定义

1.4.         “受欢迎”和“好”的归并对所有涉及对质量的主观判断的计算决策都有影响

1.4.1.           对读者的社会含义是，除非你以某种方式看，否则你的照片不可能是好的

1.4.1.1.            任何善良或理性的人都不会对另一个人说这样的话

1.4.1.2.            这不是真的

1.4.2.           机器只能使用算法中指定的标准来识别受欢迎的事物，它无法自主识别出这些事物的质量

1.5.         算法是由人类设计的，人类会将他们无意识的偏见嵌入算法

1.5.1.           这种行为几乎都不是故意为之

1.5.2.           并不意味着我们应该甩掉数据科学这个包袱

1.5.3.           意味着我们应该对我们已知的可能会出错的事情保持批判和警觉

1.5.4.           如果我们判定了缺省的歧视行为，就可以设计出推进平等观念的系统

2.       无意识偏见

2.1.         程序员的无意识偏见已经存在多年

2.2.         所有女性用户最常用的自我量化功能

2.3.         一般来讲，在市场营销和人力资源部门晋升到高层的女性往往会提升领导层职位的统计数据

2.4.         在科技公司，实权往往掌握在开发者和工程师手上，而非市场营销人员或人力资源人员

3.       万物皆可排名

3.1.         大学排名，运动队排名，黑客马拉松排名

3.2.         学生费尽心思争夺班级排名，学校被排名，企业员工被排名

3.3.         一半学生的成绩高于平均水平，一半低于平均水平，而且会有一小部分学生的成绩极高

3.3.1.           正态分布

3.3.1.1.            贝尔曲线

3.3.2.           这种情况是正常的

3.3.3.           但是学区办公室和州官员都坚持，他们的目标是让所有学生达到良好水平

3.3.4.           除非将良好水平的标准设为0，否则这是不可能的

3.4.         对学区来说，他们希望所有学生都能得高分，这是受欢迎的

3.4.1.           要完成一个不可能实现的理想并不一定是好事

3.5.         受欢迎比好更重要，这个观念被刻在互联网搜索的基因里

3.5.1.           最常被引用的就是最重要的论文

3.5.2.           学科最好的论文成了最受欢迎的论文

3.6.         受欢迎的网页就是好网页

3.6.1.           谷歌

3.6.1.1.            PageRank

3.6.2.           部分是因为当时网络上的内容非常少，“好”的门槛并不高

3.6.3.           搜索排名模型取自学术出版界

3.6.4.           广告模型则取自印刷出版业

3.7.         和脸书信息流之类的滚屏阅读方式大不相同，因为报纸编辑会考虑版面内容的混合

3.7.1.           轻松的，黑暗的，还有若干中篇幅的报道来平衡版面

3.7.2.           这是好的，但并不受欢迎

3.7.3.           自从社交媒体蚕食世界以来，纸质媒体的流量一直在稳步下降

4.       作弊

4.1.         作弊已被刻在现代计算机技术和现代科技文化的基因中

4.2.         互联网是一项伟大的发明，但它也释放出了史无前例的欺诈行为和谎言网络

4.2.1.           欺诈活动，每天甚至每小时都在互联网上发生

4.3.         科技界对假新闻的存在并不感到意外，让他们感到意外的是人们对假新闻的认真态度

4.4.         有些人以为在互联网上读到的内容跟在合法新闻媒体上读到的内容是同样权威的

4.5.         一些技术创造者对此视而不见，因此我们需要包容性技术，还需要调查性新闻来向算法及其发明者问责

4.5.1.           存在歧视情况有部分原因是有数据记者和学者已经采用了算法问责制

4.6.         2016年12月，计算机科学家的主要专业协会美国计算机协会（ACM）自1992年以来首次更新其道德准则

5.       COMPAS

5.1.         替代性制裁惩教罪犯管理

5.1.1.           试图衡量哪些被拘留者有再次犯罪的风险

5.2.         不仅是因为机器偏见，关键在于损耗

5.3.         Northpointe公司，是试图使用定量方法提高警务效率的众多公司之一

5.4.         Northpointe公司没有人意识到这份问卷或它的评估结果可能存在偏见，这跟技术沙文主义者独特的世界观有关

5.4.1.           认为数学和计算“更加客观”或“更加公平”的人通常也倾向于以为敲两下键盘就能消除不平等与结构性种族主义

5.4.2.           他们认为数字世界与现实世界不同，并且优于现实世界

5.4.3.           通过减少人类决策，将决策权出让给计算，我们可以让世界变得更加理性

5.4.4.           如果开发团队规模小，成员间又志趣相投，且缺乏多样化的话，这种思维可能看起来就很正常了

5.4.5.           事实上，它并不会让我们的世界变得更加公正和平等

6.       电梯

6.1.         电梯是一种嵌入了程序的复杂机器，有一个算法决定哪部电梯去到哪个楼层，哪部电梯快速到达大楼的大厅，以及哪部电梯沿途停靠

7.       毒品

7.1.         毒品是受欢迎的，一直都是如此

7.2.         毒品在20世纪60年代就是反主流文化的主要部分，从迷幻药、大麻、迷幻蘑菇、佩奥特仙人掌到快速丸冰毒，不一而足

7.3.         2014年，加利福尼亚州18岁到25岁的人群中违禁药物的依赖性和滥用率在全美所有州中排名第二

7.4.         毒品在硅谷发挥着很大的作用，在更大的科技文化圈中也一样

7.5.         硅谷有一种工作狂文化，能以极快的速度处理紧急项目的工作能力在这里几乎是荣誉的象征

7.6.         嗑食快速丸可以保持清醒，止痛药则对睡眠有帮助

7.7.         毒品在科技界一直很受欢迎，但是多年来，只要开发者按期提交代码，就没有人真正在乎过开发者有没有嗑药

7.8.         当技术诞生于自由主义价值观下，并且罔顾技术的使用场景，这就是合理的结果

8.       新技术创新

8.1.         但凡有新技术创新面世，不妨多问问它是否足够好

8.1.1.           这项新技术对谁有好处？

8.2.         我们做任何技术选择，都必须调查它们更广泛的应用和影响，并且做好准备，去面对我们可能不喜欢的调查结果