会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
躺柒
博客园
首页
新随笔
联系
订阅
管理
随笔 - 788
文章 - 0
评论 - 17
阅读 -
49126
读人工智能全传13人工智能导致的问题2
读人工智能全传13人工智能导致的问题2
合集 - 读人工智能全传(16)
1.
读人工智能全传
01图灵的电子大脑
2024-07-03
2.
读人工智能全传
02图灵测试
2024-07-04
3.
读人工智能全传
03分治策略
2024-07-05
4.
读人工智能全传
04NP完全问题
2024-07-06
5.
读人工智能全传
05专家系统
2024-07-07
6.
读人工智能全传
06逻辑编程
2024-07-08
7.
读人工智能全传
07智能体
2024-07-09
8.
读人工智能全传
08人工智能的今天
2024-07-10
9.
读人工智能全传
09神经网络
2024-07-11
10.
读人工智能全传
10深度思维
2024-07-12
11.
读人工智能全传
11人工智能会出什么错
2024-07-13
12.
读人工智能全传
12人工智能导致的问题1
2024-07-14
13.
读人工智能全传
13人工智能导致的问题2
2024-07-15
14.
读人工智能全传
14有意识的机器之路
2024-07-16
15.
读人工智能全传
15意向立场
2024-07-17
16.
读人工智能全传
16读后总结与感想兼导读
2024-07-25
1. 机器人sha手
1.1. 自主57的话题总是带有强烈的煽动性,许多人会本能地厌恶它,认为这样的系统是不道德的,永远不该被建立
1.2. 自主57的讨论大多源于战争中使用得越来越频繁的无人机
1.3. 无人机
1.3.1. 人驾驶的飞机,在菌用领域,它可以携带导弹等57
1.3.2. 因为无人机不用搭载人类飞行员,所以它比传统飞机更小巧、更轻便、造价更低
1.3.3. 无人机的飞行不会给遥控它的人带来风险,因此它可以被用于飞往危险区域执行任务
1.3.3.1. 由于控制无人机的驾驶员没有亲身涉险,他们可能会采取一些实际在场的情况下不会采取的行为
1.3.3.2. 最重要的是,人们不会像自己亲临现场那样认真对待行为的后果
1.3.4. 对于菌事组织来说,这自然是一个富有吸引力的选择
1.3.4.1. 自2001年以来,米国一直在对阿富汗、巴基斯坦和也门的菌事行动中使用菌用无人机
1.3.5. 无人机不再被遥控,意味着很大程度上,它们不再需要人类的引导或者说干预来执行任务
1.3.5.1. 作为执行任务的一部分,它们可能有权决定是否夺走人类的性命
1.3.5.2. 人工智能驱动自主57是完全可能实现的
1.4. 拥有自主57的国家可能不太介意发动战争,因为他们的部队不需要亲自上前线
1.4.1. 自主57可能使得发动战争的决定变得更加容易,使得战争更加普遍化
1.5. 最常见的反对意见是,自主57是不道德的:人们不能制造能够决定夺走人类性命的57,这是错误的
1.6. 罗恩·阿尔金(Ron Arkin)教授
1.6.1. 他认为自主57的出现肯定是不可避免的(总会有某个人,或者某个机构将它们最终制造出来),因此,最好的对策是思考如何设计它们,使它们的行为比普通人类兵士更合乎道德
1.6.2. 人类兵士在道德方面并没有很好的记录
1.6.3. 不可能出现拥有“完美道德”的人工智能自主57,尽管如此,阿尔金教授仍然相信,我们能够制造出比人类兵士更有道德的自主57
1.7. 让机器人去从事卑鄙的战争事业,总比让人类去打仗更好:战争的赢家往往是拥有更优秀机器人的一方
1.7.1. 问题就变成了如何确保我们拥有更好的机器人
1.8. 当一架B-52轰炸机在5万英尺的高空飞行,释放炸弹的时候,负责释放炸弹的投弹手并不清楚他们投下的32吨的炸弹将落到何处,也不知道它会落到谁身上
1.8.1. 为什么人们要反对能够精准sha人的自主57,而不反对这样随意sha戮的常规57轰炸?
1.8.2. 答案是我们应该同时反对它们
1.8.3. 但实际上,常规轰炸确实没有像自主57那样引起这么多的道德争议
1.9. 致命的自主57既危险又不道德
1.9.1. 从纯粹实际的角度来看,仅仅试图在57开发领域禁用人工智能技术基本上不太现实
1.9.2. 立法禁止某种特定的人工智能技术使用,比如神经网络,那就更不现实了,因为软件开发人员可以很轻易地在代码中掩饰使用的技术
2. 算法偏见
2.1. 是指计算机程序——不仅仅是人工智能系统,而是任意计算机程序——在其决策过程中表现出某种形式的偏见的情况
2.2. 造成两方面的伤害问题
2.2.1. 分配伤害
2.2.1.1. 分配伤害体现在某个群体在某些资源方面被拒绝(或优待)的时候
2.2.2. 代表性伤害
2.2.2.1. 通常发生在系统产生强化刻板印象或者偏见时
2.3. 机器最重要也是单一的获取信息途径是数据,偏见就是通过数据引入的
2.3.1. 机器学习程序使用数据进行训练,如果数据本身就存在偏差,那么程序也将学习数据中隐含的偏见,而训练数据本身就可能存在不同程度的偏差
2.4. 构建数据集的人本身就是带有偏见的
2.4.1. 他们会在数据集中嵌入这类偏见,可能不会太明确,也可能是无意识的
2.5. 如果机器学习程序的训练数据不具有代表性,那么该程序的决策将不可避免地被扭曲
2.6. 当前人工智能系统大多采用机器学习的方式构建,机器学习的特点是“黑盒”:它无法用人类能够理解的方式解释或者说明它的决策
2.6.1. 训练结果是看上去它能够得出和人类专家相同的结果,所以人们就武断地相信人工智能系统不会出错,并且毫不犹豫地信任它的决策,而不进行深入思考
2.7. 最关键的是,要用正确的方式获取数据
3. 多样性缺乏
3.1. 男性人工智能
3.1.1. 人工智能领域的男性主导现象仍然存在:缺乏多样性仍然是人工智能现阶段面临的一个棘手问题,就如科学和工程学科诸多领域一样
3.2. 男性主导的研究领域将使潜在的女性科学家感到反感,从而扼sha了这一领域潜在的宝贵人才
3.3. 数据缺口:通常用于制造和设计的历史数据集绝大多数是以男性为导向的
3.3.1. 大部分历史记录的数据都是有缺陷的
3.3.2. 古时候狩猎都是由男性来完成的,以往的历史写作者根本没有给女性留下多少空间
3.3.3. 办公室空调温度标准是为男性设定的,让女性在办公室里瑟瑟发抖
3.3.4. 女性在超市里挣扎着想够到按照男性身高标准设计的货架顶层等
3.3.5. 它们不危及生命,不像一辆汽车的安全设施没有考虑到女性的身体尺寸,不像心脏病发作的时候得不到救治和诊断
3.4. 女性每天都生活在围绕着男性的数据构建的世界中,带来的后果可能是致命的
3.5. 对于人工智能而言,数据是必不可少的,但数据集里男性偏见是普遍存在的
3.6. 偏见本来就是人工智能中存在的问题,对女性而言,这个问题更具有特殊性
4. 假新闻
4.1. 假新闻就是将虚假的、不准确的或者误导性的消息当作事实,并以新闻的方式呈现
4.1.1. 在数字时代之前,世界上就存在大量的假新闻源,但是互联网,尤其是影响巨大的社交媒体,却成了传播假新闻的完美渠道
4.2. 社交媒体的存在是让人们可以方便地彼此联系,现代社交媒体平台在这方面取得了惊人的成功
4.2.1. 西方的脸书和推特,还有东大的微信,都有着大量的用户基础
4.2.2. 所有的社交媒体平台都依赖于你在它们上面消磨了多少时间
4.2.2.1. 这就给了平台向你展示广告的机会,而这也是平台最终盈利的方式
4.3. 人工智能是假新闻的重要组成部分,因为它对假新闻的传播方式至关重要
4.3.1. 人工智能在其中所起的作用是根据你的点赞、评论,以及你点击的相关阅读链接等行为去分析你的偏好,然后寻找到你也许会喜欢的新消息
4.4. 证实性偏见
4.4.1. 一个充满了暴力视频和种族主义新闻的世界,他不会得到多渠道的、公正的信息,他将深陷于自己的社交气泡中,对自己的世界也会存在偏见,并且偏见还会因此得到加强
4.5. 从长远来看,我们看待世界的根本角度有可能被人工智能改变
4.5.1. 每个人都通过自己的感官(视觉、听觉、触觉、嗅觉和味觉)获取关于世界的信息,并利用这些信息建立对现实的一致看法
4.5.2. 对世界实际情况的描述和可以被广泛接受的看法
4.6. 增强现实(Augmented Reality, AR)应用
4.6.1. 它们获取真实的世界,并在其上覆盖计算机生成的信息或图像
4.6.2. 如果应用程序不仅仅是增强现实,而是完全改变现实,甚至使用户根本察觉不到这种改变
4.6.3. 从根本上改变了他认知世界的方式,从而操纵他的信仰,那会发生多么恐怖的事情
4.7. 如果我们都居住在自己的私人世界里,那共识现实又有什么意义呢?
4.7.1. 你和我不再有相同的、共通的经验来建立共识
4.8. 如果我们每个人都居住在自己特有的、由人工智能驱动的数字世界里,那么建立在共同价值观和原则之上的社会将面临真正的危险
4.8.1. 社交媒体上的假新闻,只是一个开始
5. DeepFakes
5.1. 一款人工智能换脸工具,可以通过换脸技术,让图片或者视频中出现根本没有出现过的人
5.2. 负面影响最大的案例发生在2019年,米国众医院议长Nancy Pelosi的一段讲话被篡改,让人觉得她有语言障碍,或者可能受到毒品或酒精的影响
5.3. 也被用来修改涩请视频,在视频中加入实际上没有参与的“演员”
5.4. 照片和视频将不再是对某一事件的原始可靠记录
6. 人工智能造假
6.1. 造假在人工智能的边缘领域太普遍了,这让人工智能研究人员非常沮丧
6.2. 人工智能造假,主要是人们被误导了,相信他们看到的就是真正的人工智能,而事实上,这些幕后都只是一些把戏而已
6.3. 如果人工智能初创公司不能让他们的技术在关键的成果展示中发挥作用,他们就会在幕后使用假人工智能来糊弄
6.4. 人工智能造假对每个人来说都是实实在在的问题,也是对人工智能研究界的莫大伤害
合集:
读人工智能全传
好文要顶
关注我
收藏该文
微信分享
躺柒
粉丝 -
50
关注 -
0
+加关注
0
0
升级成为会员
«
上一篇:
读人工智能全传12人工智能导致的问题1
»
下一篇:
读人工智能全传14有意识的机器之路
posted @
2024-07-15 06:57
躺柒
阅读(
29
) 评论(
0
)
编辑
收藏
举报
刷新页面
返回顶部
登录后才能查看或发表评论,立即
登录
或者
逛逛
博客园首页
【推荐】还在用 ECharts 开发大屏?试试这款永久免费的开源 BI 工具!
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
相关博文:
·
读AI未来进行式笔记08自主57
·
读AI新生:破解人机共存密码笔记09精神安全权
·
人工智能军事化现状及其利弊分析
·
AI-内部原理-一-
·
ChatGPT 之优势与缺陷
阅读排行:
·
【.NET】调用本地 Deepseek 模型
·
CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
·
DeepSeek “源神”启动!「GitHub 热点速览」
·
Plotly.NET 一个为 .NET 打造的强大开源交互式图表库
·
我与微信审核的“相爱相杀”看个人小程序副业
历史上的今天:
2023-07-15
读数据压缩入门笔记07_自适应统计编码
公告
昵称:
躺柒
园龄:
2年1个月
粉丝:
50
关注:
0
+加关注
<
2025年2月
>
日
一
二
三
四
五
六
26
27
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
1
2
3
4
5
6
7
8
搜索
常用链接
我的随笔
我的评论
我的参与
最新评论
我的标签
合集
学信息系统项目管理师第4版(35)
学系统集成项目管理工程师(中项)(43)
读高性能MySQL(第4版)(21)
读发布!设计与部署稳定的分布式系统(第2版)(34)
随笔及总结(26)
读改变未来的九大算法(10)
读数据压缩入门(11)
读C#代码整洁之道(8)
读编程与类型系统(12)
读函数式编程思维(6)
读Java8函数式编程(9)
读Java实战(第二版)(20)
读Java性能权威指南(第2版)(31)
读SQL进阶教程(17)
选读SQL经典实例(23)
读SQL学习指南(第3版)(13)
读图数据库实战(11)
读程序员的制胜技(15)
读像火箭科学家一样思考(16)
读程序员的README(19)
读算法霸权(13)
读元宇宙改变一切(14)
读AI3.0(10)
读千脑智能(13)
读十堂极简人工智能课(9)
读人工不智能:计算机如何误解世界(10)
读算法的陷阱:超级平台、算法垄断与场景欺骗(20)
读所罗门的密码(21)
读天才与算法:人脑与AI的数学思维(26)
读人工智能时代与人类未来(19)
读AI未来进行式(12)
读AI新生:破解人机共存密码(18)
读人工智能全传(16)
读写给大家的AI极简史(7)
读零信任网络:在不可信网络中构建安全系统(21)
读软件开发安全之道:概念、设计与实施(17)
读软件设计的要素(7)
读构建可扩展分布式系统:方法与实践(16)
读数据湖仓(9)
读数据工程之道:设计和构建健壮的数据系统(34)
读数据质量管理:数据可靠性与数据质量问题解决之道(20)
读数据保护:工作负载的可恢复性(31)
读量子霸权(18)
读算法简史:从美索不达米亚到人工智能时代(15)
读当我点击时,算法在想什么?(7)
读DAMA数据管理知识体系指南(4)
更多
随笔档案
2025年2月(25)
2025年1月(31)
2024年12月(31)
2024年11月(30)
2024年10月(31)
2024年9月(30)
2024年8月(31)
2024年7月(31)
2024年6月(30)
2024年5月(31)
2024年4月(30)
2024年3月(31)
2024年2月(29)
2024年1月(31)
2023年12月(31)
2023年11月(30)
2023年10月(31)
2023年9月(30)
2023年8月(31)
2023年7月(31)
2023年6月(30)
2023年5月(31)
2023年4月(31)
2023年3月(36)
2023年2月(28)
2023年1月(26)
阅读排行榜
1. C#代码整洁之道读后总结与感想(599)
2. 选读SQL经典实例笔记01_检索和排序(369)
3. 读C#代码整洁之道笔记01_C#的编码标准和原则(311)
4. 读C#代码整洁之道笔记04_重构C#代码识别代码坏味道(309)
5. 学信息系统项目管理师第4版系列02_法律法规(268)
评论排行榜
1. 2023年1月随笔(11)
2. 2023年10月随笔之婚宴趣事多(2)
3. 读高性能MySQL(第4版)笔记12_查询性能优化(下)(2)
4. 读Java性能权威指南(第2版)笔记18_垃圾回收E(2)
推荐排行榜
1. 读高性能MySQL(第4版)笔记01_MySQL架构(上)(2)
2. 选读SQL经典实例笔记01_检索和排序(2)
3. 读软件设计的要素01概念(1)
4. 读AI未来进行式笔记01深度学习(1)
5. 读所罗门的密码笔记01_当人类遇见机器(1)
最新评论
1. Re:2023年10月随笔之婚宴趣事多
@gz4621 wondershare mindmaster...
--躺柒
2. Re:2023年10月随笔之婚宴趣事多
大神 思维导图用的什么软件制作的?
--gz4621
3. Re:读高性能MySQL(第4版)笔记12_查询性能优化(下)
@东围居士 建议读新版。...
--躺柒
4. Re:读高性能MySQL(第4版)笔记12_查询性能优化(下)
第4版相比第3版好像缩减了好多内容?楼主推荐第3版还是第4版
--东围居士
5. Re:读Java性能权威指南(第2版)笔记18_垃圾回收E
@屠炉 没有用第三方工具,手动的。 有几个平台直接支持markdown导入,只是要调整一下图片上传即可。...
--躺柒
点击右上角即可分享
支持DeepSeek的编程助手
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 【.NET】调用本地 Deepseek 模型
· CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
· DeepSeek “源神”启动!「GitHub 热点速览」
· Plotly.NET 一个为 .NET 打造的强大开源交互式图表库
· 我与微信审核的“相爱相杀”看个人小程序副业
2023-07-15 读数据压缩入门笔记07_自适应统计编码