会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
躺柒
博客园
首页
新随笔
联系
订阅
管理
读AI3.0笔记06_新机器人三定律
新机器人三定律
合集 - 读AI3.0(10)
1.
读AI3.0笔记
10_读后总结与感想兼导读
2024-01-31
2.
读AI3.0笔记
01_引言
2024-01-17
3.
读AI3.0笔记
02_起源
2024-01-18
4.
读AI3.0笔记
03_神经网络
2024-01-19
5.
读AI3.0笔记
04_视觉识别
2024-01-23
6.
读AI3.0笔记
05_人类与机器学习
2024-01-24
7.
读AI3.0笔记
06_新机器人三定律
2024-01-25
8.
读AI3.0笔记
07_游戏与推理
2024-01-26
9.
读AI3.0笔记
08_自然语言
2024-01-29
10.
读AI3.0笔记
09_常识
2024-01-30
1. 自动驾驶汽车
1.1. 自动驾驶汽车的成功在很大程度上要归功于机器学习,特别是深度学习,尤其是汽车的计算机视觉和决策部分
1.2. 自动驾驶汽车具有能够极大改善我们生活的潜力,它们可以大大减少交通事故造成的伤亡
1.3. 自动驾驶汽车能够使人类乘客在乘车时间里更具生产力而不会虚度光阴
2. 机器学习
2.1. 机器学习正被应用在影响人类生活的多个领域的决策中
2.1.1. 创建新闻源、诊断疾病、评估贷款申请,甚至给出监狱刑罚建议
2.1.2. 当机器在做这些事时,我们如何保证它已经掌握了足够的知识,因而可以作为一个可信赖的决策制定者?
2.2. 我们最终必须在人工智能今后的许多积极用途与对其可信度和可能被滥用的担忧之间做好权衡
3. 人工智能大权衡
3.1. 人工智能是新‘电能’。正如100年前电能几乎改变了所有行业一样,今天我真的很难想到有哪个行业在未来几年内是不会被人工智能改变的。
3.1.1. 吴恩达
3.1.2. 很快人工智能就会如电能一样,尽管看不到,但对电子设备来说却非常必要
3.1.3. 电能在被广泛商业化之前就已经被充分认识,我们非常了解电能的功用
3.1.4. 对于如今许多人工智能系统的情况,我们却没有足够的认识
3.2. 我们是应该拥抱人工智能系统,利用其能力来改善我们的生活,甚至帮助拯救生命,并且允许这些系统被更加广泛地使用呢?
3.3. 考虑当下人工智能存在难以预见的错误、易受偏见影响、易被黑客攻击以及缺少透明度等特点,应该更谨慎地使用人工智能来制定决策?
3.4. 悲观的预测
3.4.1. 大批的工作被自动化技术接管导致的人类失业
3.4.2. 由于人工智能监视而造成的对公民的隐私和权利的侵犯
3.4.3. 不道德的自动化武器
3.4.4. 由不透明和不可信的计算机程序做出的未经审查的决策
3.4.5. 种族和性别偏见被放大
3.4.6. 大众媒体被操纵
3.4.7. 网络犯罪增多
3.4.8. 真实,但与人类无关
4. 人脸识别的伦理困境
4.1. 人脸识别是使用文字来标注图像或视频中的人脸的任务
4.2. 好处
4.2.1. 帮助人们从照片集中检索图像
4.2.2. 使视力受损的用户能够识别他们所遇到的人
4.2.3. 通过扫描照片和视频中的人脸定位失踪儿童或逃犯
4.2.4. 检测身份盗用
4.3. 隐私问题是人脸识别技术应用中一个显而易见的问题
4.4. 失去隐私并不是唯一的风险,人们对于人脸识别还有一个更大的担忧,那就是可靠性
4.4.1. 人脸识别系统会犯错
4.5. 可信度、可解释性、偏见、易受攻击性和使用过程中出现的道德问题
4.6. 许多高科技公司宣布他们反对将人脸识别用于执法和监管
5. 人工智能的监管
5.1. 赞成人工智能技术应该受到某种监管
5.2. 监管不应该仅仅掌握在人工智能研究人员和相关公司的手里
5.3. 与技术问题一样,都是牵涉社会和政治方面的问题
5.4. 将监管的职责交给人工智能从业者,就像将其完全交给政府机构一样,都是不明智的
5.5. 对人工智能的监管应该参照其他领域的技术监管,尤其是那些在生物和医学领域的技术,例如基因工程
5.6. 现在已经建立了生物伦理学和医学伦理学领域,这些领域对技术的研发和应用方面的决策具有相当大的影响
5.7. 该领域在制定监管和道德规范的优先事项方面,尚未达成普遍共识
5.8. 人们对超级智能可能带来的风险给予了太多关注,而对于深度学习缺乏可靠性和透明性,及其易受攻击性的关注则远远不够
6. 有益的人工智能
6.1. 语音转录
6.2. GPS导航和出行规划
6.3. 垃圾邮件过滤
6.4. 语言翻译
6.5. 信用卡欺诈警报
6.6. 书籍和音乐推荐
6.7. 计算机病毒防护
6.8. 建筑物能源利用优化
6.9. 如果你是听力受损人士,如今你可以在YouTube上看到非常精准的字幕,在某些情况下,你甚至可以在一次演讲中获得实时的语音转录
6.10. 如果你是摄影师、电影制作人、艺术家或音乐家,你可能正在使用人工智能系统来协助开展创作,例如用以帮助摄影师编辑照片、协助作曲家编曲的计算机程序
6.11. 如果你是学生,你可能会从适合你自己学习风格的“智能教学系统”中受益
6.12. 如果你是视力存在障碍的人,你可能会使用智能手机的计算机视觉应用程序来阅读手写的或印刷的文字,例如标牌、餐馆菜单或钞票上的文字
6.13. 人工智能相关应用可能会在医疗保健领域得到广泛普及
6.14. 机器人已经被广泛地用于琐碎和重复的工厂任务了
6.15. 未来人工智能应用的具体实例包括:自动驾驶卡车和出租车,用于收割水果、扑灭大火、扫除地雷和清理环境等
7. 可解释的人工智能
7.1. 在人工智能“自动决策制定”的情况下
7.1.1. 任何一个影响公民的决策都需要提供其中所涉及的与逻辑有关的有意义信息
7.1.2. 这些信息需要使用清晰明了的语言
7.1.3. 以简洁、透明、易懂和易于访问的形式来沟通和传达
7.1.4. 打开了有关解释问题的闸门
8. 创建有道德的机器
8.1. 著名的“机器人三定律”
8.1.1. 阿西莫夫在1942年首次提出
8.1.1.1. “逃跑”的故事
8.1.1.1.1. 如果一个机器人遵循第二定律向危险物质移动
8.1.1.1.2. 这时第三定律将会生效,机器人随即远离该物质
8.1.1.1.3. 此时第二定律又重新开始生效
8.1.1.1.4. 于是,机器人将被困在一个无尽的循环中,最终对机器人的人类主人造成了灾难性的后果
8.1.1.2. 除非机器人能够理解不同场景下伤害的内涵,否则它无法可靠地执行避免伤害人类的命令
8.1.2. 机器人不得伤害人类个体,或者对人类个体将遭受的危险袖手旁观
8.1.3. 机器人必须服从人类给予它的命令,当该命令与第一定律冲突时例外
8.1.4. 机器人在不违反第一、第二定律的情况下,要尽可能地保护自己
8.2. 不完整的规则和意外所引发的问题已经妨碍了所有基于规则的人工智能方法,道德推理也不例外
8.3. 2001:太空漫游
8.3.1. 科幻小说家亚瑟·克拉克(Arthur C. Clarke)在其1968年出版
8.3.2. 人工智能计算机HAL被编程为始终对人类保持诚实
8.3.3. 同时又要对人类宇航员隐瞒他们的太空任务的真实目的
8.3.4. 他意识到隐瞒真相与保持忠诚之间的这种冲突正在慢慢地破坏他的心智
8.4. 人工智能程序员面临的挑战是,如何确保人工智能系统的价值观与人类保持一致
8.4.1. 人类的价值观又是什么?
8.4.2. 假设存在社会共享的普世价值有任何意义吗?
8.5. 电车难题
8.5.1. 如果你什么都不做,电车就会直接撞到5名工人身上
8.5.2. 如果你把电车开向右边,电车就会撞死1名工人
8.5.3. 从道德上来说更可取的做法是:司机把电车开到支线上,杀死1名工人,救下另外5名工人
8.5.4. 对本质上相同的困境选取一个不同的框架,就会导致人们给出相反的答案
8.6. 类似电车问题的自动驾驶汽车可能面临的场景
8.6.1. 76%的参与者回答,自动驾驶汽车牺牲1名乘客比杀死10名行人,从道德上来说更可取
8.6.2. 当被问及是否会购买这样一辆被编程为会为了救下更多行人而选择牺牲其乘客的汽车时,绝大多数参与调查者的回答是否定的
8.7. 可信任的道德理性的一个先决条件是通用的常识
8.7.1. 即使在当今最好的人工智能系统中也是缺失的
合集:
读AI3.0
好文要顶
关注我
收藏该文
微信分享
躺柒
粉丝 -
50
关注 -
0
+加关注
0
0
升级成为会员
«
上一篇:
读AI3.0笔记05_人类与机器学习
»
下一篇:
读AI3.0笔记07_游戏与推理
posted @
2024-01-25 07:17
躺柒
阅读(
47
) 评论(
0
)
编辑
收藏
举报
刷新页面
返回顶部
登录后才能查看或发表评论,立即
登录
或者
逛逛
博客园首页
【推荐】还在用 ECharts 开发大屏?试试这款永久免费的开源 BI 工具!
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
相关博文:
·
读AI未来进行式笔记06自动驾驶技术
·
读AI3.0笔记05_人类与机器学习
·
AI伦理与机器道德:人工智能的道德挑战
·
关于AI将如何改变人类的令人耳目一新的秘密
·
Python 人工智能:1~5
阅读排行:
·
一个费力不讨好的项目,让我损失了近一半的绩效!
·
清华大学推出第四讲使用 DeepSeek + DeepResearch 让科研像聊天一样简单!
·
实操Deepseek接入个人知识库
·
CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
·
Plotly.NET 一个为 .NET 打造的强大开源交互式图表库
历史上的今天:
2023-01-25
编程与类型系统读后总结与感想
公告
昵称:
躺柒
园龄:
2年1个月
粉丝:
50
关注:
0
+加关注
<
2025年2月
>
日
一
二
三
四
五
六
26
27
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
1
2
3
4
5
6
7
8
搜索
常用链接
我的随笔
我的评论
我的参与
最新评论
我的标签
合集
学信息系统项目管理师第4版(35)
学系统集成项目管理工程师(中项)(43)
读高性能MySQL(第4版)(21)
读发布!设计与部署稳定的分布式系统(第2版)(34)
随笔及总结(26)
读改变未来的九大算法(10)
读数据压缩入门(11)
读C#代码整洁之道(8)
读编程与类型系统(12)
读函数式编程思维(6)
读Java8函数式编程(9)
读Java实战(第二版)(20)
读Java性能权威指南(第2版)(31)
读SQL进阶教程(17)
选读SQL经典实例(23)
读SQL学习指南(第3版)(13)
读图数据库实战(11)
读程序员的制胜技(15)
读像火箭科学家一样思考(16)
读程序员的README(19)
读算法霸权(13)
读元宇宙改变一切(14)
读AI3.0(10)
读千脑智能(13)
读十堂极简人工智能课(9)
读人工不智能:计算机如何误解世界(10)
读算法的陷阱:超级平台、算法垄断与场景欺骗(20)
读所罗门的密码(21)
读天才与算法:人脑与AI的数学思维(26)
读人工智能时代与人类未来(19)
读AI未来进行式(12)
读AI新生:破解人机共存密码(18)
读人工智能全传(16)
读写给大家的AI极简史(7)
读零信任网络:在不可信网络中构建安全系统(21)
读软件开发安全之道:概念、设计与实施(17)
读软件设计的要素(7)
读构建可扩展分布式系统:方法与实践(16)
读数据湖仓(9)
读数据工程之道:设计和构建健壮的数据系统(34)
读数据质量管理:数据可靠性与数据质量问题解决之道(20)
读数据保护:工作负载的可恢复性(31)
读量子霸权(18)
读算法简史:从美索不达米亚到人工智能时代(15)
读当我点击时,算法在想什么?(7)
读DAMA数据管理知识体系指南(3)
更多
随笔档案
2025年2月(24)
2025年1月(31)
2024年12月(31)
2024年11月(30)
2024年10月(31)
2024年9月(30)
2024年8月(31)
2024年7月(31)
2024年6月(30)
2024年5月(31)
2024年4月(30)
2024年3月(31)
2024年2月(29)
2024年1月(31)
2023年12月(31)
2023年11月(30)
2023年10月(31)
2023年9月(30)
2023年8月(31)
2023年7月(31)
2023年6月(30)
2023年5月(31)
2023年4月(31)
2023年3月(36)
2023年2月(28)
2023年1月(26)
阅读排行榜
1. C#代码整洁之道读后总结与感想(599)
2. 选读SQL经典实例笔记01_检索和排序(369)
3. 读C#代码整洁之道笔记01_C#的编码标准和原则(311)
4. 读C#代码整洁之道笔记04_重构C#代码识别代码坏味道(309)
5. 学信息系统项目管理师第4版系列02_法律法规(268)
评论排行榜
1. 2023年1月随笔(11)
2. 2023年10月随笔之婚宴趣事多(2)
3. 读高性能MySQL(第4版)笔记12_查询性能优化(下)(2)
4. 读Java性能权威指南(第2版)笔记18_垃圾回收E(2)
推荐排行榜
1. 读高性能MySQL(第4版)笔记01_MySQL架构(上)(2)
2. 选读SQL经典实例笔记01_检索和排序(2)
3. 读软件设计的要素01概念(1)
4. 读AI未来进行式笔记01深度学习(1)
5. 读所罗门的密码笔记01_当人类遇见机器(1)
最新评论
1. Re:2023年10月随笔之婚宴趣事多
@gz4621 wondershare mindmaster...
--躺柒
2. Re:2023年10月随笔之婚宴趣事多
大神 思维导图用的什么软件制作的?
--gz4621
3. Re:读高性能MySQL(第4版)笔记12_查询性能优化(下)
@东围居士 建议读新版。...
--躺柒
4. Re:读高性能MySQL(第4版)笔记12_查询性能优化(下)
第4版相比第3版好像缩减了好多内容?楼主推荐第3版还是第4版
--东围居士
5. Re:读Java性能权威指南(第2版)笔记18_垃圾回收E
@屠炉 没有用第三方工具,手动的。 有几个平台直接支持markdown导入,只是要调整一下图片上传即可。...
--躺柒
点击右上角即可分享
支持DeepSeek的编程助手
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 一个费力不讨好的项目,让我损失了近一半的绩效!
· 清华大学推出第四讲使用 DeepSeek + DeepResearch 让科研像聊天一样简单!
· 实操Deepseek接入个人知识库
· CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
· Plotly.NET 一个为 .NET 打造的强大开源交互式图表库
2023-01-25 编程与类型系统读后总结与感想