会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
躺柒
博客园
首页
新随笔
联系
订阅
管理
随笔 - 788
文章 - 0
评论 - 17
阅读 -
49126
读AI未来进行式笔记08自主57
自主57
合集 - 读AI未来进行式(12)
1.
读AI未来进行式笔记
01深度学习
2024-06-03
2.
读AI未来进行式笔记
02深度伪造
2024-06-04
3.
读AI未来进行式笔记
03自然语言处理技术
2024-06-05
4.
读AI未来进行式笔记
04数字医疗与机器人
2024-06-06
5.
读AI未来进行式笔记
05元宇宙与XR
2024-06-07
6.
读AI未来进行式笔记
06自动驾驶技术
2024-06-08
7.
读AI未来进行式笔记
07量子计算
2024-06-09
8.
读AI未来进行式笔记
08自主57
2024-06-10
9.
读AI未来进行式笔记
09职业再造
2024-06-11
10.
读AI未来进行式笔记
10幸福感
2024-06-12
11.
读AI未来进行式笔记
11丰饶时代与奇点
2024-06-13
12.
读AI未来进行式笔记
12读后总结与感想兼导读
2024-06-14
1. 自主57
1.1. 自主57被视为继火药、核57之后的“第三次zhan筝革命”
1.2. 虽然地雷和导弹揭开了早期简单自主57的序幕,但运用了AI技术的真正的自主57才是正片
1.2.1. AI自主57让整个sha戮过程:搜寻目标、进入zhan斗、抹sha生命,完全无须人类参与
1.3. 今天,一个有经验的业余机器人爱好者就能以不到1000美元的成本制造出这样的无人机,元件能够在线购买,技术算法可以从开源社区下载
1.3.1. 从侧面反映了AI和机器人技术正在逐渐走向普及,价格也越来越亲民
1.4. 如果我们不审慎思考自主57可能带来的各种问题,一味推动技术的发展,人类的zhan筝进程将会加速,这不但会造成更大的伤亡,而且可能导致灾难性的zhan筝升级,甚至爆发核zhan筝
1.5. 自主57是最有悖于人类道德观、对人类延续存在威胁的AI应用,我们需要让该领域内的专家和各国首脑共同参与到对自主57未来发展的讨论中去,权衡不同解决办法的利弊,找到一种能够阻止自主57肆意扩散、避免人类走向灭亡的最佳方法
1.6. 由于AI缺乏人类的常识和跨领域推理能力,所以无论人类如何训练一个自主57系统,它都无法充分理解其自身的行动所带来的后果
2. 好的一面
2.1. 如果由机器人来取代人类的zhan士,那么自主57可以挽救仕宾的生命
2.2. 一支负责的jun队可以用自主57来引导仕宾(无论是人类还是机器人)只攻击敌方zhan斗人员,以免伤害无辜的友jun、儿童和平民
2.2.1. 类似于L2/L3级别自动驾驶车辆帮助人类驾驶员避免犯错
2.3. 还可以用于对付暗sha者、罪犯、kongB分子
3. 负面影响
3.1. 伦理和道德上的争议
3.1.1. 几乎所有伦理制度和宗教信仰都把夺走一个人的生命视为一种极具争议性的行为,如果不经过严肃的审判,没有任何人可以拥有这样的权力
3.2. 降低了sha人的成本
3.3. 还涉及责任人的界定,我们需要知道谁应该为自主57的失误负责
3.3.1. 如果责任无法明确,幕后黑手就有从国际人道主义法律中逃脱的机会
3.3.2. 直接降低了zhan筝的门槛
3.4. 不仅能够对某个人执行暗sha任务,还能够针对任何群体进行烕絕式图sha
3.4.1. 通过面部或姿态识别技术、移动设备或物联网信号追踪技术来实现
4. 最大威胁
4.1. 从历史上英德海junjun备竞赛到美苏核jun备竞赛,一直以来,各个国家都在争夺jun事霸权,并将jun事置于优先发展的zhan略地位
4.2. 自主57的成本相对较低,直接降低了参赛门槛
4.2.1. 让一些拥有强大技术的小国有了加入jun备竞赛的机会
4.3. 核57也是一种威胁人类生存的57,但它一直以来都受到很好的约束,甚至在几个大国拥有核57后,全球zhan筝大大减少了
4.4. 对于自主57来说,核威慑理论和确保互毁原则并不适用,因为自主57发动的突袭是很难被追踪到的
4.5. 自主57攻击可能快速引发连锁反应,并逐步升级,甚至导致核zhan筝
4.5.1. 首先发动突袭的甚至可能并不是一个国家,而是kongB分子或无正腐组织,这更增加了自主57的风险
5. 如何解决自主57带来的危机
5.1. 人工介入
5.1.1. 至少确保每一个影响生命的决策都由人类做出
5.1.2. 在很大程度上,自主57的威力源于机器在没有人工介入的情况下所具备的速度和精度
5.1.2.1. 任何想在这场jun备竞赛中取胜的国家,可能都无法接受这种大幅度削弱技术能力的人工介入
5.1.3. 这种方案执行起来非常难,漏洞也很容易被发现
5.2. 颁布相应的禁令
5.2.1. 禁止致命性自主57宣言
5.2.1.1. 主要障碍是鹅螺丝、米国和腐国的反对
5.3. 对自主57加以管控
5.3.1. 对其加以管控意味着必须保留人类对使用57系统的决定权
5.3.1.1. 这同样也是一件复杂的事情,因为在通常情况下,宽泛的技术规范很难在短期内取得明显成效
合集:
读AI未来进行式
好文要顶
关注我
收藏该文
微信分享
躺柒
粉丝 -
50
关注 -
0
+加关注
0
0
升级成为会员
«
上一篇:
读AI未来进行式笔记07量子计算
»
下一篇:
读AI未来进行式笔记09职业再造
posted @
2024-06-10 08:36
躺柒
阅读(
31
) 评论(
0
)
编辑
收藏
举报
刷新页面
返回顶部
登录后才能查看或发表评论,立即
登录
或者
逛逛
博客园首页
【推荐】还在用 ECharts 开发大屏?试试这款永久免费的开源 BI 工具!
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
相关博文:
·
读人工智能全传13人工智能导致的问题2
·
读AI新生:破解人机共存密码笔记09精神安全权
·
人工智能军事化现状及其利弊分析
·
杨立昆的洞见:AI 安全的关键不在于限制,而在于精巧的设计
·
美国空军未来利用AI控制无人僚机执行空战或对地作战任务成为可能——AI算法强化学习控制无人机执行空战或对地作战成为可能
阅读排行:
·
【.NET】调用本地 Deepseek 模型
·
CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
·
DeepSeek “源神”启动!「GitHub 热点速览」
·
Plotly.NET 一个为 .NET 打造的强大开源交互式图表库
·
我与微信审核的“相爱相杀”看个人小程序副业
历史上的今天:
2023-06-10
读改变未来的九大算法笔记08_并非万能的算法
公告
昵称:
躺柒
园龄:
2年1个月
粉丝:
50
关注:
0
+加关注
<
2025年2月
>
日
一
二
三
四
五
六
26
27
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
1
2
3
4
5
6
7
8
搜索
常用链接
我的随笔
我的评论
我的参与
最新评论
我的标签
合集
学信息系统项目管理师第4版(35)
学系统集成项目管理工程师(中项)(43)
读高性能MySQL(第4版)(21)
读发布!设计与部署稳定的分布式系统(第2版)(34)
随笔及总结(26)
读改变未来的九大算法(10)
读数据压缩入门(11)
读C#代码整洁之道(8)
读编程与类型系统(12)
读函数式编程思维(6)
读Java8函数式编程(9)
读Java实战(第二版)(20)
读Java性能权威指南(第2版)(31)
读SQL进阶教程(17)
选读SQL经典实例(23)
读SQL学习指南(第3版)(13)
读图数据库实战(11)
读程序员的制胜技(15)
读像火箭科学家一样思考(16)
读程序员的README(19)
读算法霸权(13)
读元宇宙改变一切(14)
读AI3.0(10)
读千脑智能(13)
读十堂极简人工智能课(9)
读人工不智能:计算机如何误解世界(10)
读算法的陷阱:超级平台、算法垄断与场景欺骗(20)
读所罗门的密码(21)
读天才与算法:人脑与AI的数学思维(26)
读人工智能时代与人类未来(19)
读AI未来进行式(12)
读AI新生:破解人机共存密码(18)
读人工智能全传(16)
读写给大家的AI极简史(7)
读零信任网络:在不可信网络中构建安全系统(21)
读软件开发安全之道:概念、设计与实施(17)
读软件设计的要素(7)
读构建可扩展分布式系统:方法与实践(16)
读数据湖仓(9)
读数据工程之道:设计和构建健壮的数据系统(34)
读数据质量管理:数据可靠性与数据质量问题解决之道(20)
读数据保护:工作负载的可恢复性(31)
读量子霸权(18)
读算法简史:从美索不达米亚到人工智能时代(15)
读当我点击时,算法在想什么?(7)
读DAMA数据管理知识体系指南(4)
更多
随笔档案
2025年2月(25)
2025年1月(31)
2024年12月(31)
2024年11月(30)
2024年10月(31)
2024年9月(30)
2024年8月(31)
2024年7月(31)
2024年6月(30)
2024年5月(31)
2024年4月(30)
2024年3月(31)
2024年2月(29)
2024年1月(31)
2023年12月(31)
2023年11月(30)
2023年10月(31)
2023年9月(30)
2023年8月(31)
2023年7月(31)
2023年6月(30)
2023年5月(31)
2023年4月(31)
2023年3月(36)
2023年2月(28)
2023年1月(26)
阅读排行榜
1. C#代码整洁之道读后总结与感想(599)
2. 选读SQL经典实例笔记01_检索和排序(369)
3. 读C#代码整洁之道笔记01_C#的编码标准和原则(311)
4. 读C#代码整洁之道笔记04_重构C#代码识别代码坏味道(309)
5. 学信息系统项目管理师第4版系列02_法律法规(268)
评论排行榜
1. 2023年1月随笔(11)
2. 2023年10月随笔之婚宴趣事多(2)
3. 读高性能MySQL(第4版)笔记12_查询性能优化(下)(2)
4. 读Java性能权威指南(第2版)笔记18_垃圾回收E(2)
推荐排行榜
1. 读高性能MySQL(第4版)笔记01_MySQL架构(上)(2)
2. 选读SQL经典实例笔记01_检索和排序(2)
3. 读软件设计的要素01概念(1)
4. 读AI未来进行式笔记01深度学习(1)
5. 读所罗门的密码笔记01_当人类遇见机器(1)
最新评论
1. Re:2023年10月随笔之婚宴趣事多
@gz4621 wondershare mindmaster...
--躺柒
2. Re:2023年10月随笔之婚宴趣事多
大神 思维导图用的什么软件制作的?
--gz4621
3. Re:读高性能MySQL(第4版)笔记12_查询性能优化(下)
@东围居士 建议读新版。...
--躺柒
4. Re:读高性能MySQL(第4版)笔记12_查询性能优化(下)
第4版相比第3版好像缩减了好多内容?楼主推荐第3版还是第4版
--东围居士
5. Re:读Java性能权威指南(第2版)笔记18_垃圾回收E
@屠炉 没有用第三方工具,手动的。 有几个平台直接支持markdown导入,只是要调整一下图片上传即可。...
--躺柒
点击右上角即可分享
支持DeepSeek的编程助手
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 【.NET】调用本地 Deepseek 模型
· CSnakes vs Python.NET:高效嵌入与灵活互通的跨语言方案对比
· DeepSeek “源神”启动!「GitHub 热点速览」
· Plotly.NET 一个为 .NET 打造的强大开源交互式图表库
· 我与微信审核的“相爱相杀”看个人小程序副业
2023-06-10 读改变未来的九大算法笔记08_并非万能的算法