安全见闻（5）

安全见闻（5）

免责声明：
学习视频来自 B 站up主泷羽sec，如涉及侵权马上删除文章。
笔记的只是方便各位师傅学习知识，以下代码、网站只涉及学习内容，其他的都与本人无关，切莫逾越法律红线，否则后果自负。

人工智能（Artificial Intelligence）

人工智能简介

旨在使计算机系统能够执行通常需要人类智能的任务，如学习、推理、问题解决、理解自然语言等。人工智能的发展可以追溯到上世纪 50 年代，经过几十年的研究和发展，如今已经在许多领域取得了重大突破和广泛应用。例如:

• 医疗领域:辅助医生进行疾病诊断、医学影像分析、药物研发等金融领域:凤险评估、欺诈检测、智能投资顾问等。
• 交通领域:自动驾驶汽车、交通流量预测和优化等
• 客户服务:智能聊天机器人可以快速回答客户的问题，提高服务效率。
• 图像识别和语音处理:人脸识别、语音助手等技术已经深入人们的日常生活。

人工智能涉及的网络安全问题

• 数据安全问题：人工智能系统通常需要大量的数据进行训练，其中包含敏感信息，如果这些敏感信息没有妥善保存，就有可能被泄露、窃取或滥用

• 对抗攻击：指通过对输入数据进行微小的修改，使得人工智能系统产生错误的产出，例如，在图像上添加一些人眼难以察觉的噪声（感觉像隐写），使人工智能错误地识别头像。

  应用场景：自动驾驶，人脸识别

• 模型窃取和知识产权问题：攻击者通过逆向工程等手段窃取人工智能模型的参数和结构，从而复制或改进模型，这不仅侵犯知识产权，还会导致商业机密泄露。

  应用场景：逆向ai模型可以拿到一些训练数据

• 恶意使用人工智能：攻击者利用人工智能发动更加复杂的攻击，使攻击更加难以检测。

  应用场景：自动化网络钓鱼、垃圾邮件发送等恶意活动

  对称信息博弈（象棋，围棋等可以看到全局，人工智能在这方面已经很厉害了）和非对称信息博弈（例如欢乐斗地主，人工智能可以通过启发式图搜索策略使得每一步都是当前的最优解，哎，和人工智能基础的课链接起来了！）

人工智能学习路径和方法

• 学习基础知识：

  • 数学基础知识，如线性代数，概率论，统计学等

  • 学习编程语言，如python

  • 了解机器学习和深度学习的概念，包括监督学习，无监督学习，神经网络等。

• 利用在线课程和教程：

  • 在线学习平台，如coursera,Udemy,edX等
  • 阅读相关书籍，如《深度学习》《机器学习实战》，以及一些知名的人工智能博客，如Medium上的专栏

• 实践项目：

  • 参与开源项目或者自己动手实践人工智能项目
  • 参加人工智能竞赛

• 持续的交流和学习：

  • 关注人工智能领域的最新进展和技术趋势，通过阅读学术论文，参加学术会议，关注行业新闻来实现。