MITRE ATLAS™ 人工智能系统的对抗性威胁全景——里面还有一些案例,可以参考,不过目前缺失防御技术

https://atlas.mitre.org/

MITRE ATLAS™(人工智能系统的对抗性威胁全景)是基于真实世界观察、机器学习红队和安全小组的演示的机器学习 (ML) 系统的对抗性策略、技术和案例研究的知识库,以及来自学术研究的可能状态。ATLAS 以MITRE ATT&CK ®框架为蓝本,其战术和技术与 ATT&CK 中的相辅相成。

ATLAS 使研究人员能够驾驭 机器学习系统面临的威胁 ML 越来越多地用于各种行业。ML 中存在越来越多的漏洞,它的使用增加了现有系统的攻击面。我们开发了 ATLAS 来提高对这些威胁的认识,并以安全研究人员熟悉的方式呈现它们。

下面的 ATLAS 矩阵从左到右显示了攻击中使用的策略的进展情况,ML 技术属于下面的每个策略。单击链接以了解有关每个项目的更多信息,或使用顶部导航栏上的链接查看 ATLAS 战术和技术。

posted @ 2022-06-22 10:31  bonelee  阅读(333)  评论(0编辑  收藏  举报