行为分析：被误解的AI带来的安全风险
发布时间：2022-06-27 15:42:38 所属栏目：安全 来源：互联网
导读：如果你相信炒作，那人工智能(AI)和机器学习(ML)已经在保护现代IT基础设施安全方面发挥了重大作用。但真相是，这两种技术是强大却常被误解的工具，某些情况下，如果未能正确实现，甚至还会破坏公司的数据安全。 大多数企业的环境中流转着大量数据，因而很多企
|
如果你相信炒作，那人工智能(AI)和机器学习(ML)已经在保护现代IT基础设施安全方面发挥了重大作用。但真相是，这两种技术是强大却常被误解的工具，某些情况下，如果未能正确实现，甚至还会破坏公司的数据安全。 大多数企业的环境中流转着大量数据，因而很多企业试图将AI用作自动化解决方案来查找和审核敏感数据的访问权限。这些解决方案仅显示应控制访问权限的文件子集(可能仍有成千上万)，可避免用户被与其权限相关的数百万份文件的审查工作狂轰滥炸。看起来很明智，对吧?但实际上，这种方式忽略了不遵循算法所查找模式的数据，还常常引发误报。 用AI执行行为分析的三个问题 当前行为分析市场上没有真正的AI解决方案。真正的AI创建随机生成的算法，并用大量“正确”答案测试这些算法，再从中挑出最有效的。这就给使用AI进行行为分析带来了三个重大问题。 (1) 没有哪家公司拥有足够大的客户数据集供算法训练使用。即使假设有公司拥有这种体量的数据集，他们也不会想透露给别人知道，因为这有可能将自己树成黑客集火的巨大标靶。 (2) 每位客户都是独特的，所以即便公司可以用客户数据训练算法，却未必适用于他们的具体业务。 (3) 如果在逐个客户的基础上训练算法，那就是在当前系统上训练。这种情况下，如果当前系统已经处于理想状态，训练结果会相当不错;如果当前系统并不理想，会反而固化现有安全问题。 云和远程办公增添挑战 从安全的角度来看，采用云会带来各种各样的数据挑战，员工在家办公还会增加这样的挑战。居家办公的员工代表着不断壮大的最终用户群体，而且还是突然之间获得大量数据访问权的最终用户。 大多数没有经过专门培训的员工并不清楚云从哪里开始和结束，给非故意违反公司安全策略留下了空间。这正成为公司非常常见的内部安全威胁，尤其是在数据库被编程为用AI来削减数据访问时。只要使用不当，此类访问常会存在严重的安全漏洞。 （编辑：PHP编程网 - 黄冈站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330482号