尽管存在安全风险,组织仍继续采用人工智能

2024-05-06 16:12:00 0 521

据 Immuta 称,人工智能的采用率仍然很高,54% 的数据专家表示,他们的组织已经利用了至少四个人工智能系统或应用程序。



据 Immuta 称,人工智能的采用率仍然很高,54% 的数据专家表示,他们的组织已经利用了至少四个人工智能系统或应用程序。 79% 的受访者还表示,他们在人工智能系统、应用程序和开发方面的预算在过去 12 个月中有所增加。


人工智能采用的安全挑战


AI 安全与治理报告对近 700 名工程领导者、数据安全专业人士和治理专家进行了调查,了解他们对 AI 安全和治理的看法。


人工智能采用的安全挑战

然而,这种采用也带来了巨大的不确定性。例如,80% 的数据专家认为人工智能正在使数据安全变得更具挑战性。专家们对法学硕士无意中泄露敏感数据以及恶意行为者通过人工智能模型进行对抗性攻击表示担忧。


事实上,57% 的受访者发现过去一年人工智能驱动的攻击显着增加。


虽然人工智能的快速采用肯定会带来新的安全挑战,但对其潜力的乐观情绪正在推动组织适应。例如,数据领导者认为,人工智能将增强当前的安全实践,例如人工智能驱动的威胁检测系统(40%)和使用人工智能作为高级加密方法(28%)等任务。


面对安全风险,这些好处迫在眉睫,83% 的组织正在更新内部隐私和治理准则,并采取措施应对新风险:


78% 的数据领导者表示,他们的组织已经针对人工智能安全进行了风险评估。

72% 的人通过监控人工智能预测异常情况来提高透明度。

61% 制定了基于目的的访问控制,以防止未经授权使用人工智能模型。

37% 的受访者表示,他们制定了全面的战略,以保持符合最近和即将出台的人工智能法规和数据安全需求。

Immuta 产品管理副总裁Matt DiAntonio表示:“当前的标准、法规和控制措施的适应速度不够快,无法满足人工智能的快速发展,但对未来持乐观态度。” “该报告清楚地概述了许多人工智能安全挑战,以及组织如何寻求人工智能来帮助解决这些挑战。人工智能和机器学习能够实现流程自动化并快速分析大量数据集,以改进威胁检测,并启用先进的加密方法来保护数据。


“随着组织的人工智能之旅日趋成熟,降低数据风险以防止敏感数据意外或恶意暴露给人工智能模型至关重要。围绕生成人工智能数据管道和输出采取严密的安全和治理策略对于降低风险至关重要。”DiAntonio 总结道。


对AI数据安全策略充满信心

尽管许多数据领导者表示人工智能使安全变得更具挑战性,但 85% 的人表示他们对组织的数据安全策略将跟上人工智能的发展步伐有一定或非常有信心。


去年的研究发现 50% 的人强烈或有些同意他们的组织的数据安全策略未能跟上人工智能发展的步伐,这表明存在成熟度曲线,并且许多组织正在努力推进人工智能计划,尽管风险是因为预期回报是值得的。


人工智能的快速变化令人兴奋,但也是未知的,这是可以理解的。由于法规不稳定且许多模型缺乏透明度,这一点尤其如此。数据领导者应该将他们的乐观态度与人工智能将继续变化的现实结合起来——合规性的目标也将继续随之变化。


无论人工智能的未来如何,有一个行动是明确的:没有数据安全策略,就没有负责任的人工智能策略。建立支持数据安全策略的治理,该策略不是静态的,而是随着创新为业务带来成果而动态调整的。

关于作者

迷路的猫2篇文章241篇回复

......

评论0次

要评论?请先  登录  或  注册