研究人员称:当心免费AI模型,容易存在安全风险

安全研究人员表示,渴望采用流行的新人工智能的公司在使用这项技术的开源版本时应该谨慎,其中一些版本不仅可能像广告宣传的那样好,还可能包含黑客可以利用的漏洞。

研究人员称:当心免费AI模型,容易存在安全风险

据彭博新闻报道,美国国防部的客户、机器学习安全公司Robust Intelligence的杰出工程师Hyrum Anderson表示,很少有方法可以事先知道特定的AI模型是否安全。安德森说,他发现一半公开的图像分类模型在他的测试中失败了。其目的是确定恶意行为者是否可以以可能造成安全风险或提供不正确信息的方式改变人工智能程序的输出。

安德森说,模型通常使用特别容易受到安全漏洞攻击的文件类型。这是一个严重的问题,因为许多公司在没有完全理解底层技术的情况下从开源获得模型,而不是自己创建模型。90%的Robust Intelligence公司使用拥抱脸从人工智能模型库下载模型。

本文内容及图片均整理自互联网,不代表本站立场,版权归原作者所有,如有侵权请联系admin#jikehao.com删除。
(0)
极客号的头像极客号
上一篇 2023年 3月 30日
下一篇 2023年 3月 30日

相关推荐

合作联系:1152QQ041010