科技热线
搜索
  1. 首页
  2. 列表
  3. 焦点
  4. 内容详情

世界快资讯丨AI安全成为关键词，这里有些值得关注的专家观点｜Chat AI

来源：东方资讯


(相关资料图)

安全是数字化时代的重要议题。随着更多新技术、新场景的出现，安全的演进也一直在持续。

按细分领域划分，早前围绕安全的主要话题在网络层面。但近年随着数据量提升、数据泄露变得常见，数据安全产品、服务随之成为产业热点。而如今，伴随生成式AI、大模型的出现，AI安全紧跟成为最被关注的议题。

在日前举办的2023西湖论剑·数字安全大会上，36氪观察到，不少行业专家在谈论数据安全的同时，同样热议AI安全。

安恒信息董事长范渊在2023西湖论剑·数字安全大会上表示，实战化是安恒的基因之一。在过去的护网、重大活动安保过程中，安恒通过总结自己的经验，沉淀出实战化模型。"我们这两年发现，AI+安全大脑在网络战形势下的价值越来越高。"范渊表示。

而针对最新出现的、生成式AI的安全，范渊总结，当前出现了几个新挑战和机遇：首先，AI和大模型本身会存在不少安全风险；另外，ChatGPT这类应用会给自动化生成网络安全工具和病毒木马后门带来几百倍的效率提升；同时，AI+安全的智能化应用，也会为智能防护和响应带来更大的机遇和成果。针对这些变化，范渊表示，安恒现在正在用相关海量数据和多个场景模型，在AI安全这个中模型上，覆盖产品、平台和服务3个维度，形成安全大脑。

"AI+安全，这个大幕刚刚拉开，未来还有更大的可能性。"范渊总结。

在会议中，中科院信息工程研究所副所长、大数据安全研究室主任王伟平教授同样介绍了生成式人工智能数据安全风险分析和对策。王伟平总结，生成式人工智会带来数据安全、内容安全、意识形态安全等方面的问题。

他认为，目前的生成式人工智能还是一个黑盒，人们无法很好地保障可解释性。这种情况下，首先社会应该加强对个人安全风险意识的宣贯，尽量避免个人信息透露给AIGC；第二，要对社交媒体上虚假信息内容进行辨别，从源头上避免给AIGC灌输一些负面、虚假的输入；同时也要加强涉密人员、涉密领域、涉密场所和涉密设备的监管，防止和ChatGPT类似系统产生关联。

标签：

推荐

财富更多》

动态更多》

热点