“AI+安全”成新趋势,成都要加快健全网安产业生态-编程日记

图片来源:每经记者 淡忠奎 摄

过去三十年来,网络安全技术不断向前发展,但一直面临着“效率不够高”的问题。眼下,如何以人工智能技术赋能网络安全,正在成为业内关注的焦点。

“近两年来最大的技术革命其实源于AIGC,生成式人工智能所带来的人工智能的阶跃式发展,有可能帮助我们解决过去困扰中国网络安全行业30年的一些大难题。”9月11日,北京赛博英杰科技有限公司创始人谭晓生在2024 CCS成都网络安全系列活动(以下简称“CCS 2024”)上谈道,AIGC的第一个应用场景就是数据安全,在数据安全领域内肯定会带来一场革命。

作为2024年国家网络安全宣传周的配套活动,CCS 2024集结百度、360等多位权威专家学者、行业大咖,探讨数字化转型浪潮席卷全球、人工智能产业蓬勃发展下构建网络安全新生态的有效路径和策略。

一方面要加快大模型等人工智能技术对网络安全的赋能,而另一方面则要有效规避人工智能技术本身的一些风险问题。对于成都而言,又将如何加快构建“AI+安全”新生态,培育壮大网络安全产业?

AI赋能网络安全

“比较有意思的是,我国的网络安全十大创新方向,七个都是和人工智能相关的。”在场多位专家一致认为,网络安全已经进入人工智能阶段,“AI+安全”成为网络安全行业未来发展的重要方向。

“网络安全在国内发展整整30年,它存在什么样的问题?”谭晓生对《每日经济新闻》记者表示,首先就是每天各种设备的告警量特别大,响应的时间相对而言比较缓慢,造成有些告警的威胁发现不了,“等你去处置的时候,攻击者已经得手,这就是攻防上一个比较被动的局面”。

在谭晓生看来,网络安全领域一直存在“效率不够高”的问题。有数据显示,2021年网络安全人才缺口达140万人,预计2027年缺口将进一步扩大到300万人,“国内大概1000多万程序员,要300万网络安全人员去对他们开发的系统做防御?这是不可能的,也说明我们防御效率需要提升”。

“至少从现在来看,大模型技术已经开始替代初级的安全工程师,而初级的安全工程师总的需求是最大的,比如日常运营、处理告警,处理不了的再初级交给二级工程师、三级工程师,使得一个安全事件响应时间能够降到几分钟的量级。”他说。

百度副总裁陈洋进一步指出,大模型本身并不创造价值,真正创造价值的是应用场景。他认为,借助相关技术和应用,开发出的网络产品的漏洞会越来越少,同时也会把很多后置的安全工作前置,“还有安全运营,这样的工具也能够有巨大提效”。

作为一家扎根成都的网络安全企业,成都无糖信息技术有限公司(以下简称“无糖信息”)就瞄准网络犯罪治理的应用场景展开探索。“我们从最初每年配合执法机关做几十起案件协查,到去年我们能够做到每年配合500起以上的案件协查。但去年公安机关破获的电信诈骗案件有43.7万起,我们也就配合了千万分之一。”

无糖信息CEO张瑞冬分享,尝试用语言模型来代替传统的情报分析人员去处理更多的犯罪数据,是正在努力的方向。通过开发相关系统,筛选出疑似犯罪的数据,对犯罪行为进行分类和归因,为执法机关提供更有针对性的情报支持。

这也是大模型技术赋能网络安全治理的生动体现。

健全网络安全产业生态

“大模型的安全问题是一个崭新的问题,可以分为若干领域。”谭晓生告诉《每日经济新闻》记者,在内容安全方面有一个新的领域叫认知安全,就像俄乌战争的时候各种各样虚假的视频、音频频繁出现,其实会对国家政治安全造成很大影响。

但现在出现一种方法叫“以魔法打败魔法”,用大模型来对虚假内容进行检测。“随着大模型在各种领域的应用,对大模型本身的漏洞攻击等,现在也变成一个网络安全新领域。”谭晓生说。

不久前,中国信息通信研究院发布的我国网络安全产业发展洞察指出,当前,网络安全产业已成为支撑培育新质发展动能的重要载体。网络安全是发展的前提,而网络安全本身已经成为一个巨大的产业。2023年中国网络安全市场规模约为640亿元,同比增长1.1%。

这一极端重要的行业,也是各地竞逐的新赛道。从2021年以来,CCS成都网络安全大会以“会展赛”相结合的方式,推动网络安全产业“建圈强链”,成效不断凸显。2023年,成都网络安全产业规模首次突破500亿元,增速超过20%。

与此同时,一批高能级的载体平台不断在成都落地,成为吸引网络安全产业高端聚集的重要引擎。2022年,首个跨省域的国家级网络安全产业园区——国家网络安全产业园区(成渝)正式获工信部批复。2024年9月11日,在国家网络安全宣传周举办之际,四川省密码科创产业园“密码与网络安全”主题宣传活动暨开园仪式在成都高新区举行,助力商密产业健康快速发展。

目前,成都正积极申报国家网络安全教育技术产业融合发展试验区等国家级载体,进一步夯实成都网络安全产业发展良好基础。

在张瑞冬看来,当地在网络安全产业补贴政策、技术赋能等方面都提供较大支持,现在公司的本土员工比例已经高达80%以上,“成都有一个先天的优势,就是高校很多,网络安全领域的人才是不缺的。对于科技型企业而言,解决人的问题其实就解决了大部分问题”。

这也是成都发力网络安全产业的最大底气。目前,四川大学、电子科技大学、成都理工大学、成都信息工程大学等在蓉高校已设立网络空间安全学院,形成覆盖博士、硕士、学士“多层次”网络安全人才培养体系。

“成都是很多安全从业者喜欢的一个城市,安全团队其实特别多。”谭晓生认为,成都天然具备发展网络安全产业的一些条件。从安全人员数量和安全团队数量,或者安全攻防上的技术创新,其实成都都不缺。

不过,跟北京等地相比,当地安全团队大多数是小团队,除了电科网安外,缺少大的网络安全公司。“网络安全产业要起来的话,可能更需要一些龙头的带动。如果期望小的安全团队自己长成龙头,这个周期可能是非常漫长的。”

谭晓生说,从发展网络安全产业角度来讲,下一步成都要着力扶持培育大的网络安全公司,这对带动产业发展、技术创新都是必不可少的。