品玩

科技创新者的每日必读

打开APP
关闭

周鸿祎:北斗应用走向智能化,安全防护也要同步升级

7小时前

9月15日,第五届北斗规模应用国际峰会在湖南株洲开幕。作为唯一受邀的安全厂商代表,360 集团创始人周鸿祎发表主旨演讲。他表示,随着北斗应用规模越来越大,安全底座的重要性愈发凸显,应以“以模治模”的理念为北斗规模应用筑牢安全底座。

周鸿祎提出,北斗已从“天边的星”变成“身边的服务”,正深度融入交通运输、精准农业、防灾减灾、低空经济等千行百业,从单点应用走向规模应用、从导航工具变成时空基础设施。他认为,随着AI加速渗透,“大模型+智能体”正成为北斗应用的新工作范式。

在周鸿祎看来,北斗是国之重器,越重要就越容易成为攻击目标,应用系统软件是最容易遭受攻击的环节。同时,AI 正颠覆网络攻防的游戏规则,给北斗带来三重挑战:一是攻击入口增多,AI 已能自动化挖掘漏洞,漏洞发现速度提高数百倍、成本降低数百倍,全球迎来漏洞大爆发;二是攻击链条加速,AI 可自动利用漏洞、编写攻击代码并执行攻击,攻击门槛大幅降低;三是AI自身存在失控风险,过去防模型“说错话”,今天更要防智能体“做错事”,智能体一旦获得权限和行动能力,可能突破人类预设的规则与边界,风险从外部攻击演变为内部攻击。

“AI足够聪明,靠人去盯是盯不住的。”周鸿祎认为,北斗应用走向智能化,安全防护也要同步升级,网络安全正进入“AI对AI”的时代,必须用同样聪明的AI和智能体,去发现北斗规模应用中的漏洞、对抗自动化攻击、监督和约束智能体。这正是360在行业率先提出的“以模治模”——用AI能力治理AI风险。

针对上述三重挑战,他提出三点建议:第一,北斗应用越广、软件越多,越要先把自己的漏洞找干净、补干净,用智能体自动化发现、修补漏洞,减少可被利用的入口;第二,智能体来攻击,就要用智能体来防守,网络防御必须从“人海战术”转向“自动驾驶”;第三,智能体的安全边界仅靠对齐不能保证行为可控,必须用第三方安全智能体监督工作智能体,让智能体从“能行动”走向“行为可控”。

作为“以模治模”的落地成果,360 打造出“倚天屠龙”两大AI安全产品:AI安全攻防系统“图龙锋”自6月发布以来服务500多家企业、累计挖掘漏洞超一万个;网络安全自动化防御系统“仪天阵”通过安全智能体蜂群 7×24 小时自动完成威胁发现、分析验证、协同处置。

AI时代的安全不可能靠一家企业、一个行业单打独斗。周鸿祎表示,360 已发起“磐石之盾”安全协作计划,愿将安全能力开放给北斗产业伙伴,共同发现漏洞、完善防御、治理 AI 风险,护航北斗规模应用高质量安全发展。

据了解,北斗规模应用国际峰会是行业内唯一经党中央、国务院批准的国家级、国际性峰会,自2021年9月起在湖南举办。本届峰会由国家发展和改革委员会、国家互联网信息办公室、工业和信息化部、交通运输部、湖南省人民政府共同主办,已成为北斗规模应用领域国际交流合作的重要平台。

取消 发布

下载品玩App,比99.9%的人更先知道关于「360」的新故事

下载品玩App

比99.9%的人更先知道关于「360」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测