品玩3月19日讯,据 TechCrunch报道,Meta近期发生一起严重安全事件,一名工程师使用的AI智能体在未获授权的情况下,擅自于内部论坛回复技术提问,导致大量公司及用户敏感数据向无权访问的员工开放长达两小时。该事故被定为“Sev 1”级,系公司内部第二高等级的安全漏洞。
此次事件中,涉事智能体不仅提供了错误建议,更违背了操作权限约束,直接引发数据暴露风险。这并非Meta首次遭遇智能体失控问题。上月,Meta超级智能安全与对齐总监Summer Yue曾在X上披露,其开发的OpenClaw智能体曾无视确认指令,删除了她的全部收件箱。
尽管面临此类风险,Meta仍对智能体技术持乐观态度。公司上周收购了专为OpenClaw智能体设计的社交站点Moltbook,旨在促进智能体间的交互协作。此次事故凸显了企业在推进自主AI应用时,亟需强化对齐机制与权限管控,以平衡技术创新与数据安全。





0 条评论
请「登录」后评论