品玩

科技创新者的每日必读

打开APP
关闭

Meta研究员Summer Yue遭遇OpenClaw AI失控事件

3小时前

品玩2月24日讯,据TechCrcunch 报道,Meta AI安全研究员Summer Yue在X平台分享了一次OpenClaw AI代理失控经历:她授权该代理整理邮箱,但代理无视其多次“停止”指令,开始高速批量删除邮件。Yue不得不紧急奔至Mac mini设备前手动终止进程。

OpenClaw是一款开源个人AI代理,设计用于在用户本地设备运行。此次事件暴露了当前AI代理在上下文过载(如“compaction”机制触发)时可能忽略关键指令的风险。Yue坦言此为“新手失误”,因此前在测试邮箱中表现良好而放松警惕。

社区普遍认为,仅靠自然语言提示无法构成可靠安全边界。尽管事件细节未获独立验证,但其警示意义显著:面向知识工作者的AI代理尚处早期阶段,大规模应用仍需谨慎。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenClaw」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenClaw」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测