品玩6月8日讯, OpenAI近日宣布推出一项名为“锁定模式”(Lockdown Mode)的全新安全功能,为ChatGPT提供额外防护,抵御提示注入攻击。此类攻击通常将恶意指令隐藏在网页或其他内容来源中,诱导聊天机器人执行非预期操作。
启用该模式后,ChatGPT将禁用实时网页浏览功能,仅允许访问缓存内容;同时限制从网络检索和展示图片(但生成功能不受影响),并关闭深度研究和智能体模式。OpenAI坦言,即便开启此模式,系统仍可能受到提示注入的影响,例如恶意指令潜伏于缓存内容或上传文件中,进而影响回复的行为与准确性。但该功能的核心目标是降低敏感数据在交互过程中被外泄的风险。
OpenAI表示,锁定模式并非面向所有用户,而是专为处理敏感数据、希望严格防范数据泄露风险的个人及组织设计。目前,该功能正逐步向自助式ChatGPT Business账户及部分符合条件的个人账户开放。





0 条评论
请「登录」后评论