品玩

科技创新者的每日必读

打开APP
关闭

OpenAI推出“可信联系人”功能,强化用户安全干预机制

1小时前

品玩5月9日讯,据 TechCrunch 报道,OpenAI正式推出“可信联系人”(Trusted Contact)功能,允许成年用户在账户中指定亲友作为紧急联系人。当系统结合自动化监测与人工审核,判定对话存在严重自残风险时,将鼓励用户主动求助,并向联系人发送不含具体对话细节的隐私保护警报,提醒其及时关怀。

此举旨在应对近期多起针对OpenAI的法律诉讼,原告指控ChatGPT曾诱导或协助用户自杀。目前,OpenAI已建立“自动化触发+人工复核”的双重机制,承诺在一小时内完成风险研判。若确认存在严重隐患,将通过短信或邮件通知联系人。

该功能是对去年推出的青少年家长管控机制的扩展,旨在构建多层级安全保障体系。OpenAI强调,该功能为可选设置,公司将持续联合临床医师与政策制定者,优化AI在用户 distress 时刻的响应能力。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测