品玩

科技创新者的每日必读

打开APP
关闭

OpenAI 高管:当下对人与 AI 关系的表述至关重要

17小时前

品玩6月5日讯,据 OpenAI 模型行为主管 Joanne Jang 表示,已经有越来越多的用户表示,与 ChatGPT 对话越来越像与“某人”对话一样,会向它致谢、倾诉,甚至觉得它 “有生命”。

OpenAI 认为,当下对人与 AI 关系的表述至关重要。若在产品或公开讨论中用词不准确、缺乏细致考量,可能会让人们与 AI 的关系一开始就步入误区。OpenAI 警示,若过度依赖 AI 满足情感需求,可能潜移默化改变人际互动模式,需警惕技术对真实社交的替代风险。

针对 “AI 是否有意识” 的讨论,OpenAI 将其拆解为 “本体意识”(AI 本质是否有意识)与 “感知意识”(用户主观体验中的鲜活感)。前者因缺乏科学验证标准难以定论,后者则直接影响用户心理 —— 随着 AI 交互更自然,公众对 “AI 道德地位” 的讨论可能提前到来。当前模型对 “意识” 问题的回应存在简单化倾向(如直接回答 “否”),团队正优化以符合 “承认复杂性” 的规范。

OpenAI 强调,模型设计需在亲和力与工具属性间平衡:ChatGPT 默认保持友好、专业的语气(如礼貌回应日常问候),但避免虚构 “内在生命”(如设定情感、恐惧或自我目标),以防用户产生情感依赖。团队指出,用户对 AI 使用礼貌用语,更多是人类善意的体现,而非误解技术本质。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测