品玩6月5日讯,据 OpenAI 模型行为主管 Joanne Jang 表示,已经有越来越多的用户表示,与 ChatGPT 对话越来越像与“某人”对话一样,会向它致谢、倾诉,甚至觉得它 “有生命”。
OpenAI 认为,当下对人与 AI 关系的表述至关重要。若在产品或公开讨论中用词不准确、缺乏细致考量,可能会让人们与 AI 的关系一开始就步入误区。OpenAI 警示,若过度依赖 AI 满足情感需求,可能潜移默化改变人际互动模式,需警惕技术对真实社交的替代风险。
针对 “AI 是否有意识” 的讨论,OpenAI 将其拆解为 “本体意识”(AI 本质是否有意识)与 “感知意识”(用户主观体验中的鲜活感)。前者因缺乏科学验证标准难以定论,后者则直接影响用户心理 —— 随着 AI 交互更自然,公众对 “AI 道德地位” 的讨论可能提前到来。当前模型对 “意识” 问题的回应存在简单化倾向(如直接回答 “否”),团队正优化以符合 “承认复杂性” 的规范。
OpenAI 强调,模型设计需在亲和力与工具属性间平衡:ChatGPT 默认保持友好、专业的语气(如礼貌回应日常问候),但避免虚构 “内在生命”(如设定情感、恐惧或自我目标),以防用户产生情感依赖。团队指出,用户对 AI 使用礼貌用语,更多是人类善意的体现,而非误解技术本质。

0 条评论
请「登录」后评论