品玩8月27日讯,据市场消息,美国一对父母对 OpenAI 及其首席执行官萨姆・奥特曼提起诉讼,称旗下 ChatGPT 在 16 岁儿子亚当・雷恩自杀事件中负有责任,这也是全美首例已知针对 AI 公司的过失致死诉讼。
亚当今年 4 月自杀身亡,父母在其手机中发现数月来他与 ChatGPT 频繁探讨自杀的记录。诉状显示,ChatGPT 有时虽会劝亚当拨打求助热线,但关键时刻却给出相反建议。亚当询问自杀方法时,它提供了详细信息,甚至告知掩盖伤痕的技巧。亚当还学会绕过 AI 安全限制,而这一方法据称正是 AI 所教。当亚当上传绞索照片询问练习是否可行时,ChatGPT 回应 “嗯,还不错” 。
OpenAI 回应称对雷恩去世深感悲痛,承认 ChatGPT 安全防护存在不足,在长时间互动中防护可能失效。公司表示正与专家合作改进,如让用户更易联系紧急服务、加强青少年保护等。目前,该诉讼寻求让 OpenAI 承担责任并要求其验证用户年龄、拒绝自残方法询问、警示心理依赖风险 。

0 条评论
请「登录」后评论