品玩

科技创新者的每日必读

打开APP
关闭

字节跳动Seed成立模型安全与对齐部门

7小时前

品玩10月14日讯,据科创板日报报道,字节跳动Seed近日发出内部邮件,宣布成立“Seed Model-Alignment&Preparedness”部门,由严林负责,汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。

该部门旨在加强安全与对齐方向投入,使模型行为与人类意图和安全约束保持一致,提升Agent Model(智能体模型)安全能力,并防范CBRN(化学、生物、放射、核)等前沿能力风险。

Seed安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入,并加强与外部研究机构和第三方评测的公开合作。其目标是使前沿模型在安全与授权约束内有效完成任务,随着模型能力和自主性增强,持续降低滥用及行为偏离风险,建立面对未知风险的全面安全体系。

取消 发布

下载品玩App,比99.9%的人更先知道关于「字节跳动」的新故事

下载品玩App

比99.9%的人更先知道关于「字节跳动」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测