字节跳动单独设立大模型安全部门 把控智能体风险

　　【财新网】10月13日，财新从字节跳动处了解到，字节AI模型部门Seed内部通知称，将成立一个新的部门，负责把控大模型的安全风险问题，该部门负责人直接汇报给字节跳动大模型“一号位”吴永辉。

　　新部门的名称为“Seed Model - Alignment &Preparedness”，由严林负责。严林是字节跳动Seed核心高管之一，近年负责豆包大模型对齐（Alignment）方向。

　　所谓“对齐”，即指让AI遵守人类真正的意图，在确保安全的前提下行动。从产品角度，这会体现在豆包这类聊天机器人（chatbot）的输出内容合规性、问答以及价值观层面的质量上。