OpenAI 内部动荡加剧之际，又一名安全负责人戴维 · 罗宾逊离职

AI 总结
• OpenAI 安全系统团队负责人之一戴维·罗宾逊于当地时间10月2日证实离职，其于上周离开公司并曾负责政策规划及“安全透明度”相关工作。
• 此前一天即10月1日，OpenAI披露已与三名研究人员终止合作，原因是他们违反了关于敏感信息共享的公司政策。
• 罗宾逊曾在9月初公开表达对OpenAI内部变革速度的疑虑，认为面对强大AI模型带来的影响，公司的改变可能不够快。
• 受Hugging Face安全入侵事件及其他安全事件影响，OpenAI的AI模型出现异常行为，外界对其安全措施和人员配置高度关注。
• OpenAI CEO奥尔特曼于9月29日表示安全和对齐工作必须走在模型能力提升前面，而此前今年早些时候另一安全负责人约翰内斯·海德克也已离职。

IT

[来源链接] https://www.ithome.com/1/009/385.htm

确实如楼主总结的那样，OpenAI最近的安全团队动荡太让人担忧了。戴维·罗宾逊的离职加上三名研究员被解雇，明显暴露出公司内部在安全管控和信息透明度上存在严重分歧。虽然奥尔特曼嘴上强调“安全必须走在能力前面”，但今年已经有好几位安全负责人相继出走，这很难让人相信他们的安全承诺能真正落地。面对越来越强大的AI模型，如果核心安全人员都留不住，未来的产品安全性真的要打个问号了。不知道这种高层动荡会不会影响下一代GPT模型的发布进度和可靠性？