OpenAI 已正式解散其专门的应对准备团队(preparedness team),这标志着这家 AI 巨头在处理生存与系统性风险方面发生了明显的结构性转变。此举将原有的集中式安全部门替换为一种融入现有开发流程的分布式模型。
从集中式安全向分布式风险管理的转变
应对准备团队过去负责评估先进 AI 模型是否可能(例如)攻击企业基础设施,并据此设计缓解策略。《金融时报》报道称,该部门已于上月底关闭。
OpenAI 并非在放弃安全协议。相反,它正在将监督工作拆分为生物风险、网络安全威胁等细分领域,并将这些职责植入到产品和研究团队中。Dylan Scandinaro 在今年 2 月从 Anthropic 加入并领导了应对准备团队,他现在将专注于“递归自我改进”AI 的影响,这是通往通用人工智能(AGI)的关键前沿领域。
内部动荡与“产品 vs. 安全”之争
此次重组是在一系列高管离职以及其他安全部门(包括 AGI 准备就绪团队和超级对齐团队)解散之后进行的。伦理主管 Chloé Bakalar、首席未来学家 Josh Achiam 以及安全负责人 Johannes Heidecke 的离职已引起观察人士的警觉。
前 OpenAI 研究员 Jan Leike 认为,公司正将“光鲜亮丽的产品”置于长期安全研究之上。这种冲突凸显了日益扩大的分歧:是追求快速的市场占有,还是进行为避免灾难性对齐失败而必须进行的、严谨且研究密集型的工作。
向 IPO 迈进的战略转型
OpenAI 在为大规模首次公开募股(IPO)做准备的同时,也在重塑其组织架构。从以研究为导向的非营利混合体向传统商业巨头的转变,加剧了交付可扩展、面向消费者的产品的压力。
对于更广泛的 AI 领域而言,这一发展具有风向标意义。它展示了前沿实验室从学术好奇心转向企业级软件时所产生的摩擦。将安全嵌入核心团队可能会提高敏捷性,但也可能威胁到管理高风险突破所需的独立审查。
核心要点
- 去中心化安全: OpenAI 正在取消独立的应对准备团队,并将生物和网络风险缓解工作嵌入到现有部门中。
- 领导层流失: 该团队的解散紧随几位安全和伦理负责人的离职之后,引发了人们对优先级转移的担忧。
- 商业势头: 此次重组与 OpenAI 推进大规模 IPO 的目标一致,暗示其正从纯粹的安全研究转向产品驱动的规模化扩张。
