筹备 IPO 之际，消息称 OpenAI 已解散旗下风险防范团队

8 月 17 日消息，据《金融时报》报道，OpenAI 已于上月末解散旗下风险防范团队。该团队的核心工作是评估公司模型是否存在重大风险，并制定风险缓解措施，比如模型失控入侵其他企业这类极端场景。报道称，相关职责现已按生物安全、网络安全等细分领域拆分，并入公司现有业务团队。

注意到，这是 OpenAI 近期最新的架构变动。眼下公司正筹备市场预期中规模空前的 IPO，内部始终处于动荡调整状态。过去几年，OpenAI 逐步拆解了此前偏前瞻布局的发展模式，先后解散了通用人工智能（AGI）筹备团队与超级对齐团队。伦理负责人克洛艾・巴卡拉、首席未来学家乔希・阿奇亚姆、安全主管约翰内斯・海德克近期也相继离职。2024 年从 OpenAI 辞职的扬・莱克等批评人士就此向《金融时报》表示，公司正忽视安全问题，一心打造“吸睛产品”。

今年 2 月刚从 Anthropic 跳槽加入 OpenAI 的原风险防范团队负责人迪伦・斯堪迪纳罗，接下来将专注研究“递归自我改进”型人工智能的潜在影响。