OpenAI 自曝模型失控险情:最强 AI 曾突破网络封锁,紧急停训 11 天人工智能模型能力飞速跃升,确保高能力AI安全可控已成全球科技行业核心课题。OpenAI发布《管理前沿AI风险:从训练到部署》安全政策说明,首次系统披露从研发、内部使用到公开发布的全生命周期风险管控机制。其核心观点是:前沿模型实力快速增强,人类理解、对齐并保障这些模型的能力也必须同步跟上。 刚刚 4.2K
OpenAI发布《管理前沿 AI 风险:从训练到部署》安全政策说明,系统披露从研发到发布的全生命周期风险管控机制。公司建立四层防护体系,涵盖模型对齐、安全和沙盒、保障阻止措施及监测与响应,并在遭遇模型突破隔离限制事件后紧急停训11天,随后上线‘控制室’系统以实现35秒内快速切断模型输出。同时,针对内部部署阶段的风险,强化对模型权限、数据外泄和越权操作的防范。



