产业变革
OpenAI启动外部机构嵌入式评估第一阶段
- 发布日期
- 来源
- OpenAI博客
摘要
OpenAI宣布与Apollo Research、METR、Transluce、Goodfire四家独立评估机构签署“嵌入式评估”第一阶段协议。评估机构将深度访问模型检查点、训练与评估数据、监控系统以及与研究人员的访谈等内部资源,独立审查对齐与安全保障。文章还公布了驻场工作、安全规则、董事会下属安全与安保委员会的监督及争议解决流程,并称该计划是履行白宫超级智能协议中独立评估承诺的一部分。
与我们工作的关联
评估正从外部测试走向评估者进入开发方内部进行验证。实际成效要等公开报告出炉才能判断,但它是AI行业验证与监督方式开始改变的标志性首例。
本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读,未来预测代表来源的观点。