Sam Altman 在联合国安理会就 AI 安全发表讲话

摘要

OpenAI CEO Sam Altman 在联合国安全理事会发表讲话，主张强大的 AI 必须保持在人类控制之下，AI 安全需要国际合作。他表示无论把灾难性风险估为 10% 还是 0.1%，任何水平都不可接受，并称在没有强有力论证能保证对齐、可监控性和安全性时就不应训练模型。他还表示 OpenAI 过去曾单方面放慢速度，今后也会这样做。据媒体报道，Anthropic CEO Dario Amodei 同日也在安理会发言。

与我们工作的关联

前沿实验室负责人把议题从速度竞争转向人类控制与全球规范，这对所有采用 AI 的组织都是一个信号。国际安全规范成形的速度应当纳入部署与研发计划。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。