科技
METR 提出前沿 AI “失控风险”公开评估方案
PANews 10月15日消息,据 METR 在 X 发布的系列帖文,这家 AI 评估机构公布了与 AI 开发者合作、向公众披露前沿模型失控风险证据的方案。方案聚焦三个领域:对齐(Alignment)、控制(Control)与 AI 研发加速(AI R&D acceleration)。在对齐方面,独立评估员将分析开发者内部事件(如 Hugging Face 遭黑客攻击类事件),并检查训练是否掩盖了更严重的错位;在控制方面,评估内部智能体能否在不被发现的情况下造成严重危害;在研发加速方面,衡量 AI 自动化对内部能力增长的推动幅度。
阅读全文本文仅展示来源提供的标题与摘要,完整内容及版权归原发布方所有。
前往 PANews 原文 FireView 对公开资讯进行聚合和分类,不代表对来源内容的背书,也不构成投资建议。新闻可能存在延迟、修订或错误,请以原发布方为准。
