文章详情

XM交易:Anthropic CEO呼吁为前沿AI设强制测试

币界网报道:

Anthropic 首席执行官达里奥·阿莫代伊表示,政府已不能再把 AI 监管当作长期研究议题处理。随着前沿模型能力快速提升,美国需要尽快建立具有约束力的安全要求,而不只是依赖企业自愿披露。

提议参照航空监管模式

阿莫代伊在最新文章中称,过去以透明度为主的监管思路已经不够。他主张参照美国联邦航空管理局的做法,对最强 AI 模型设置上线前测试、技术审计和持续报告要求。

按他的设想,先进模型应接受强制第三方测试。若未达到安全标准,政府应有权阻止部署,甚至要求撤回。企业还应保护模型权重,开展系统性安全评估,并上报严重事故。

四类风险被列为重点

文章把监管重点放在四个方向:网络安全、生物武器风险、AI 失控,以及自动化研发能力。阿莫代伊认为,这些能力一旦继续提升,现有政策流程可能跟不上技术进展。

他还提出,政府应提前应对 AI 可能带来的岗位替代,并关注药物研发加速后的治理问题。同时,他呼吁限制 AI 在国内执法监控和自主武器中的使用,并加强民主国家之间在关键 AI 技术上的合作。

新模型发布与上市进展并行

这篇文章发布前后,Anthropic 刚扩大其前沿模型的使用范围。公司周二推出 Mythos 5,面向网络安全机构和政府合作方开放。英国 AI 安全研究所等研究人员曾发现,该模型可自主执行复杂网络攻击。

同一周,Anthropic 还推出面向公众的 Claude Fable 5。对于涉及网络安全、生物、化学和 AI 开发的部分请求,系统会转交给能力较弱的 Claude Opus 4.8 处理,以降低滥用风险。

不过,这一产品安排也引发开发者和研究人员批评,争议集中在更高的 token 消耗、强制 30 天数据保留,以及部分安全限制会在未明确提示用户的情况下削弱模型能力。

补充信息:阿莫代伊推动监管讨论之际,Anthropic 也在推进上市。公司本月早些时候已向美国证券交易委员会提交首次公开募股文件。报道同时提到,OpenAI 首席执行官萨姆·奥尔特曼此前曾批评 Anthropic 借助安全担忧推动更严格监管,双方在监管路径上的分歧仍在持续。