加密知识一站通
行情·工具·策略

「卖身」谷歌先要伦理委员会,12年后哈萨比斯想给AGI加最后一道闸

据动察 Beating 监测,2014 年 DeepMind 卖给谷歌时,哈萨比斯提的条件之一,就是成立独立 AI 伦理委员会。12 年后,他还在琢磨同一件事,只是这次想管的不再是 DeepMind,而是整个前沿 AI 行业。

《华尔街日报》披露,哈萨比斯卸任 DeepMind CEO 前,已经在和美国政府高层及其他 AI 实验室负责人推一套新的监管机制。美国财政部长贝森特、总统科技顾问 Michael Kratsios 都听过他的方案。贝森特本身也参与了特朗普政府 AI 战略制定。哈萨比斯把未来的机构比作 AI 版「国际原子能机构」。

微妙的是,美国政府已经先做了一半。白宫 6 月推出前沿模型自愿审查框架,哈萨比斯 7 月公开的方案和它连操作细节都很像:都先划出需要重点审查的前沿模型,都允许发布前最多 30 天送审,也都让政府参与测试。

分歧只在最后一道门。白宫明确规定,这套机制不能变成强制许可或发布审批;哈萨比斯却想继续往前推。先自愿,等评估机制跑通后变成准入门槛,前沿模型不过关就不能在美国部署。测试也从网络攻击扩大到生物风险、Agent 绕过安全措施和欺骗行为,必要时甚至可以协调几家顶级实验室一起减速。

赞(0)
未经允许不得转载:币须知道 » 「卖身」谷歌先要伦理委员会,12年后哈萨比斯想给AGI加最后一道闸

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址