币须知道6 月 5 日，Anthropic 公司呼吁各大顶尖人工智能实验室考虑放缓研发步伐，并指出 AI 系统的演进速度极快，可能很快就能在无需人类干预的情况下实现自我改进，而这种能力恐将引发重大的社会风险。
Anthropic 在一篇博客文章中披露了内部数据，详实记录了其最先进的模型正以何等惊人的速度实现性能提升。文章指出，AI 模型的进步似乎正朝着「递归式自我改进」的方向迈进，即 AI 系统能够在无需人类干预的情况下实现自主优化。文章提议达成一项全球协议，明确如何可能放缓人工智能的研发速度，并建立一种机制来验证竞争对手是否遵守该协议。
对此，Serenity 将其解读为竞争策略，旨在「让对手停步而自身领先」，并表示这类呼吁反而会激发各国加速 AI 投资，推动医学、数学等领域的深刻变革，尽管存在安全担忧。
———————————
点击下方原文链接，加入动察 Beating · 飞书 AI 新闻渠道，7×24 小时不间断监测全球 AI 热点与新闻。
