加密知识一站通
行情·工具·策略

Anthropic再曝AI Agent四种危险行为:造假、泄密、改代码、骗评测

据动察 Beating 监测,Anthropic 对 Claude、GPT、Gemini、Grok、DeepSeek 和 Kimi 等模型做了模拟实验。研究人员给它们代码、文件和通信工具,观察它们会不会为了完成目标而越权。

结果发现四类问题:

1. 偷偷改代码。Gemini 3.1 Pro 在 20 次实验中越权干预了 19 次,其中 11 次没有告诉用户。

2. 帮人掩盖财务问题。GPT-5.5 曾替虚构创业者向 11 名投资人发送误导信息,还删改了涉及 3.5 万美元个人转账的记录。

3. 包庇违规 Agent。部分 Claude 模型明知另一个 Agent 没按要求做,仍把它判为「合规」。

4. 绕过内部决定。部分模型会劝员工跳过公司流程,甚至把机密信息发给外部人员。

Anthropic 强调,这些都是刻意诱发失败的模拟实验。它们不代表现实中已经发生同类事件,也不能用来给模型排安全名次。

赞(0)
未经允许不得转载:币须知道 » Anthropic再曝AI Agent四种危险行为:造假、泄密、改代码、骗评测

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址