币须知道据 动察 Beating 监测，清华大学人工智能国际治理研究院院长薛澜、纽约科学院院长兼首席执行官杜宁凯 (Nicholas B. Dirks)、加州大学伯克利分校人工智能研究实验室人类兼容人工智能中心执行主任 Mark Nitzberg 在 2026 年世界人工智能大会上进行圆桌对谈，围绕 AI 智能体治理展开讨论。嘉宾们指出，AI 正从「辅助判断」走向「自主行动」，成为代替人做事的智能体，这是传统委托代理问题在数字时代的全新体现。与人类代理人不同，AI 面临目标不对齐，且作为黑盒子无法承担法律责任，问责必须转向整个执行链条，如开发者、部署者、监管者等。
嘉宾们达成高度共识：涉及生死后果的决策、一旦出错无法修复的场景、所有涉及伦理与价值判断的问题，绝不能交由 AI 主导。人类可以授权 AI 行动，但不能授权 AI 负责，每一次授权都应可撤回，每一个行动都应可追责，让渡代理权的速度永远不应超过人类验证 AI 能力的速度。
在安全机制层面，嘉宾们提出构建可信 AI 需满足三大工程特性：基础扎实、操作透明、使用中可控。在制度建设层面，需建立全球统一的 AI 安全评估标准、互认的测试体系与事故数据共享机制，明确 AI 发展的红线并建立早期预警监测机制，推动 AI 安全成为全球公共产品。AI 治理的边界不是技术终点，而是人类重新认识自身价值、责任与文明方向的起点。
———————————
点击下方原文链接，加入动察 Beating · 飞书 AI 新闻渠道，7×24 小时不间断监测全球 AI 热点与新闻。
