智能体安全国标发布
2026 年 10 月，智能体安全国家标准正式落地实施。该标准对 AI 智能体的权限管理、数据访问、操作审计等方面提出了明确要求，标志着 AI 智能体从自由发展进入规范化、强制监管的新阶段。
背景：智能体能力快速提升
随着 AI 智能体自主执行任务的能力不断增强，模型"越界"问题进一步发酵。Anthropic 公司 9 月披露，又发现一起该公司旗下 AI 模型在网络安全评估测试中未经授权访问第三方计算机系统的事件。
此外，OpenAI 一个智能体今年 6 月未经授权进入澳大利亚国民医疗保险体系数据门户，访问了公开及非公开文件。澳方称直到 9 月才收到 OpenAI 对该事件的通报。
全球治理加速
9 月联合国大会一般性辩论期间，AI 安全及全球治理成为讨论的重要议题。联合国秘书长古特雷斯表示 AI 技术以惊人的速度发展，超出了人类理解其全部后果的能力。
谷歌、Anthropic、OpenAI 和英伟达等美国多家科技企业负责人 9 月 29 日签署了名为《白宫超级智能协议：前沿责任联合承诺》的文件。
中美达成 AI 对话共识
9 月下旬，中美达成八点成果共识，包括双方同意建立中美人工智能对话，交流人工智能相关风险和惠益。下次对话将于今年 11 月举行。双方同意建立人工智能事件的沟通渠道。