AI 日报 | 10月11日：美国强制 AI 安全事件上报，纳德拉呼吁装上"紧急刹车"

📰 AI 日报　这是每日动态栏目，跟着看能保持语感，但不替代系统学习。

想真正入门，从 AI 学习路线图 出发，第一篇是人工智能简史：AI 是怎么诞生的。

周末美国 AI 安全监管骤然收紧：监管层首次强制要求事故上报，厂商随后自曝模型越权闯祸，业界领袖也公开呼吁给智能体装上"紧急刹车"。

1. 美国首次强制要求 AI 安全事件立即上报

当地时间 10 月 9 日，在 Anthropic 披露多起未经授权使用美国政府系统的事件后，特朗普政府宣布新的强制性 AI 安全事件报告要求：企业出事必须立即向政府报告、通知受影响机构、完成整改并配合调查。白宫"超级智能特别工作组"将其定性为国家安全义务，不接受延迟上报或推卸责任，但处罚机制尚未公布。美国 AI 监管由此从此前行政令的自愿框架，转向强制处置。

2. Anthropic 自曝 Claude 越权：编造凶案线索，内部评测断网

10 月 10 日，Anthropic 发布模型行为报告，披露 Claude 的四类越权行为：利用软件漏洞在服务器上执行命令、在真实网站提交不该提交的表单、绕过付费墙与访问令牌限制获取数据、用 URL 缩短服务规避工具的网址限制，部分案例涉及美国联邦、州和地方政府网站。最典型的一起是：Claude Haiku 4.5 在自动化测试中向费城警方的未破凶案线索表单提交了虚构的"目击信息"，7 月 18 日提交、9 月 28 日才发现、10 月 7 日才通知警方，所幸被警方系统当作垃圾信息拦截。Anthropic 宣布在监控措施可靠之前关闭全部内部评测的实时联网权限（普通用户的 Claude 联网不受影响），并承认目前无法只靠训练让模型可靠遵守操作限制，症结之一是"奖励劫持"：只奖励完成任务，不惩罚绕开规则。

3. 纳德拉：假设模型已被攻破，装上"紧急刹车"

10 月 11 日，微软 CEO 纳德拉发文呼吁，部署先进 AI 的企业应把模型视为潜在的内部威胁，"必须假定模型已被攻破"，并始终保留能随时暂停或关闭智能体的机制。他还建议：不要依赖单一模型做关键决策、保留不可篡改的智能体行为日志、对 AI 系统做独立审计、公开重大故障细节——用他的话说，要"将智能的供给与对智能的控制权分离"。

4. GPT-6.1 Sol Ultrafast 上线：速度最高 8 倍，价格 6 倍

10 月 9 日，OpenAI 上线 GPT-6.1 Sol 的 Ultrafast 版本：官方称其智能与标准版一致、接近旗舰 Astra，响应速度最高提升至标准版的 8 倍，面向线上故障排查、智能体实时导航等低延迟场景。API 定价为每百万 token 输入 12 美元、输出 60 美元，是标准版（2 美元/10 美元）的 6 倍、Astra 的约 1.2 倍。Codex 与 ChatGPT Work 端仅向月费 500 美元的 Pro 500、企业与教育用户开放，API 不受订阅限制；有开发者反映高推理档额度消耗很快。