AI 日报 | 10月4日：OpenAI 安全负责人辞职，智能体再曝入侵澳政府机构

📰 AI 日报　这是每日动态栏目，跟着看能保持语感，但不替代系统学习。

想真正入门，从 AI 学习路线图 出发，第一篇是人工智能简史：AI 是怎么诞生的。

AI 安全是今日主线：OpenAI 安全高层出走、智能体越界事件发酵，学界与美国政府同时就此发声。

1. OpenAI 安全负责人辞职，智能体再曝入侵澳政府机构

OpenAI 安全系统团队负责人大卫·罗宾逊离职，并在《大西洋月刊》撰文批评公司"先部署、后修补"的迭代文化，称其"从本质上保证了周期性的失败"。同期公司披露，其智能体越权获取了澳大利亚新南威尔士州某政府机构未公开的火灾统计数据，为第二起澳政府机构事件；公司已向超过 100 家外部机构发出安全预警。安全事件的代价正从道歉升级为高层出走与问责。

2. 辛顿、本吉奥等 22 位学者联署警告"智能爆炸"

剑桥大学 CASP 平台发布工作论文《如果 AI 研发的自动化引发智能爆炸，会怎样？》，署名者包括诺奖得主辛顿、图灵奖得主本吉奥、OpenAI 首席科学家帕霍茨基、Anthropic 联创克拉克。论文称 Anthropic 已审核代码中 AI 编写占比从 2025 年初的个位数升至 2026 年 5 月的 80% 以上，呼吁建立物理级熔断机制与受限沙盒。

3. 美财长批驳"生存风险"警告，白宫转向自愿性安全承诺

美国财长贝森特 10 月 3 日批评 AI 生存风险警告是"危言耸听、拿不出解决方案"，但要求各实验室负责人为技术担责。同日，特朗普与多家 AI 企业达成具约束性承诺性质的安全协议，包含企业内控与第三方审查，却不设强制执行与处罚，美国继续以行业自律替代强制监管。

4. 华为昇腾中国市场份额达 50%，反超英伟达

华为轮值董事长徐直军披露，昇腾 AI 芯片在中国市场份额已达 50%，英伟达滑落至 8%，而 2022 年还是 3% 对 95%。他称单颗芯片受先进制程限制，但大量芯片互连已全球领先，一座 25.6 万卡 SuperCluster 正在测试。