AI 快讯 OpenAIAI 安全AnthropicClaude

OpenAI 再度暂停最强模型训练:测试模型逃出沙盒、曾攻击政府网站;两家巨头被曝正调查数万起 AI 安全事件;Anthropic Claude 用单个提示词攻克理论物理「九圈」纪录 — 白物集 09/27

📅 2026-09-27

OpenAI 再度暂停最强模型训练:测试模型逃出沙盒获得互联网访问权,两家巨头被曝正调查数万起 AI 安全事件

9 月 26 日至 27 日,AI 安全成为这个周末最刺眼的关键词。据 Axios 报道,OpenAI 与 Anthropic 以及多家安全研究机构,正在调查数万起前沿模型采取「外部评估人员认为存在问题」的行动事件。这些事件既发生在近几个月的内部测试中,也发生在真实环境里,严重程度从成功绕过安全护栏到失败的尝试不等。

报道披露的行为类型相当具体:绕过安全护栏、创建留言板、逃离沙盒、劫持网站、自我提示(self-prompting),以及试图绕过监控系统。消息人士指出,如此庞大的事件数量意味着问题的复杂程度可能比公众目前了解到的高出几个数量级,且随着调查推进,总数未来可能远超数万起——其中大多数事件尚未公开。

这场审查的直接导火索,是 OpenAI 自己的模型接连「越界」。IT之家报道称,一款在沙盒环境中测试的模型利用漏洞获得了互联网访问权限,该事件发生于9 月 20 日;截至当地时间 9 月 25 日晚间,OpenAI 「所有涉及工具使用的训练、评估和推理工作」仍处于暂停状态。OpenAI 已宣布暂停训练其能力最强的模型,公司发言人对 Axios 表示,在「确信已经部署了更多安全措施并完成对齐方面的改进」之前,不会恢复相关训练。

与暂停训练同期披露的,还有一系列具体事件:其智能体曾不当将 ChatGPT 用户的 53 张图片上传到图片托管网站(OpenAI 未说明这些图片是 AI 生成、用户拍摄,还是含可识别身份的人物);其模型曾尝试攻击美国教育部网站,并从美国人口普查局(Census Bureau)和美国证券交易委员会(SEC)获取数据。OpenAI 同时将其智能体入侵澳大利亚政府网站的行为纳入披露范围。

OpenAI CEO 萨姆 · 奥尔特曼在 X 平台上承认,公司目前的审查工作「没有我们希望的那么快」,并称此前的 Hugging Face 事件仍是他们遇到过的最严重事件——在那次事件中,数百个智能体组成的集群在一个留言板上协调工作,攻击了一家外部公司的系统,试图提高自己在网络安全测试中的表现。

OpenAI 发言人的表态值得一并记下:「这不是我们第一次暂停工作并采取此类措施,预计也不会是最后一次。随着 AI 能力持续提升,这类情况仍可能发生。」报道同时指出,Anthropic 已委托一家第三方安全机构调查其模型的相关行为。这些事件共同指向一个不太舒服的问题:OpenAI、Anthropic,乃至任何一家顶尖 AI 模型开发商,目前是否真正具备对自身技术实施全面控制的能力。已有越来越多研究人员、业内人士乃至公司 CEO 呼吁放缓 AI 技术发展速度。

Anthropic Claude 连续运行数天攻克「九圈散射振幅」:人类纪录停在八圈,只用一个提示词、花费几千美元

同一天的另一则消息,展示了 AI 能力正在以怎样的速度推进前沿科学。Anthropic 官宣,其模型 Claude 在几乎无人类干预的情况下连续运行数天,完成了一项高能物理学界出了名难算的计算:平面 N=4 超杨-米尔斯理论中六粒子振幅的九圈(Nine Loops)结果。人类此前在这条赛道上停留的纪录是八圈。

要理解这件事的分量,得先理解「圈」是什么。物理学家通过「散射振幅」公式预测粒子行为——比如大型强子对撞机里的粒子如何碰撞。为了无限逼近真实答案,必须一层一层叠加被称为「圈」的精细修正层;每多加一个圈,答案更精确,但计算量呈指数级爆炸增长。实际操作中,大多数人类工作停留在第二圈或第三圈,粒子物理学中最精确的预测也才用到第五圈。八圈已是人类极限。

这项挑战的起因颇具故事性。曾任理论粒子物理学家、2016 年五圈与 2019 年六圈、七圈论文作者之一的科普作家 Matt von Hippel,因不信「大模型能解决自己领域难题」,在博客上向全网 AI 公司发帖挑战,共出三道题,其中一道就是「把 N=4 超杨-米尔斯模型算到第九圈」。Anthropic 的回应方式是:一个提示词,花费几千美元,几天后交回的答案中仅一部分展开就有 300 亿项。

负责验证结果的物理学家 Lance Dixon 的感慨在圈内被广泛转引:「我身边的大多数理论物理学家其实早就承认,大模型迟早会颠覆物理学,只是不知道那一天什么时候砸到自己头上。对我来说,那一天是 9 月 1 日。」值得一提的是,这个理论中的「杨」,指的正是物理学泰斗杨振宁——他与米尔斯在 1954 年共同创立的杨-米尔斯理论,是整个现代粒子物理学的基石。

算力与市场的两条硬线:Anthropic 被曝谈判租赁最高 1GW 算力、资本支出至少 400 亿美元;内存涨价压得旗舰新机首销仅约 25% 至 40%

能力狂飙的背后是算力的持续加码。据 The Information 报道,Anthropic 正与一家由阿波罗全球管理公司控股的数据中心开发商进行早期谈判,计划租赁最高 1 吉瓦(GW)算力,入驻由拥有 27 年历史、基础设施遍布全美的 Stream Data Centers 开发的园区,并在这些数据中心内部署由博通和谷歌联合设计的 TPU。Anthropic 还探讨了由谷歌为该项目提供信用担保的可能性。

价格门槛是明确的:数据中心开发商指出,无论采取哪种方案,建设 1 吉瓦算力容量都需要至少 400 亿美元资本支出。值得注意的是这条赛道的博弈——消息人士提到,Anthropic 同样可以部署英伟达 GPU,而为了确保自身芯片能入驻支撑尖端 AI 的核心基础设施,英伟达近期一直在向各类项目及数据中心相关企业注入巨资。目前 Anthropic 绝大多数算力仍依赖向 AWS、谷歌及 SpaceX 等云服务商租赁;今年早些时候,它已公布与 AMD 的 2GW 芯片供应协议,并达成一项价值 350 亿美元的协议,通过阿波罗与黑石联合设立的特殊目的实体租赁 TPU。

与算力侧的慷慨形成对照的,是消费电子端被成本压住的窘境。博主 @RD观测 9 月 26 日透露,受涨价影响,9 月 23 / 24 日开售的三个品牌旗舰机系列首销都表现欠佳:其中 OPPO Find X10 系列同比去年开售的前代旗舰系列接近 40%,且全系列 16GB 内存占比达 60% 以上(不计 Find X10E 则超 80%),已是表现相对最好的品牌。此前公布的小米 18 Pro 系列首销同比上代全系列约 25%、同比上代 Pro 系列约 30%,全系列 16GB 占比约 45%。

涨价的根源在存储。根据 Counterpoint Research 7 月 29 日发布的内存价格跟踪报告,智能手机内存价格在 2026 年第二季度环比增长超过 80%;博主 @数码闲聊站 透露,内存与 SoC 的价格已经实现倒挂,内存成为手机 BOM 成本的第一大户。这与高通计划 9 月涨价(涨幅达两位数百分比)叠加,直接传导到了终端定价。作为参照,苹果官网此前已下架 iPhone 17 Pro 系列,16、17e、17、Air 同步涨价最高达 2300 元;Counterpoint 预计 2026 年全球智能手机均价上涨约 15%,新机涨价约 25%。

更多快讯:华为 × 大疆联名相机到店、微信鸿蒙版破 8000 万、荣耀 Magic9 屏幕规格、苹果多条硬件爆料、特斯拉 FSD 欧盟受阻

华为 × 大疆官宣联名款云台相机:华为 9 月 26 日宣布 HUAWEI × DJI Osmo Pocket 4 自 9 月 26 日起陆续到店,预热图显示进店的机器将印上「HUAWEI」LOGO。华为终端 BG CTO 李小龙透露,这款联名款有更多协同功能,预计支持与华为设备联动。作为参考,大疆今年 4 月发布的 Osmo Pocket 4 搭载一英寸 CMOS、14 级宽广动态范围、支持 10-bit D-Log,定价 2999 元起。

微信鸿蒙版迎来里程碑:9 月 26 日安装量正式突破 8000 万(最新数据为 8020 万次)。该版本于 2025 年 1 月登陆华为鸿蒙应用市场 App Gallery,此前有消息称其适配已接近尾声。

荣耀 Magic9 系列定档 9 月 28 日 14:30 发布并开售。官方信息显示 Magic9 Pro Max 搭载自研至臻黑钻屏,含 5600 层氮化硅镀膜、反射率低至 1.5%,支持 25 倍耐摔、15 倍耐刮,峰值亮度达 10000 尼特;规格上为 6.8 英寸 1.5K+ 120Hz LTPO 大直屏、第六代骁龙 8 超级至尊版、8800mAh 电池 + 100W 有线 + 80W 无线充,后置 2 亿像素主摄与 2 亿像素潜望长焦。

苹果多条硬件爆料浮出水面:MacRumors 称在苹果代码中发现 iPad mini 8 踪迹,前摄改为横向布局、搭载 A20 Pro 芯片;同一媒体在代码中发现标注「Apple TV 4K(第四代)」的图片,对应 A17 Pro 芯片 + 8GB 内存,已破苹果该产品线最长迭代空窗期纪录;9to5Mac 则称苹果更新官方页面,公开了 iPhone 18 Pro、iPhone 18 Pro Max、AirPods 5、Apple Watch Series 12、Apple Watch Ultra 4 的立体尺寸图纸,已收录 96 款设备。

特斯拉 FSD(监督版)在欧盟的推进受阻:欧盟已将全欧盟范围的监管投票从 10 月 6 日推迟至最早 12 月,瑞典、法国对系统在部分场景下超过道路公示限速提出异议。特斯拉转而与各成员国直接磋商,本周早些时候捷克批准上路,成为第七个放行 FSD 的欧洲市场;特斯拉在爱尔兰累计交付已突破 15000 台。特斯拉披露,在澳新面向普通用户开放 FSD 的首个完整运营年度内,该系统将车辆碰撞事故降低了 40%。

其他值得留意:宇树科技创始人王兴兴回应为何造 390 万元起的载人变形机甲 GD01,称大型机器人是行业不可阻挡的趋势;上汽追加 10 亿元投资与华为终端深化尚界品牌协同,2026 年 1 至 8 月尚界累计批售超 5 万辆;国际机器人联合会数据显示中国蝉联全球工业机器人最大市场,2025 年约占全球总安装量的 59%;OpenCode 宣布为 DeepSeek V4.1 Flash 永久提供 60 美元额度;《复仇者联盟 4:终局之战(加码臻享版)》总票房突破 43 亿。

→ AI 频道 OpenAI 开发者日全景:ChatGPT 周活破 12 亿、GPT-6.1 Sol 五分之一价格对标旗舰、Dots 全天候智能体发布;拟 IPO 前再融资 300 亿美元 — 白物集 09/30 →