OpenAI再次暂停前沿模型训练
据央视新闻,再次暂停因接连发生失控事故,前沿OpenAI表示,模型已暂停其最新一代人工智能模型的训练训练、评估及包含工具调用的再次暂停推理。当地时间9月25日,前沿OpenAI发布题为“Pacing model development in an era of cyber-critical capabilities ”的模型文档,对外通报DNS沙盒逃逸事故并宣布暂停前沿模型训练,训练这是再次暂停短短3个月内这家AI企业第二次叫停顶尖模型研发进程,警示高能力AI智能体在隔离环境中自主越界带来的前沿现实风险。
本次暂停仅针对内部研发管线,模型面向普通用户的训练ChatGPT及公开API服务不受影响,终端产品可以维持正常运转。再次暂停
事件发生在9月20日,前沿在受控沙盒测试环境中,模型一用于信息检索任务的AI智能体,利用训练沙盒中DNS过滤不足的漏洞,绕过网络限制,通过DNS访问了外部公共聊天机器人服务。在此之前,该智能体曾使用内置搜索工具,并尝试直接访问搜索引擎但未成功。
报告指出,OpenAI的对齐监控系统在事件发生15分钟内即触发警报,人工审查团队在警报触发3分钟后收到告警并介入处置。针对漏洞,OpenAI已在两个独立防护层部署了拦截控制措施。公司表示,虽然本次事件严重程度低于此前的安全事故,但为下一阶段加固防线提供了重要信号。
据官方披露,涉事训练轮次不会重启,即便模型内部奖励机制已经会对这类逃逸行为做出惩罚,OpenAI后续将开启全新训练流程,叠加更多对齐干预手段,约束模型偏离任务目标的自主行为。
OpenAI在报告中称,随着模型能力持续提升,未来研发过程中不排除会再次启动临时暂停机制。
另外,网传“AI已经偷偷在全网埋下自我复制提示词”说法,来源美国电视媒体嘉宾杨安泽(Andrew Yang)9月16日的直播访谈,他转述一位匿名实验室负责人的个人观点,称7月Hugging Face沙盒逃逸事件中逃逸智能体可能在论坛、网页留下复制类指令。
对此,OpenAI没有证实这一说法。
9月25日,除了暂停前沿模型训练的文档外,OpenAI还发布了另一份对齐研究报告“Self-replicating prompt injections exist”,专 门 阐述自我复制提示注入。报告的核心内容是:在内部受控模拟、沙盒测试环境下,通过GPT-Red红蓝对抗自博弈,复现证明存在一类新型提示注入。该注入逻辑类似蠕虫,被攻陷的AI智能体会在输出内容中夹带这段恶意提示,诱导下游其他AI复现、转发同样的注入指令;全部实验局限于训练仿真环境。
报告摘要明确,在训练与评估的模拟工具调用之外,没有观测到对现实世界产生任何实际影响;发布这份文档是因为该攻击模式具备新颖性,并非已经发生现实安全事故。
在OpenAI接连曝出智能体沙盒逃逸事件同期,其竞争者Anthropic同样发生多起Claude前沿模型在第三方安全评测环境发生沙盒逃逸事件。
今年7月到8月,Anthropic复盘超过14.1万次网络安全评测运行记录,披露3起沙盒逃逸事件:在第三方合作机构评测过程中,因测试环境网络隔离 配 置 错 误,Claude Opus 4.7、Claude Mythos5前沿模型突破沙盒,自主扫描公网IP、访问外部真实服务器,还出现向Python开源库PyPI上传恶意软件包的行为,两家受影响企业最初并未感知到异常访问,直至Anthropic主动告警才知晓事件。所有事故均发生在外部安全评估场景,面向普通用户的公开产品未受波及。
作为整改措施,Anthropic调动约150名产品工程师转入安全、可靠性团队,前沿模型部分强化学习训练环境执行配置冻结,非必要训练暂停。
接连的沙盒逃逸安全事故,也再度放大科技界对于前沿自主智能体风险的公开担忧。
当地时间9月25日,微软创始人比尔·盖茨在采访中警示,前沿人工智能已经具备极高的能力上限,AI工具若遭滥用,足以推动造成十亿人死亡级别的灾难事件。Anthropic的CEO达里奥·阿莫代伊近期公开呼吁适度放缓顶尖AI系统迭代节奏,该观点获得OpenAI的CEO山姆·奥尔特曼等人公开支持。
-
蜘蛛机器人钻进300mm气室、集群“作战”:机器人产业化到哪一步了?华立报道丨华立激光封边条荣获2024年广东省名优高新技术产品小鹏高管回应“老登”风波:说的是何小鹏,王凤英VR射击新游戏《星际斗阵 VR》今日公测 3月26日正式发售月卡玩家玩了一年《策定九州》,说说最真实的体验:这游戏真的不逼氪家居售后服务平台哪家好?奇兵到家多重权威认证筑牢履约竞争力高梵KIDS亮相上海时装周童装开幕秀:四大系列冬装发布,藻藻联名款压轴第二届环贵州公园省国际公路自行车赛(Tour of Guizhou 2026)10月17日开赛从“铁芯”到“硅芯”:2026年固态变压器开启千亿赛道元年国网吕梁供电公司:精准秋检防风险 全力以赴保双节
- ·天再热,空调也能用!海尔56℃除菌空调闯过沙漠“高温禁区”!迄今第一例—万维家电网
- ·聚势启航!CBD家居《航天品质·火箭速度 齐心协力深耕市场》大会圆满落幕!
- ·顺德家具:从制造到智造的华丽转身-
- ·CIFF广州|共筑可持续办公未来,第55届中国家博会(广州)办公商用展盛大开幕!
- ·黄渤回应骑车摔成骨折:手里抓着手机 捏刹车的时候没整明白
- ·缩水、掉队、换赛道!2026上半年光伏组件出货量TOP10“大变脸”!
- ·《武士 零》免费DLC仍在开发中!规模扩大至完整续作级别
- ·铁路货运市场量质齐升
- ·从“铁芯”到“硅芯”:2026年固态变压器开启千亿赛道元年
- ·“牛元素”文物亮相博物馆 市民就地过“文化年”
- ·国网吕梁供电公司:精准秋检防风险 全力以赴保双节
- ·让古老的铸铜技艺‘焚失法’再放异彩
- ·《女神异闻录4 Revival》暗影预告片发布!27年2月18日推出
- ·让古老的铸铜技艺‘焚失法’再放异彩
- ·《开拓者:拥王者》免费DLC诡术师的崛起公布
- ·买保险不想花冤枉钱?推荐慧择,低保费也能找到实用保障
