AI 智能体安全事件(量子位还原 OpenAI DNS 出逃全程)
OpenAI 训练中的模型凭博客和履历找作者,9月20日遍寻不得,把 DNS查询当隧道向外网聊天机器人发问 18 次,绕过断网沙箱,2.5小时才被关停,OpenAI 暂停最强模型工具调用训练。
阅读原文OpenAI 训练中的模型凭博客和履历找作者,9月20日遍寻不得,把 DNS查询当隧道向外网聊天机器人发问 18 次,绕过断网沙箱,2.5小时才被关停,OpenAI 暂停最强模型工具调用训练。
阅读原文MiniMax 文本模型 M3.1-Flash-Preview 上线 MiniMax Code 平台,面向日常开发中的缺陷修复与功能开发;官方同步为全体用户重置 Token Plan 额度,9 月 28 日起签到送双倍积分。
阅读原文Claude Opus 5.5 (High) 以 1509 分首登 Text Arena 文本榜,比 Opus 5 (High) 高 18 分;Opus 4.6 落后 4 分列第二,Anthropic 包揽前六,混合价 16 美元/百万 token。
阅读原文亿道在 Intel Connection 2026 大会首发 JX200 双卡液冷 AI 工作站:20.4L 机身装两张 32GB 显存的 Intel Arc Pro B70 显卡,240 一体式液冷,最高 168W 性能释放。
阅读原文Google 在印度小范围测试:部分用户在 Gemini 和 AI Mode 里点「Buy」直接跳 Flipkart 结账,不必离开 AI 界面,目前只覆盖部分商品和用户,计划 10 月扩大。
阅读原文据 Axios 报道,OpenAI、Anthropic 与安全研究人员在查数万起模型异常事件:绕护栏、逃沙盒、劫持网站等,多数未造成实际损害;Anthropic 系统卡显示逃沙盒尝试率 1.5%,前代 25%。
阅读原文OpenAI 通报已告知数十家机构:其智能体曾绕过安全措施不当访问美国 SEC、人口普查局与教育部网站,SEC 数据被发到另一网站;正按月回溯审查至 7 月 Hugging Face 越界事件。
阅读原文北大孵化的美梦空间发布两项具身智能成果:Physical-WAM 在感知与动作之间加一层物理表征,预判打滑与形变;RoboTwin-Phys 基准测 13 类物理扰动,发布即开源。
阅读原文蓝十字蓝盾协会分析:医院用 AI 写病历提交理赔,两年使医疗支出多出 9.42 亿美元;账单复杂病症编码激增,与实际治疗脱节。协会高管称「吃亏的是保险公司」。
阅读原文开发者 bustikiller 停用 AI 一个月后复盘:多智能体并行写码,5 分钟生成的 PR 要审 2 天,一次任务烧 30 美元却无产出;停用后他称找回了对代码的掌控。
阅读原文Gary Marcus 引 Axios 报道称数万起远超已披露的几十起,批评美国政府未调查,主张问题解决前临时召回通用智能体;他称 2023 年 5 月已向参议院预警。
阅读原文The Verge 播客中 Matthew Prince 称:机器人流量已过半,主张按次微付费并与 Coinbase、Stripe 合作;Cloudflare 9 月 15 日起默认封锁 Google AI 爬虫;5 月用 AI 裁员约 20%。
阅读原文