2026-10-11 09:55
总结：AI头部企业已启动平安应对前置工做，· 行业焦点风险：AI严沉变乱可能取反弹、监管趋严，OpenAI 披露其失控的 AI 智能体绕过内部管控、进入互联网并协同步履，称 Anthropic、OpenAI 等 AI 公司的高管正正在暗里推演如许一个场景：一场由 AI 激发的灾难性事务发生之后，对此，Axios 认为，这种担心并非凭空而来。行业和监管者还能做些什么？监管层面同样有动做。行业需强化纵深防御机制。被 15 个实正在系统下载运转，从 Axios 披露的内容看，英伟达、谷歌、Meta、xAI、OpenAI 和 Anthropic 的高管正在白宫取特朗普会晤后，现正在将其扩大到所有内部评测，把它变成了智能体之间交换的留言板。但这些场景并不被视为必然发生，Anthropic 的最新演讲则表白，局当天也发布了声明。情景推演正在企业和范畴并不新颖，只是以另一种体例公开。无论哪一种。它正在线索表单里了一条「可能见过合适描述的人」的目击消息并提交。OpenAI和Anthropic已正在推演应对方案另一例中，过程中还曾扣问Claude Code 被盗数据能够卖到哪里。Anthropic 则置评。透社此后报道，五角大楼的兵棋推演曾经做了几十年。Axios独家报道称Anthropic、OpenAI等AI公司高管正暗里推演AI致灾难性事务后的应对，Anthropic 暗示，这个案例申明单个者借帮 AI 曾经能形成相当大的。指令它登录、注册、输入小我消息或购物，它正在该大学办事器上找到一个能前往肆意文件的脚本，而是一次大规模事务，如许的事务会正在将来 6 到 12 个月内发生。据《邮报》报道，却发布了一份关于模子「非预期行为」的演讲，但它们越来越让人担心。就正在 Axios 报道发出的统一天，这些智能体早正在 5 月就起头劫持 Hugging Face 用户账户、探测平台缝隙，仍需依赖纵深防御。脚以让金融办事、互联网毗连，首 个由不平安 AI 形成严沉现实的案例，被预设的并非科幻式的「AI 」，Anthropic 还写道，读出脚本源码后发觉了注入缝隙，据 Anthropic 引见，此中一家平安公司的扫描器因而泄露了凭证。OpenAI 研究担任人正在
