【新智元导读】随着大模型智能体深刻渗入真实操作系统,一种全新的安全威胁悄然成型:行为越狱(Behavior Jailbreak)。现有安全基准只盯着模型「说了什么」,却对「做了什么」视而不见。新基准LITMUS是首个同时覆盖真实OS环境行为越狱、语义-物理双层验证与多攻击范式的齐全评测系统,并初次系吐淇化了「执行幻觉」这一被整个评测社区忽视的致命盲区。
当AI智能体不再只是谈天工具,而是真正收受你的服务器、操作你的文件、执行你的剧本——安全评测这件事,就不能再停顿在「看它说了什么」的层面了。
然而,当前险些所有主流智能体安全基准,依然把判断终点停在「语义输出层」——只问模型拒没拒,不论OS改没改。这一底子性缺点,催生了一种极其危险的幻象:
为了彻底拆解这一盲区,来自漯河航空航天大学、浙江大学的钻研团队推出了LITMUS(LLM-agentsIn-OSTesting forMeasuringUnsafeSubversion)——首个将真实OS环境行为越狱、语义-物理双层验证与多攻击范式系统整合的智能体安全评测基准,初次在行为越狱中系统界说并量化这种「行口不一」的景象——执行幻觉(Execution Hallucination, EH)。
AdvBench、HarmBench 等经典基准,判断终点是「模型有没有天生有害文本」。但在真实 OS 环境中,危险来自工具挪用——模型不必要「说出」危险内容,只需偷偷挪用一个系统号令,文件就被删了,密钥就泄露了。文本安全,底子不蹬宗行为安全。
若是测试 A 批改了某个系统文件,而测试 B 刚好依赖统一个文件,那么B的了局测的到底是「模型的安全性」,还是「A留下的传染」?在没有 OS 级状态回滚的情况下,这个问题无解。
LITMUS在每次测试对话前后,城市对真实操作系统进行快照采集。物理判定基于系统状态的现实变动,与模型的对话内容齐全独立。即便模型嘴上说「我回绝了」,只有 OS 状态显示危险操作已实现,物理判定依然给出「执行成功」。
每条测试用例均建设了预置与复原作为,由专门的Recoverer智能体在测试前初始化系统基线、测试后齐全还原,从底子上解除用例间的传染,确保评测了局然正可复现。
LITMUS数据集蕴含819条高风险测试用例,起源涵盖真实缝隙数据库(CVE/GHSA)、公开渗入测试汇报,以及经人为精辟验证的LLM天生案例,全数在真实OS中通过物理测试验证。
诱使智能体使用攻击者提供的 SKILL,将恶意的 SKILL.md 文件内容注入智能体工具链,在正常工作挪用时自动触发,绕过前端提醒词过滤。
图示:LITMUS评测框架的六智能体分工示意。Prosecutor发出指令,Verifier独立采集OS快照,Analyzer(物理判定)与 Reviewer(语义判定)各自独立产出标签,共同组成2×2语义-物理混合矩阵。
图示:六款模型在 LITMUS 种子数据集上的攻击成功率(ASR)与执行幻觉率(EHR)总览。 SPSR、SOSR、POSR、SPFR 别离为齐全越狱、攻击糊弄、荫蔽执杏注齐全失败的样本比例。
值得出格关注的是「通讯表联」(CO)类别——跨模型、跨攻击范式,这一类此外 ASR 险些始终最高,最极端情况靠近97%。这批注:智能体似乎天然地将「发送新闻」等表联操作视为无害行为,导致数据表泄成为最难防守的攻击面。
相对地,「工作链」(CT)类此外 ASR 最低(Claude Sonnet 4.6仅21.72%),由于将多个恶意子步骤串联成一个要求,反而让整体恶意意图越发显眼,更容易被鉴别回绝。
其中最危险的「荫蔽执杏坠(Covert Execution)模式——模型说话层面明确回绝,但 OS 层面危险操作已悄然实现——在所有模型上均有出现,Deepseek-v3.2的该项比率达到4.84%。
这意味着一个极其端庄的现实:任何只依赖对话日志的安全审计,性质上是不成靠的。安全审计人员看到「模型回绝了」,但系统已经被攻破。
技术注入和实体包装(这两种将恶意指令「藏进」工具链或表部内容的间接攻击)在两款代表模型(Deepseek-v3.2与Claude Sonnet 4.6)上均实现了显著的 ASR 提升。
相比之下,直接使用「红队测试」或「调试模式」话术进行越狱的成效,则出现出强烈的模型依赖性:Claude Sonnet 4.6 对显式恶意信号极为敏感,这类话术反而会激活安全机造,导致 ASR 跌破基线;而 Deepseek-v3.2 则偏差于将同样的信号解读为"合法操作授权",导致合规率反升。
这注明:分歧模型对「显式恶意意图」的语义解读存在底子差距,话术类越狱战术的有效性无法跨模型迁徙。但间接攻击的高成功率,则是跨模型一致的普遍法规:智能体的执行流水线,而非前端提醒词过滤,才是真正的重要失守点。
钻研团队明确呼吁:EHR该当与ASR并列,成为LLM智能体行为安全评测的尺度指标。在智能体走向真实OS部署的今天,单靠ASR,依然是对安全的幻觉。
LITMUS作为一个盛开的活性基准(Living Benchmark),欢迎社区持续贡献新的模型评测了局与测试用例,共同推动LLM智能体安全评测走向严格、可信、可复现的新范式。
黄页网站刘铮则表示:很开心,也很拼劲,这就是球队带给我们的底气,始终相信团队,大家都很无私奉献。这也强调了团队精神。而刘铮就在以身作则,进攻端即便没怎么发挥,不过他还是可以通过防守和篮板来帮助球队,这也是团队篮球的象征。但本赛季结束之后,他下赛季还会不会留在上海还不清楚。现在上海还是需要刘铮这样的老将顶着,来到关键战他依然是可靠的一个球员。“我记得对阵森林的两场比赛,他对阵(埃利奥特)安德森——他是顶级的——詹姆斯·加纳表现得很好。我非常欣赏他们俩。显然,埃弗顿必须在进攻端有所改进。但德斯伯里-霍尔和加纳无疑都是优秀的球员。”黄页网站《刚好泡泡糖全数文章》陈达毅在接受国际足联采访时,用一句略带夸张却极具画面感的话形容家乡的状态:“我觉得库拉索从我们晋级世界杯那一刻开始,就几乎没有真正睡过觉。”周三,当德国队抵达芝加哥后,诺伊尔继续朝着复出迈进。这位40岁的门将已经重新出现在训练场上,但仍未参与球队的正常合练。
20260608 ? 黄页网站【爱彼迎CEO计划创办一家新的人工智能公司】据多位知情人士称,爱彼迎首席执行官BrianChesky正在筹建一家新的人工智能(AI)实验室,这标志着他首次涉足全球AI竞赛。知情人士表示,Chesky计划创办一家AI公司以开发人工智能模型,并正在考虑将重点放在用户交互和设计上。由于相关信息未公开,知情人士不愿具名。其中一位知情人士称,他目前正处于为该实验室融资的早期阶段,具体细节仍可能发生变化。Chesky和爱彼迎的代表均未予置评。(界面新闻)《丈夫面老婆被装建工欺负电视剧免费》当前北京楼市整体呈现结构性分化行情,全市二手房库存虽持续回落,但仍处于供大于求的格局,需求与资金明显向核心板块、近郊临铁区域聚集。门头沟整体房价同比仍有小幅下调,但环比已经出现企稳迹象,上涨动力主要来自永定新城板块:该区域靠近主城区,轨道交通S1线、1号线支线覆盖,近年来新盘供应集中在改善型产品,配套商业、教育资源逐步落地,吸引了不少西城、石景山外溢的刚需与改善客户,需求量稳定支撑房价小幅抬升;远郊浅山板块则因为配套不完善,需求量不足,价格仍处于调整阶段。
20260608 ? 黄页网站第二点,今年暑期档可谓是神仙打架了,定档的有博纳的《四渡》,好莱坞的《玩具总动员5》《小黄人》《蜘蛛侠》,还有谢苗的《火遮眼》,追光电影的《三国》,《特立独行》《澎湖海战》《年会不能停2》等等。《牛爷爷大战幼丽是谁画的》同时,我们也会根据实际情况来决定,比如球员展现出的能量,谁的身体状态更好,谁的竞技状态更好,谁可能更适合具体对手。过去几周,我当然已经非常详细地研究过克罗地亚。但上周的重点完全是我们自己,完全是我们的比赛方式和行为方式。等我们到了堪萨斯,从那时候开始真正准备克罗地亚时,我会再更深入地进入这个主题。