SingProbe Technical Report
LLM 运行时护栏通常因外部模型引入巨大开销，SingProbe 却巧妙实现免费午餐。它直接复用推理过程的隐藏状态，以极轻量参数预测查询意图、回复安全性和幻觉风险。这种内在保护机制推理开销不足 0.5%，在保证安全信号零延迟的同时，性能优于大型独立护栏。它不仅能被动监测，还能引导受限的预测生成，为医疗等高风险领域的模型部署提供了兼顾效率与安全的工程范式。 [link]
2026/9/2 · CyberRadar
LLM 运行时护栏通常因外部模型引入巨大开销，SingProbe 却巧妙实现免费午餐。它直接复用推理过程的隐藏状态，以极轻量参数预测查询意图、回复安全性和幻觉风险。这种内在保护机制推理开销不足 0.5%，在保证安全信号零延迟的同时，性能优于大型独立护栏。它不仅能被动监测，还能引导受限的预测生成，为医疗等高风险领域的模型部署提供了兼顾效率与安全的工程范式。 [link]
大模型的越狱防御比预想中更脆弱。研究发现即便攻击方式不变，仅改变非安全相关的系统提示语，防御鲁棒性也会因操作状态变化而剧烈波动。某些场景下攻击成功率暴涨 56%，揭示了对齐模型在 vanilla 状态评估外的盲区。通过分析拒绝轴相关的隐藏表示，作者证明了状态变化对鲁棒性的系统性削弱。该发现敦促研究者走出单一基准测试，转而在多样化交互状态下重新审视模型的真实安全边界。 [link]
针对长程智能体系统的隐蔽攻击已进化。ECLIPSE 框架融合了直接提示词注入与间接工具端注入，在沙盒中自主生成并验证工具链攻击轨迹。它利用静态流编码将状态迁移线索嵌入工具描述，辅以动态轨迹纠正，确保智能体在复杂环境中忠实执行恶意任务。在 LASE-Bench 测试中，其绕过安全过滤器的成功率远超现有基线。这一挑战性工作预示着未来 Agent 系统的防御必须深入工具调用逻辑层面。 [link]
5G 核心网协议漏洞从发现到修复往往耗时数年，Buckler 框架为运营商提供了即时止损的利器。它在 RAN 标准信道边界放置可重用钩子，允许通过简单的丢弃、修改或释放动作部署临时热补丁。研究者从 64 种实际攻击中验证了其有效性，仅需极小的架构改动即可封堵大量隐私与可用性漏洞。这种赋予运营商主动修复能力的方案，填补了标准化流程与现场防御之间的空白，是电信网络安全运维的重大突破。 [link]
LLM 智能体在调用工具时正面临隐秘的知识泄露危机。ToolSiphon 攻击通过查询方式，能从智能体输出中精准还原工具背后的私有数据库或文件内容。它解决了工具选择不确定性和参数压缩带来的干扰，在多种知识库场景下实现了超过 74% 的记录恢复率。即便存在防御机制，其语义恢复度依然惊人。该研究揭示了工具集成不仅增强了智能体能力，也开辟了一条难以察觉的数据窃取路径，对企业级智能体安全极具参考价值。 [link]
零知识证明工具链中的微小 Bug 可能导致严重安全隐患，让伪造证据通过验证。Liezz 框架通过对抗性见证注入技术，精准定位编译器逻辑与电路约束之间的不一致性。它通过拼接不同执行过程的见证，构建理论上无效但可能被缺陷工具链误认的证据。在对 Circom 和 Noir 等主流工具的测试中，Liezz 成功发现 13 个严重缺陷。这种针对性的压力测试为隐私计算工具链的质量保障提供了高效的工程化路径。 [link]
当智能体接触到外部非信数据时，其未来权限应如何受限？SkillGuard 给出了一种无需额外推理开销的动态执行方案。它通过技能影响图实时追踪状态污染，并根据预定义的转向特征限制后续技能参数。在对抗复杂组合攻击时，该方案在 Llama 和 Gemini 等模型上展现出极高的防御效能，不仅能归零多种越狱攻击的成功率，还最大限度保留了智能体的业务可用性。这是迈向受限权限智能体架构的关键一步。 [link]
JITterFlip 揭示了云端 LLM 推理服务中一个全新的攻击面：GPU 任务的 CPU 控制面。传统的位翻转攻击侧重参数破坏，而该技术针对 JIT 编译生成的 CPU 执行逻辑。仅需单个比特位的翻转，即可诱导模型生成乱码或触发严重的推理延迟放大，从而实现高效的资源消耗攻击。更惊人的是，它能绕过现有的硬件防御机制，利用 Rowhammer 技术跨越物理边界影响 GPU 任务，为大规模模型推理设施的安全预警提供了新视角。 [link]
由于难以真实模拟复杂的硬件外设语义，嵌入式固件的自动化测试长期停留在浅层。RPM 技术将外设抽象为响应式状态系统，完美复现了中断、内存映射 IO 与 DMA 之间的精妙交互。在针对低功耗蓝牙协议栈的测试中，基于该技术的 Bluezz 工具实现了数倍于前人的代码覆盖率，并挖掘出 5 个隐蔽的协议漏洞。这一成果标志着固件仿真从被动近似向主动响应的跨越，是物联网安全审计领域的里程碑。 [link]
传统的推理侧水印在模型权重泄露后会瞬间失效，WoE 方案利用 MoE 模型独特的专家结构打破了这一僵局。它将水印信号直接嵌入特定专家的词表偏置中，使水印与模型参数深度耦合。即使攻击者窃取模型并使用自定义采样器，生成的文本依然带有不可磨灭的溯源烙印。在多款开源模型上的测试证明，该方案在保持模型性能的同时，能抵抗微调和重写等对抗手段，为大模型知识产权的实战化保护提供了坚实支撑。 [link]
环境 AI 记录员正在进入诊所，但它们的可靠性究竟几何？这项针对三个商业化 AI 抄写员的审计研究发现，三分之一的临床记录存在验证失败的情况，甚至包括凭空捏造患者身份。研究团队通过 12 轮发现流程和对抗性模型面板，揭示了过敏、用药等关键信息的错误集中区。该工作不仅发布了详细的错误发现，还提供了可重运行的审计流水线，为医疗 AI 的透明度和安全性建立了新的行业基准。 [link]
企业级 AI 的高昂成本往往源于对大规模非结构化文档的反复推理。Agentic Data Cracking 提出了一种新颖的“边推理边结构化”策略。当 Agent 阅读文档回答问题时，子 Agent 会以极低成本提取关键结构化信息并存储。这使得后续相关查询能直接通过低成本数据库查询完成，无需重读文档。在测试中，该方法将成本降低了 53% 且未损失精度，为构建低成本、高效率的企业知识基座提供了切实可行的工程路径。 [link]
在生物医学 RAG 系统中，固定尺寸的分块往往会切断关键的语义联系。这项研究提出了一种可配置的语义分块框架，通过保护实体窗口、触发词中心分块以及层级关系解析等技术，显著提升了生物医学信息的提取质量。实验显示其在 GM-CIHT 基准上比基线提升了 8.4 个百分点。该框架允许开发者通过配置文件灵活调整分块逻辑，为处理高度专业且复杂的生物医学文档提供了极具实用价值的工程参考。 [link]
如何让 AI 编写的网页代码不仅看起来漂亮，而且真正能跑通？WebWorld 将浏览器视作代码的“世界模型”，建立了一个确定性的闭环演进机制。AI 生成的修复建议必须通过浏览器的自动化执行测试并获得验收证书，才能被记入训练集。这种基于真实执行结果的自我改进策略，让 27B 规模的模型在交互式代码生成任务上达到了顶级闭源系统的水平，有效解决了代码生成中“视觉欺骗”与“逻辑错误”脱节的顽疾。 [link]
语音助手遇到噪音或模棱两可的指令时，只会回复万金油式的错误信息？通过分析 500 多名用户在真实生活场景中产生的 3030 条回退指令，该研究开发了一套实用的故障分类体系 VoxFallbacks。研究发现，轻量级的嵌入式分类器在处理现实世界复杂故障时，比大型生成模型更高效且成本更低。这些来自一线部署的经验法则，对于提升智能穿戴设备在动态环境下的鲁棒性和用户体验具有极强的工程指导意义。 [link]
工业级工具调用 Agent 常面临请求轨迹长、用户交互持续时间久的挑战。ATLAS 框架引入了“双时域”诊断评估体系，不仅能在单个请求内定位执行故障，还能在长期的用户交互中评估服务的连贯性。通过在美团 Xiaotuan 生产流量上的实测，该系统不仅提升了离线评估的保真度，还在在线 A/B 测试中显著增强了用户参与度和业务指标。这为复杂业务场景下的 Agent 优化提供了闭环的量化支撑工具。 [link]
在半导体晶圆厂中，搬运系统的拥堵直接影响产率。这项研究为物料控制系统引入了感知拥堵的动态路由算法 TN-DCR。它将结构化的路径先验与实时的全网拥堵上下文相结合，通过图嵌入技术预测交付时间和拥堵风险。在受控闭路评估中，该方法成功将平均交付时间缩短了 16.4%，并显著减少了资源等待时间。这种将深度学习表示与运筹决策模型相结合的方案，为高精密制造行业的物流优化提供了落地范式。 [link]
物理世界中的长程任务对 Agent 提出了严苛考验。NavMCP 框架巧妙地将视觉语言模型作为策略层，将导航基础模型作为执行层。前者负责分析证据需求和规划搜索，后者负责稳健执行语义目标，并通过记忆通道共享轨迹证据。这种脚手架架构让机器人具备了跨回合的持久交互能力。在四足机器人 Unitree Go2 上的实测显示，NavMCP 在复杂任务下的成功率高达 78.3%，为基础模型走向 Embodied AI 落地迈出了坚实一步。 [link]
将业务规则转换为复杂的流程图通常需要昂贵的推理模型。这项研究证明，通过神经符号分解，普通的非推理小模型也能胜任。关键在于将组合图构建从模型端移动到确定性编译器中，由模型生成中间表示。这种方案仅需一半的 Token 成本，就在有效性和逻辑准确率上达到了与顶级推理模型相当的水平。这对于希望在大规模企业级应用中部署轻量化流程自动化方案的开发者来说，是一个极具吸引力的降本增效策略。 [link]
在个人健康档案中，哪怕是一个微小的 AI 幻觉错误也可能影响长期的医疗决策。这项研究引入了证据门控诚信模型，确保所有 AI 生成的结构化数据必须经过确定性监视器的验证。只有当源文档中存在唯一对应的支持性引文且上下文一致时，数据才会被存入档案。在 Medical DataCloud 应用中的实测表明，该机制能有效拦截未经证实的声明，并将其留待人工审核，为 AI 辅助的医疗档案管理筑起了一道安全防线。 [link]
网络钓鱼攻击者正在滥用合法的 Faronics Deploy 终端管理平台，以获取受害者计算机的远程管理控制权，并安装 ScreenConnect 远程支持软件。 [link]
以 Aesto Health 名义运营的 Aesto LLC 公司披露，最近发现的一起数据泄露事件影响了超过 950 万人。 [link]
威胁攻击者正在利用 Langflow 中的一个未授权远程代码执行漏洞 CVE-2026-0768，以此窃取凭据、token 以及密钥。Langflow 是一个用于构建 AI 应用程序的开源框架。 [link]
攻击者可以隐藏在住宅代理、VPN 以及其他基础设施之后，使恶意会话在现有的边缘安全控制机制面前显得合法。Spur 解释了会话增强如何增加数据点，帮助企业识别风险会话并做出更强力的执行决策。 [link]
医疗科技公司 Novocure 表示，在 8 月中旬的一次网络攻击中，未公开数量的员工以及 1400 多名美国癌症患者的数据已被泄露。 [link]
攻击者通过劫持 Virtualizor 更新基础设施的 BGP 路由，将更新请求重定向到恶意服务器，向该 VPS 管理软件推送了恶意更新。 [link]
近 22000 台暴露在公网上的 Microsoft Exchange 服务器仍未针对一个高危身份验证绕过漏洞修复补丁，该漏洞允许攻击者劫持所有用户的邮箱。 [link]
五名委内瑞拉国民承认在系列 ATM jackpotting 攻击中，企图利用恶意软件清空自动柜员机。 [link]
PaperCut NG 和 MF 打印管理软件中的两个安全漏洞在上周作为零日漏洞被利用后已修复，目前正被用于数据窃取攻击。 [link]