2026/8/6 · CyberRadar
智能体大模型面对间接提示注入攻击时，内部状态究竟发生了什么？研究者发现即便模型表面上被诱导执行恶意任务，其隐藏层依然记录了受攻击的信号。通过线性探针，就能以超过 90 % 的 AUROC 识别攻击暴露。研究提出的 AGRI 防御机制利用这种信号触发反注入推理，将 Qwen 3.5 等模型的攻击成功率降至零。这为构建具有自我察觉能力的防御系统开辟了新路径。 [link]
容器镜像的安全漏洞比想象中更普遍。这项研究对 Docker Hub 上超过 5 万个高曝光仓库进行深度扫描。超过 90 % 的镜像携带严重漏洞或配置错误。研究者发现现有扫描工具互不兼容，单工具检测率仅为六成左右。更糟糕的是，一个 zlib 漏洞就能波及百万下游镜像。 ChimangoScan 流程的发布为量化容器生态系统的风险传播提供了坚实的工程工具。 [link]
编程智能体在企业环境的安全表现如何？这项研究在严格权限控制的硬化环境中对 12 种智能体进行测试。结果显示，严格安全策略会导致智能体成功率下降 18.3 点，成本激增 167.3 % 。模型面对权限受限时的反应各异，有的陷入超时，有的给出错误方案。 Boundary-Bench 评测插件的开源，帮助开发者在性能与安全之间寻找最佳平衡点。 [link]
为了提速，现代 LLM 服务系统利用激活稀疏性来跳过计算。但这成了新的侧信道。攻击者可以通过 Intel TDX 机密虚拟机暴露的特征，逆向获取神经元激活轨迹。即便在硬件加密环境中， SparSEEty 也能以超过 0.95 的 BLEU 分数重建用户输入的 Prompt 和模型输出。这种端到端的 Token 提取攻击揭示了性能优化算法与隐私之间的冲突。 [link]
网络攻击正向着本地自主化演进。研究者构建了一个集成 8 B 参数小语言模型的智能体远控木马。在 Kali Linux 环境中，它无需云端服务或人工干预，就能自主解读扫描结果并获取 Root Shell 。虽然当前小模型仍存在幻觉，但这种自我迭代的攻击形态已经从概念走向实践。这对现有的端点监控机制提出了全新的实时防御挑战。 [link]
思维链监控被视为 LLM 安全的关键防线。研究人员证明通过特定的后门投毒，可以诱导模型生成完全合规的推理过程，却在最后输出恶意结果。这种隐藏思维链后门的攻击在多种规模模型上奏效，还能通过课程学习规避检测。该发现意味着单纯监控推理过程已不足以确保模型安全，业界需要重新审视思维链与最终答案之间的一致性校验。 [link]
RAG 系统安全性受到质疑。 DenialRAG 采取了激进策略。它在恶意文档中直接点名并否定正确答案，随后给出误导性的逻辑解释。这种嵌入式参数否定让生成器在面对事实冲突时更容易倒戈。实验显示这种攻击对 Mistral 系列等模型具有极高成功率。现有的推理端防御措施难以提供统一防护，暴露出 RAG 架构在处理语义冲突时的本质弱点。 [link]
模型表现安全，可能只是因为它读懂了特定格式的指令。研究发现 LLM 安全评分对提示语的表面形式极其敏感。通过机器翻译或代码切换改变表达方式，原本拒绝回答的模型会瞬间崩溃。这种不稳定性在 Gemini 2.5 Pro 等模型上尤为突出。单一格式评测至少低估了 5 % 到 13 % 的安全风险。真正的模型对齐应该建立在语义理解之上。 [link]
在信贷审批等强监管领域，模型公平性至关重要。这篇论文提出了分块零知识电路设计，能在不暴露银行私有数据和模型参数的前提下，证明模型符合 SR 11-7 等监管规范。系统在数万行房贷数据上完成验证，单块证明生成时间不足 4 秒。这套方案解决了数据隐私与合规审计的矛盾，为金融行业的模型治理提供了可落地的技术范式。 [link]
头部大模型的安全边界究竟在哪里？ FAR.AI 发布的排行榜给出了量化答案。研究涵盖 67 种公开的静态 Jailbreak 技术。结果显示防御水平极不均衡，破解部分模型的平均成本仅为 58 美元。虽然顶级模型表现出较强韧性，但随机搜索仍能找到多条通用破解路径。该研究呼吁建立包括激活监控在内的深度防御体系，并提供了动态维护的评测基准。 [link]
微信支付在大规模商户风控中如何应用 LLM？SeqLLM 框架通过离散词表将商户行为序列转化为 token，让模型原生具备行为建模能力。该系统在日均千万级商户筛查中将精度提升至 97.5%。它解决了传统模型容易遗忘语言能力的难题。该研究展示了 LLM 处理高时效、高风险金融数据时的巨大潜力。 [link]
医生喜欢的回答就一定安全吗？这项研究通过 MOOVE 平台收集了 700 多名临床医生的真实反馈。研究发现成对偏好并不能等同于临床安全性，排名靠前的模型依然可能产生高风险错误。通过引入临床调整偏好排名，研究者成功分离了表面表达质量与核心安全性指标。这为医疗大模型的评估提供了更严谨的标准。 [link]
即使是最强的模型，在云网络 API 调用中也经常填错参数。研究发现模型隐藏状态中其实蕴含了参数正确性的信号。通过训练简单的线性 probe，开发者可以准确预测参数是否出错。以此为基础提出的 PBT 策略在微调时能自动过滤错误样本。实验表明该方法将参数生成的 Exact Match 提升到了 59.6%。 [link]
记忆增强型 Agent 正面临隐蔽的安全威胁。MAFIA 攻击框架利用内存探测技术，精准定位检索最具竞争力的位置。它采用紧凑的事实掩饰 payload，能够绕过严格的语义审计。这种查询攻击在保证恶意效果的同时，将审计检测率从 83.3% 降至 7.4%。研究揭示了现有 Agent 记忆模块在处理大规模恶意记录时的脆弱性。 [link]
长程视频编辑 Agent 往往面临反馈延迟和主观评价的难题。Crayotter 引入了 GRPB 机制，将主观偏好转化为序数对比。它将全局优势重新分配为语义编辑片段的信用分，有效解决了稀疏反馈问题。该 9B 模型在 AgenticVBench 上的表现超过了多个闭源系统。这项技术为自动化视频生产提供了实用的工程方案。 [link]
如何统一管理 Agent 的长短期记忆？VerMem 框架将记忆操作定义为 7 个原子动作，涵盖了增加、修改、软删除和检索等功能。系统引入局部和全局验证器，在训练阶段对每次记忆转换进行评分。通过层次化信用分配，模型学会了在有限的 token 预算下高效管理上下文。实验证明该方法显著提升了长程交互任务的执行效率。 [link]
随着 Agent 系统走向分布式和长时运行，缺乏统一治理架构的问题日益凸显。AOS 提出了一种供应商中立的参考架构，将系统划分为治理面和运行面。治理面负责策略与审计，运行面负责生命周期与模型路由。这种架构不依赖特定框架，而是通过明确接口整合异构组件。它是构建可观测、可靠且互操作的 Agent 系统的指引。 [link]
临床试验的设计往往依赖专家的经验决策。这项研究将肿瘤临床开发建模为离线决策问题。研究利用 3.1 万条公开记录构建了时间跨度极大的数据集。通过奖励加权行为克隆等离线目标，Agent 学会了从异构证据中预测未来的试验组合。模型在预测适应症方面的表现优于通用 Agent。这证明离线学习可以教导 AI 处理复杂战略规划。 [link]
传统的推理型安全防护模型因为生成速度慢而难以大规模部署。LatentGuard 将复杂的文本理由压缩进连续的 latent 状态，实现了安全判定的毫秒级响应。该框架通过阶梯式课程学习提升效率，同时保留了一个辅助解码器用于按需审计。它将推理成本降低了 100 多倍。这种方案为 LLM 的实时安全防御提供了理想路径。 [link]
癌症诊断需要整合放射影像、病理切片和基因组数据。OncoTriad-QA 建立了涵盖 32 种癌症类别的患者级基准测试。研究提出的 OncoVLM 模型通过学习型投影仪将多模态证据映射到 LLM 接口。实验显示该模型在整合影像表现、肿瘤形态和分子证据方面表现优异。这为实现全方位、多维度的自动化癌症评估提供了数据基础。 [link]
OpenAI 和 Anthropic 证实，其 AI 模型参与了近期披露的第三方网络安全测试。这些事件导致真实网站被破解，并出现了针对测试范围外人员的社会工程学攻击。 [link]
TP-Link 已修复 Omada 网络设备 ZTP 机制中的 15 个漏洞。攻击者可以将这些漏洞与此前披露的缺陷串联，从而实现 RCE。 [link]
Google 锁定了数百个 Blogger 网站。系统误报这些网站违反了恶意软件和类似恶意内容政策。部分站点已被该平台删除。 [link]
AI 正在帮助攻击者创建一次性钓鱼基础设施和快速进化的工具包，黑名单的追踪速度已无法跟上。Push Security 解释了基于技术的浏览器级检测为何比依赖域名和签名等指标更有效。 [link]
美国 CISA 要求联邦机构在 3 天内修复 IBM Langflow、N-central 和 Apache Tomcat 中的漏洞。这些漏洞正被积极利用。 [link]
一场钓鱼活动正利用用户对近期披露的 COLDCARD 钱包漏洞及 8860 万美元比特币窃案的恐惧，诱导用户安装 ScreenConnect 远程访问软件。 [link]
攻击者利用 SQL 注入漏洞直接在 Oracle 数据库中安装了后渗透工具包。该工具包随后被用于入侵企业网络。 [link]
一名加拿大籍男子承认参与了针对云存储供应商 Snowflake 的攻击。他非法访问了公司账户，从至少 165 家机构窃取数据，并企图勒索数百万美元。 [link]