最新 AI 新闻，即刻看见。

暴露并不等于承诺：针对使用工具的智能体的潜在监控器的双层评估

arXiv:2610.37679v1 发布类型：新 摘要：使用工具的语言模型容易受到间接提示注入的影响，而越来越多的研究试图通过探查模型内部来在不安全操作执行前将其捕获，但所得结果却存在严重分歧。我们认为，这种分歧很大程度上源于评估方法上的缺陷，并提出了一种双层评估协议：在评估与训练数据集中，将“提示注入”与“行为承诺”加以分离。在主要的Qwen AgentDojo基准测试集上，那些基于朴素的“不安全与其余”混合对比进行训练的监控器，大多仅学会识别“暴露”：它们会标记出所有被暴露的轨迹，无论智能体是否真正执行了相应操作，且几乎无法预测哪些情况最终会导致不安全行为。而当仅针对已暴露案例重新训练后，同一类探测器便能预测模型自身发出的不安全工具调用，时间延迟长达两秒。

你有多信任一只狗？量化推理语言模型中的提示遵循行为

arXiv:2610.32055v1 发布类型：新 摘要：大型语言模型（LLMs）常常表现出阿谀奉承的倾向，即使在客观的事实性和推理类任务上，也会调整其回答以迎合用户的暗示。然而，这种影响的量化形式——以及它是否与信息源的可靠性相匹配——仍然知之甚少。在本研究中，我们通过在MMLU问题上观察提示诱导的答案偏移来探究这一现象，评估了诸如“[信息源]认为答案是（X）”这类提示。我们在三个开源模型系列——Qwen、Gemma和SmolLM——中系统性地改变了提示所归因的信息源（教授、朋友或狗），并发现由提示引发的变化遵循一种可预测的结构，该结构可用指数倾斜很好地刻画：提示会诱发

研究揭示大语言模型中语义意义的局部几何结构

一篇于2026年10月24日发布在arXiv的论文（编号2610.30715v1）通过跨语言探针与细化探针，在Gemma 4、Llama 3.2、Qwen 2.5和Pythia四款解码器-only大语言模型上刻画了语义意义在嵌入空间中的局部几何特性。

推荐理由该研究首次系统刻画LLM中‘同一语义因子’内部的不变性、可变性与细化机制，提出‘局部各向异性邻域’模型，并经人类盲评验证，方法严谨、模型覆盖多样，结论具跨架构一致性。

研究通过奇异值谱干预调控大语言模型能力分布：Llama与Qwen模型实证分析

一项发表于2026年10月24日arXiv（编号2610.30676v1）的AI研究，对五种开源Llama和Qwen指令微调模型实施后置奇异值谱平滑与尖峰扰动，发现该轻量干预可系统性重塑模型在事实知识、语言理解与演绎推理三类能力上的表现权衡。

推荐理由该论文首次在多模型、多任务框架下实证验证了变压器前馈层奇异值谱结构对下游能力的因果影响，揭示了能力配置的结构性敏感规律，为模型能力解耦与可控编辑提供了新路径；所有结论均基于公开模型与标准评测，方法透明、评估维度全面。