每日 AI 论文简报|Agent 评测、可靠性与多模态鲁棒性
重点关注
以下均为 arXiv 预印本,尚未经同行评审。除明确引述的作者实验外,本文不把论文自述当作独立验证事实。
1. CLQT:面向 LLM 投资组合 Agent 的闭环诊断基准
Bo Qu、Mingguang Chen|arXiv|PDF|金融 × AI
- 问题、方法与基线。 作者认为固定窗口收益不足以评价交易 agent,提出带时间闸门、交易/融资成本、策略一致性与可复算哈希链的五阶段闭环(收集、综合、配置、执行、反思),并以 APM-CS 五维能力卡替代单一 Sharpe 排名;比较结构化与全自主编排及模块消融。
- 作者报告的证据。 在污染控制的多模型回测和未见、截点后的实盘经纪商轨道上,名义 Sharpe 胜者被识别为 26 轮中仅 5 轮可靠性的产物;信号—行动一致性相对留出 LLM 的 coherence 高 0.30(回测)和 0.23(实盘)。这是评测环境内证据,不是投资能力或实盘收益保证。
- 创新、限制与阅读建议。 亮点是把过程审计、成本和重复运行噪声纳入评测。LLM 裁判、任务规定、回测数据与交易接口仍可能造成偏差;实盘轮数很小,也不能消除选择或市场状态风险。适合 agent 评测、量化平台与模型治理读者;优先读第 3–5 节和消融。
2. GABench:图分析 LLM Agent 的端到端基准
Jiarui Tan 等|arXiv|PDF
- 问题、方法与基线。 GABench 不把图直接塞进文本提示,而让 agent 调用 84 个可执行工具完成图检索、图论、图机器学习和开放问答;覆盖三种图、10,400 个带可验证真值的任务,并比较不同前沿模型和 harness。
- 作者报告的证据。 作者发现复杂图任务仍困难,harness 选择显著影响结果,且工具调用质量比数量更关键。任务生成器与工具均为作者设定,摘要未给出可跨基准比较的总分,故不应把结论外推为通用 agent 排名。
- 创新、限制与阅读建议。 它把“会回答图问题”推进到“能取数并执行图操作”。需审计工具覆盖、生成题分布、调用成本、工具返回的潜在泄漏与 benchmark 污染。适合构建数据/知识图谱 agent 的工程师;优先读任务定义、工具表和失败案例。
3. Gaokerena:波斯语小型医疗语言模型
Mehrdad Ghassabi 等|arXiv|PDF
- 问题、方法与基线。 论文以 9,000 万 token 波斯语医疗语料和 2 万条专家审阅问答训练紧凑模型;Gaokerena-R 再以 CoT 与两种 RLAIF 做偏好式推理,并增加从隐状态预测置信度的头。基线为基础模型与 Gaokerena-V。
- 作者报告的证据。 翻译版医学 MMLU 从 46.28% 提至 49.31%,同架构、较小数据的 R 模型报 52.98%。这些是翻译 benchmark 分数;作者也明确其水平不足以直接临床使用。
- 创新、限制与阅读建议。 低资源语言与消费级硬件的组合有实际意义。翻译集、专家问答来源、RL 奖励与不确定度校准都需外部审计,MMLU 不能代表诊疗安全。适合医疗 NLP/本地化团队;优先读数据治理、校准实验和安全讨论。
4. Right Answer, Wrong Method:科学推理评测的捷径攻击
Xuan Ren 等|arXiv|PDF
- 问题、方法与基线。 作者将数值枚举、猜测、答案优先验证等“答对但推导不成立”的 Solution Hacking 与最终答案准确率区分,并以自动裁判和测试时指令抑制捷径;基线是传统 answer-only 评测。
- 作者报告的证据。 作者称捷径比例随难度从普通题 2.2% 上升至奥赛 28.3%、HLE 37.4%,不同前沿模型被计为正确的回答中 8.2%–44.1% 属此类。判别本身依赖裁判定义和可见推理,不能证明模型内部真实思维过程。
- 创新、限制与阅读建议。 它直接审计“分数是否测到目标能力”。应复核裁判的误判率、提示诱导效应、题目污染与抑制后能力/成本变化。适合维护科学推理评测或 reward 的读者;优先读分类规则、人工核验与消融。
5. FinToolBench:真实金融工具调用评测
Jiaxuan Lu 等|arXiv|PDF|金融 × AI
- 问题、方法与基线。 FinToolBench 构建 760 个可执行金融工具、295 个必须调用工具的查询,以时效性、意图和监管域匹配评估 agent,并提出金融感知检索推理基线 FATR;对照的是静态金融 QA 与少量模拟工具环境。
- 作者报告的证据。 摘要报告该环境和基线可提升稳定性与合规对齐,但未报告可据以比较的具体胜率或真实生产事故率。工具“可运行”也不等于行情完整、执行可用或合规通过。
- 创新、限制与阅读建议。 价值在于把金融 agent 的检索、时效和监管约束写进任务。必须检查工具版本、许可、失效 API、数据延迟、提示注入和人工复核链路;不构成投资或自动执行建议。适合金融 agent 平台团队;优先读工具清单、任务标注和评测沙盒。
AI 论文
以下 13 篇与上文重点合计为 18 篇去重候选。除特别说明外均仅依据 arXiv 官方 RSS 摘要;基准提升须连同基线公平性、数据污染、可复现性与算力成本解读。
多 Agent LLM 管线的对抗攻击
Faisal Haque Bappy 等|arXiv|PDF
仅依据摘要。 作者以 GAIA、SWE-Bench 轨迹和受控管线比较 GPT-5-mini、Claude Sonnet 4.5、Kimi K2.5,研究内容注入、冒充、计划偏离与记忆投毒;其结论是攻击成功更随管线结构而非模型能力变化。价值在于提出跨 agent 边界验证;生产轨迹标注、攻击实现与模型版本限制外推。
DrawAI:栅格图转可编辑图形的 Agent 工作流
Pu Cao 等|arXiv|PDF
仅依据摘要。 DrawAI-Bench 用 39 项混合准则评价科学图、幻灯片、海报和图表,DrawAI-Flow 以解析 agent 规划、重建 agent 编码—渲染—校验迭代;作者称在 13 个模型、5 个 harness 间可稳定改善可编辑结构。视觉保真与可编辑性的评审仍含 VLM 主观部分,代码安全、版权资产和成本需另测。
FusionRS:RGB—红外风格遥感视觉语言数据
Jiaju Han 等|arXiv|PDF
仅依据摘要。 数据集含 60 万对由 RGB 公共遥感图转换的对齐红外风格图,其中 45,913 条为 IR 感知描述;作者训练 CLIP 式对齐与生成模型并报告检索、描述和 VQA 改善。合成“红外风格”与真实传感器域差、公开图像许可和严格隔离的测试集决定其工程价值。
Reward Model 推理增强综述
Qiyuan Liu 等|arXiv|PDF
仅依据摘要。 综述梳理奖励模型架构、训练、评估及其在推理时选择、数据合成、自改进和 RL 微调中的作用,并列出选择、泛化和评估问题。适合作为入门地图;它不是新的能力实证,覆盖范围和作者经验判断须与原始研究交叉核对。
生成式与 Agentic AI 的认知能力缺口分类
Taye Akinrele 等|arXiv|PDF
仅依据摘要。 论文按持久状态、目标自主性、自监控、环境交互、学习适应五维组织文献,并提出 ACIA 概念架构与认知评测方向。其价值是统一术语;分类/路线图不等于已验证的通往通用智能的因果路径。
IBA-Bench:隐式行为对齐与个性化 Agent
Jiajia Song 等|arXiv|PDF
仅依据摘要。 IBA-Bench 使用含噪声、隐含线索和时间矛盾的长时互动史,检验能否据此完成任务;作者的 IBA-Agent 以广检索和轨迹级对齐处理冲突,并称九域复杂场景有改善。隐私、历史数据污染、偏好标注与错误偏好放大是关键限制。
PICopilot:光子集成电路脚本生成 Agent
Xiaohan Jiang 等|arXiv|PDF
仅依据摘要。 论文将 PIC 设计转为由 LLM 生成脚本、调用设计工具与迭代修正的流程,瞄准 GUI 到可维护脚本的迁移。它有助于审视工具调用可靠性;生成代码的物理正确性、版图规则、仿真基准与人工签核不可被摘要中的原型结果替代。
MRAFnd:零样本多模态假新闻检测
Lehan Zhang 等|arXiv|PDF
仅依据摘要。 框架检索相似新闻,再由双向证据推理与分析员—裁判辩论判别;作者称在 Weibo-21 相比 SOTA 最多提高 2.35 个百分点。无标注检索库的时效、错误证据传播、跨语言/事件泛化及误报后果仍需独立验证。
语言模型能否识别 Shadow Trading 目标?
Sarah Wilson 等|arXiv|PDF|金融 × AI
仅依据摘要。 两阶段 LLM 以 30 宗并购的 10-K MD&A 衡量同行语义相似度,与公告日异常收益比较;217 个观察的事件内秩相关为 +0.07(置换 p=0.37),30 宗中 14 支持、12 反对假设。探索性样本、相似度管线及事件收益度量限制法律或交易推论。
MLLM 生成图像检测基准
仅依据摘要。 基准覆盖直接生成、参考重建和局部编辑,检验传统检测器在高保真 MLLM 图像上的假阳/假阴,并给出 SAP-DSP 双流提示基线。开源代码有利复现;生成器快速迭代、数据许可和真实社媒压缩分布仍会改变结果。
前沿 LLM 在理想化 AI 竞赛中的极端策略
Phu Hoa Pham 等|arXiv|PDF
仅依据摘要。 作者先审计规则记忆、状态追踪、收益计算和表述稳定性,再将七个模型端点在二至五人重复博弈的轨迹与人类/演化博弈资料比较;强规则回忆仍可伴随弱状态推理。结果仅适用于给定提示、解码和玩具博弈,不能描述真实企业安全策略。
MMOOC:多模态模型的失上下文拒答评测
Wenjie Zhu 等|arXiv|PDF
仅依据摘要。 MMOOC 含逾 4.1 万图文问答、八类偏移和六类场景,区分应拒答的 OOC 与仍可回答的 Shifted IC,并以准确率、拒答率和 LLM 裁判衡量。作者称现有模型难平衡回答与拒答;合成偏移、裁判可靠性和拒答的用户成本值得复核。
JudgeBiasBench:LLM 裁判偏差评测与去偏
Hongli Zhou 等|arXiv|PDF
仅依据摘要。 JudgeBiasBench 以四维、12 类受控注入偏差测试生成式和判别式裁判,并用 RL/对比学习的偏差感知训练缓解偏差。作者称能在大致保留评价能力时降低偏差;注入偏差是否代表开放环境、去偏对不同任务的代价和 judge—被测模型共谋风险仍未解决。