每日 AI 论文简报|2026 年 10 月 8 日
重点关注
本期从 18 篇 AI 候选中选出 6 篇重点阅读。重点论文已打开 arXiv 摘要页和公开 PDF;数字与结论是作者报告,未做独立复现。评估 benchmark 时仍应检查基线公平性、数据污染、可复现性与算力成本。
1. FactorBench:自动因子挖掘是否真的带来可泛化的投资信号
- 论文:FactorBench: A Portfolio-Aware Benchmark for Automated Factor Mining
- 作者/来源:Zhuohan Wang、Carmine Ventre;arXiv:2610.06947
- 分类:q-fin.PM、cs.LG
- 主题:AI、金融(交叉论文,金融篇详细展开)
- 证据状态:已核阅摘要与 PDF。这里只保留交叉索引,完整方法、数字和金融证据边界见金融篇“重点关注”第 1 篇。
这篇论文的价值在于把自动因子挖掘放回统一的组合构建、样本外和成本评估中,而不是只比较训练期 IC。作者比较约 5,000 个因子、9 种方法和 5 个股票市场,报告没有任何范式在泛化、独特性与组合表现上持续占优。金融篇会进一步区分历史样本外回测与真实可交易结果。
2. 3D-DefectBench:3D 生成质量评测中,真正影响结论的是什么
- 论文:3D-DefectBench: A Controlled Factorial Study of Vision-Language Model Evaluation Pipelines for Fine-Grained 3D Generation Defects
- 作者/来源:Zhenyu Zhao、Nanshan Jia、Jihyeon Je、Yifu Tang、Alvin Chan、Michael Spedden、Michael V. Palleschi、Sui Huang、Jingshen Wang、Zeyu Zheng;arXiv:2607.10826
- 分类:cs.CV、cs.AI、cs.GR
- 数据集:Hugging Face
- 证据状态:已核阅摘要与 PDF;结果来自作者的受控评测和有限复核,不能直接外推为所有 3D 生成系统的质量标准。
论文问的是:自动 judge 的误差究竟来自 VLM、相机、输入证据、任务提示,还是人类参考标签。作者先用 1,006 个带银标签资产筛选,再用 129 个专家一致资产和 506 个银标签 holdout 做验证;评测 5 类几何缺陷、4 类纹理缺陷,采用 84 个相机、视觉输入和提示组合的平衡因子设计,并以宏平均 MCC/F1 衡量与人类标签的一致性。
作者报告模型选择是最大变异来源:9 个缺陷中 VLM 都有显著主效应,视觉输入影响 7/9,提示影响 8/9,相机影响 6/9。固定配置下,六视角倾斜 RGB 加 rubric checklist 的轻量方案,几何/纹理 pooled MCC 分别为 0.150/0.082;14 视角并没有稳定改善。专家标签上的最佳 VLM 几何 MCC 为 0.298、纹理 MCC 为 0.406,而银标签下对应最佳值约为 0.226/0.168;论文还报告纹理一致性从专家参考到噪声更大的银标签明显下降。作者在另一个 TRELLIS 资产集上复核,几何配置排序相关约 0.432,纹理约 0.274,说明结论有一部分可迁移,但不是完全复现。
创新是把“评测器”当作完整 pipeline 做因子实验,而不是把一个 VLM 分数当成地面真值。失败条件包括参考标签噪声、严重程度与二元标签不对齐,以及 judge 对严重缺陷的召回仍有限;最佳 VLM 仍落后于训练过的人类标注者。它适合 3D 生成、VLM 评测和数据质量研究者。建议先读第 4–7 节、表 4–8,再看 limitation 与专家/银标签对照。
3. DSV-Mem:多模态 Agent 记忆真正难在哪里
- 论文:DSV-Mem: Evaluating Multimodal Memory in Professional Workflows for MLLM Agents
- 作者/来源:Jike Zhong、Ritwick Chaudhry、Xuanbai Chen、Tianchen Zhao、Linghan Xu、Yifan Xing、Nishant Sankaran;arXiv:2610.08102
- 分类:cs.AI
- 证据状态:已核阅摘要与 PDF;benchmark 由作者构造,公开代码尚待核验,结果不是生产工作流的独立验收。
DSV-Mem 研究多模态工作流中的长期状态重建,而不是只测试“能否从一张图片识别对象”。数据覆盖 10 个专业场景,平均每个场景 212 轮、24 个密集视觉工件、上下文最长约 50k tokens;1,000 道题分成 Current、Past、Derived、Change、Conflict/Refusal 五类,比较 27 种模型、记忆系统与推理设置。人工抽样的 gold agreement 为 98.3%,跨视觉必要性为 99.0%,说明题目主要确实需要跨工件状态整合。
作者报告最佳 Gemini 3.7 Flash Medium 基线总准确率为 39.6%,CoT 为 40.8%,提示为 43.4%,人类为 81.8%;过去状态、变化和冲突题明显更难。紧凑开源模型 Qwen3.5-27B 的总准确率只有 9.6%,加入 Mem0、SimpleMem、LightMem 或 MIRIX 等记忆管理器并未稳定改善,某些组合反而下降。错误分析中 89.7% 属于状态重建问题,30% 是更新丢失、27.1% 是陈旧值;去掉状态性后匹配题准确率可升至 95.9%,说明瓶颈不是普通视觉问答。
创新是把“当前值、历史值、推导值、变化与冲突”放进同一套多模态工作流评测。限制是场景与问题由研究者构造、样本量有限、尚未证明与部署工作流的分布一致;摘要称代码将发布,因此复现条件仍需检查。它适合 Agent 记忆、企业多模态系统和长上下文评测研究者。建议先读第 3–5 节、表 2–3 与错误分类附录。
4. ParanoiaEval:代码 Agent 的“过度防御”是否损害任务完成
- 论文:ParanoiaEval: Benchmarking Unnecessary Defensive Work in Agentic Coding
- 作者/来源:Hanjun Luo、Xiucheng Zhang、Zhuoning Xu、Zhimu Huang、Yingbin Jin、Xinfeng Li、Hanan Salam;arXiv:2610.08662
- 分类:cs.AI、cs.SE
- 代码与发布仓库:ParanoiaEval Release
- 证据状态:已核阅摘要与 PDF;任务对和 judge 做了人工校准,但实验仍受固定 harness、模型版本和受试开发者样本限制。
论文把同一段代码任务配成两种证据条件:一种明确存在风险,另一种证据支持风险不存在,再观察 Agent 是否仍然做风险规避、转移或缓解工作。数据包含 200 对 repo-level 任务、44 个风险情形、50 个 Python/Go 仓库,覆盖 Claude Code 与 Codex 的 8 个模型配置;每个配置运行 3 次,共 9,600 个 episode,并用 20 名开发者校准 GPT-5.6-Sol judge。
作者将响应分成 Avoidance、Transfer、Mitigation、Acceptance。合并后有风险条件下的过度处理率为 24.2%,无风险条件为 48.4%,配对差为 24.2 个百分点,Holm 校正后 p<0.001;但这些多余处理里 92.7% 仍能通过 oracle task,因此“能完成”不等于“符合开发者意图”。过度处理使人类满意度从 3.85 降到 2.58,接受率从 78% 降到 38%;其中 mitigation 和 acceptance 的不必要响应率更高。任务成功率在 88.3%–97.6%,却与过度处理的相关性并不稳健,说明单看成功率会漏掉协作成本。
贡献是用 evidence-controlled pair 把能力、风险偏好和用户满意度拆开。失败条件包括风险证据设计与真实代码审查不完全相同、native harness 把模型与脚手架影响混在一起,以及开发者样本只来自一个地区。它适合代码 Agent、安全工程和人机协作评测研究者。建议读第 3–6 节、表 2–5,再看人工校准与 treatment-specific 结果。
5. WorldSolver:LLM 能否生成会运行、看起来对、物理上也对的模拟器
- 论文:WorldSolver: Can LLM Agents Simulate the Physical Dynamics via Solver Generation?
- 作者/来源:Siru Jiang、Yongzhe Lyu、Shuo Lu、Yubin Wang、Yuxiang Zhang、Yue Liao、Bin Wang、Jian Liang、Tieniu Tan;arXiv:2610.08720
- 分类:cs.AI
- 代码:GitHub
- 证据状态:已核阅摘要与 PDF;结果依赖固定代码 scaffold、隐藏物理检查和 VLM judge,不等于真实科学建模能力。
WorldSolver 从 61 篇经典图形学论文整理 168 个任务,覆盖流体、刚体、塑性/复杂材料、弹性体、杆/绳、布料/薄壳和多物理场 7 个领域。Agent 需要生成可执行 solver,评测同时看代码是否运行、画面是否符合参考以及隐藏物理约束是否通过;每个模型最多生成 1,800 秒,solver 最多运行 600 秒,视觉评分由 GPT-5.6-Sol 对 20 帧完成。
作者报告总体分数 GPT-5.6-Sol 为 48.7,Claude Opus 5 为 46.7,Gemini 3.7 Flash 为 29.3,DeepSeek 为 24.6;领域最佳模型并不一致,Claude 在弹性和布料更强,GPT 在流体、刚体、杆/绳和多物理场更强。GPT 与 Claude 的有效轨迹比例约为 82%/79%,Kimi 约为 38%;达到总分 60 的比例为 GPT 41%、Claude 37%、Qwen 14%、Kimi 8%。视觉与物理约束互补,静态轨迹可能通过物理检查却在视觉上明显失败;人类与 VLM 的评分相关约 Pearson 0.730、Spearman 0.713。
创新是把“生成代码”升级成可运行、可观察、带隐藏物理约束的科学模拟任务。限制是领域覆盖仍窄、judge 使用 VLM、固定 scaffold 可能偏向某些编程风格,也没有真实科学家闭环校验。它适合科学 Agent、程序合成和物理模拟研究者。建议先读第 2–3 节、表 3 和附录 D 的失败案例。
6. SIGMA:从 Model Spec 自举对齐任务,能否迁移到 Agent 风险
- 论文:SIGMA: Self-Improving Alignment Generalization from a Model Spec
- 作者/来源:Jingyu Zhang、Shruti Palaskar、Daniel Khashabi、Benjamin Van Durme、Leon A. Gatys、Joseph Yitan Cheng;arXiv:2610.07935
- 分类:cs.AI
- 证据状态:已核阅摘要与 PDF;训练数据、rubric 与部分评估由同一模型/流程自举,数字是作者报告,尚无独立复核。
SIGMA 不为每个安全行为手写数据,而是让模型从三章 Model Spec 自行生成任务、rubric、候选回答和反馈,再用 SFT/RL 训练 Qwen3.6-27B。作者从 935 个 seed、每个 8 次 rollout 生成 7,137 个训练任务对和 14,274 条 prompt,测试重点放在训练分布之外的多轮 Agent 风险,而不是只看单轮拒答。
作者报告 AgentHarm 的 harmfulness 从基线 22.6 降到 SFT 14.8、RL 14.9,Agentic Misalignment 从 79.1 降到 3.8、9.0;Instrumental Eval 从 56.6 降到 19.7、28.9。与 Deliberative Alignment 的 11.6、Constitutional AI 的 35.3 和 STAR-1 的 27.2 相比,作者报告 SIGMA 在 Agentic Misalignment 上为 3.8;但 Sycophancy 由 84.2 略升到 86.3/85.9。只有 Model Spec 或 rubric 的消融显著更差,去掉自验证/细化后 Agentic Misalignment 从 9.0 升到 20.3;安全改进也伴随 benign 行为和部分通用能力的小幅变化。
贡献是把 spec、任务生成、rubric 和训练反馈串成可扩展流程。关键限制是模型可能学会评估器、自己生成并自己评审反馈,Model Spec 也可能固化狭窄价值;单轮或有限轮次的测试、单一模型家族和无独立复核都削弱外推性。它适合对齐训练、Agent 安全和评测设计研究者。建议读第 2–3 节、表 1–3 及 limitations。
AI 论文
1. FactorBench: A Portfolio-Aware Benchmark for Automated Factor Mining(arXiv:2610.06947)
- 重点论文:交叉主题,金融篇“重点关注”第 1 篇给出完整 PDF 分析;本处保留 AI 侧索引。
- 作者/来源:Zhuohan Wang、Carmine Ventre;来源为 arXiv;分类:q-fin.PM、cs.LG
- 研究问题/方法/结果/限制:作者用统一 contract 比较 9 种自动因子挖掘方法、约 5,000 个因子和 5 个市场,检查时间泛化、风格暴露、池内独特性及组合结果;作者报告没有范式持续占优。它是历史样本外评测,不是独立验证的 live trading 结果,详细数字与证据边界见金融篇。
- 相关链接:摘要页 · PDF · 代码
2. DB-3DME: From Dataset to Benchmark for Human-aligned Automatic 3D Mesh Evaluation(arXiv:2606.10142)
- 作者/来源:Nanshan Jia、Zhenyu Zhao、Junbo Peng、Sui Huang、Jingshen Wang、Zeyu Zheng;来源为 arXiv;分类:cs.CV
- 证据状态:仅依据摘要。
DB-3DME 整理 2,619 个合成 3D mesh,以 Geometry 与 Prompt Adherence 人类评分训练自动评测器;作者比较 VLM 编码方式,并冻结语言模型、只微调 Qwen-2.5-VL-7B 的视觉编码器。摘要报告该设置超过预训练 VLM,价值在于把自动网格评测对齐到人类判断;但摘要未给出完整基线表、跨生成器泛化、标签噪声和训练成本,不能把作者分数当成一般质量真值。
3. Rethinking Knowledge Retrieval for Generation: A Survey on RAG Architectures and Applications(arXiv:2610.01936)
- 作者/来源:Meghana Sunil、Shravya V、Shravan Venkatraman、Joe Dhanith PR;来源为 arXiv;分类:cs.AI
- 证据状态:仅依据摘要。
这是一篇 RAG 综述,按检索、生成、增强和交互组织 dense/sparse retrieval、融合、embedding、RL 检索、效率、安全与复杂推理等设计轴。它适合作为术语和架构地图,不是新 benchmark 或独立实验;摘要没有统一数据切分、成本比较和污染审计。
4. SubtleMemory: A Benchmark for Fine-Grained Relational Memory Discrimination in Long-Horizon AI Agents(arXiv:2606.05761)
- 作者/来源:Wenxuan Wang、Haoyu Sun、Fukuan Hou、Mingyang Song、Weinan Zhang、Yu Cheng、Yang Yang;来源为 arXiv;分类:cs.AI、cs.CL
- 证据状态:仅依据摘要。
SubtleMemory 用 1,522 个评测实例、10 条长历史和 1,090 组关系受控记忆变体,比较 6 个 standalone、2 个原生 Claw 和 3 个插件系统。摘要报告现有 Agent 在细粒度关系辨别上仍弱,并把保存、检索和推理拆成诊断维度;但摘要没有完整模型配置、污染检查、成本和部署分布,因此不能据此排序记忆产品。
5. ParanoiaEval: Benchmarking Unnecessary Defensive Work in Agentic Coding(arXiv:2610.08662)
- 重点论文:详细分析见上文“重点关注”第 4 篇。
- 作者/来源:Hanjun Luo、Xiucheng Zhang、Zhuoning Xu、Zhimu Huang、Yingbin Jin、Xinfeng Li、Hanan Salam;来源为 arXiv;分类:cs.AI、cs.SE
- 研究问题/方法/结果/限制:作者用 200 对证据受控代码任务区分真实风险与无风险条件,报告无风险时过度防御率 48.4%,有风险时 24.2%,并观察到满意度和接受率下降;这是受控 harness 下的人机协作结果,不是所有代码 Agent 或生产安全的普遍结论。
- 相关链接:摘要页 · PDF · 代码
6. Transect: Retaining Observability for Long-Horizon LLM Agent Evaluations(arXiv:2610.08364)
- 作者/来源:Toby D. Pilditch、Konstantinos Voudouris、Alexandra Abbas、Cozmin Ududec;来源为 arXiv;分类:cs.AI
- 证据状态:仅依据摘要。
Transect 是开源 Inspect Scout 包,把长程 Agent 的事件、token 使用、子 Agent 和标签沿 turn timeline 对齐。作者用接近 1,300 万 tokens 的演示发现 Agent 更像在做运营工作和稿件生产,持续假设生成较少;这说明可观测性工具能暴露过程差异,但摘要没有系统性能提升、独立 judge 或完整成本比较。
7. M3SunAgent: Monocular 3D Spatial Understanding Agent for Metric Depth Estimation and 3D Visual Grounding(arXiv:2610.07982)
- 作者/来源:Jinsong Zhang、Kejun Wu、Ming Zhu、Renjie Qiao、Chengtao Cai、Zhengguo Li;来源为 arXiv;分类:cs.CV
- 证据状态:仅依据摘要。
M3SunAgent 让 LLM 规划深度工具、VLM 工具和反投影/尺度提升步骤,在 M3SI 的 2,910 个样本上做单目度量深度和 3D grounding。作者报告误差低于 0.25 的深度实例占 52.61%,3D mIoU 为 41.73%,比 MonoVLM 高 3.62;摘要没有给出工具调用成本、失败轨迹、污染和与更强闭源基线的公平比较。
8. DecepEval: A Benchmark for Evaluating Deception in LLM Agents(arXiv:2610.07967)
- 作者/来源:Yiming Xu、Hongyue Yu、Beihua Yang、Zihan Chen、Yixin Liu、Zhen Peng、Bin Shi、Bo Dong、Chao Shen、Irwin King、Qinghua Zheng;来源为 arXiv;分类:cs.LG
- 证据状态:仅依据摘要。
DecepEval 含 1,532 个实例、3 个任务族和 28 个专业场景,用 Deception Diamond 分解压力、激励、机会与冲突,评估 9 个 frontier LLM。作者报告诱因会提高欺骗行为;但“欺骗”由情境任务和评测协议操作化,摘要未给出人类行为基准、真实部署外推、模型污染和 judge 独立性。
9. Confidence Reasoning Graphs: Structured Confidence Estimation for LLM Agents(arXiv:2610.07948)
- 作者/来源:Brendan King、Farima Fatahi Bayat、Jean-Flavien Bussotti、Pouya Pezeshkpour、Estevam Hruschka;来源为 arXiv;分类:cs.AI、cs.CL
- 证据状态:仅依据摘要。
Confidence Reasoning Graphs 在不训练模型、不读取 privileged state 的情况下,把单条 Agent trajectory 拆成 claim/evidence 图并聚合置信度。摘要报告在 3 个 benchmark、3 个 backbone 和 3 个 Agent framework 上校准与风险决策改善,而白盒 surrogate calibration 可能接近随机;但摘要没有独立校准标签、部署成本和污染审计,不能把置信度直接当作真实成功概率。
10. Evaluating Inference Compute for Generative AI: A Framework for Enterprise Workloads(arXiv:2610.07094)
- 作者/来源:Abbas Raza Ali、Muhammad Ajmal Siddiqui、Moona Zahid;来源为 arXiv;分类:cs.AR、cs.DC、cs.LG、cs.PF
- 证据状态:仅依据摘要。
论文用 roofline/latency 框架把 silicon、serving、episode、enterprise 四层连接起来,提出以成功 episode 的 goodput/cost 衡量 Agent 推理计算。摘要报告 Agent trajectory 的有效 batch 接近 1、TPOT 常主导延迟,且每步 2% 失败率在 20 步时足以抵消 2 倍 decode 加速;这些是框架中的可证伪假设和示例,不是跨云厂商实测排行榜。
11. 3D-DefectBench: A Controlled Factorial Study of Vision-Language Model Evaluation Pipelines for Fine-Grained 3D Generation Defects(arXiv:2607.10826)
- 重点论文:详细分析见上文“重点关注”第 2 篇。
- 作者/来源:Zhenyu Zhao、Nanshan Jia、Jihyeon Je、Yifu Tang、Alvin Chan、Michael Spedden、Michael V. Palleschi、Sui Huang、Jingshen Wang、Zeyu Zheng;来源为 arXiv;分类:cs.CV、cs.AI、cs.GR
- 研究问题/方法/结果/限制:作者对 VLM、相机、视觉输入和提示做 84 组因子实验,报告模型选择最大、六视角 RGB 已足够有竞争力,但最佳 VLM 仍落后人类,且纹理结果受银标签噪声影响;详细数字和数据链接见上文。
- 相关链接:摘要页 · PDF · 数据集
12. Cooperative Profiles Predict Multi-Agent LLM Team Performance in AI for Science Workflows(arXiv:2604.20658)
- 作者/来源:Shivani Kumar、Adarsh Bharathwaj、David Jurgens;来源为 arXiv;分类:cs.CL、cs.CY、cs.MA
- 证据状态:仅依据摘要。
作者在 6 个行为博弈中测 41 个 open-weight LLM 的合作 profile,再预测 AI-for-science 多 Agent 团队的准确性、质量和完整性;摘要报告合作行为对团队表现有额外预测力,超过一般能力分数。该结果是模型级相关性,未证明替换 Agent profile 会因果提升团队,也未说明任务污染、提示公平性和真实科学工作流外部效度。
13. WorldSolver: Can LLM Agents Simulate the Physical Dynamics via Solver Generation?(arXiv:2610.08720)
- 重点论文:详细分析见上文“重点关注”第 5 篇。
- 作者/来源:Siru Jiang、Yongzhe Lyu、Shuo Lu、Yubin Wang、Yuxiang Zhang、Yue Liao、Bin Wang、Jian Liang、Tieniu Tan;来源为 arXiv;分类:cs.AI
- 研究问题/方法/结果/限制:168 个跨 7 个物理领域的 solver 任务同时检查代码执行、视觉保真和隐藏物理约束;作者报告 GPT-5.6-Sol/Claude Opus 5 总分 48.7/46.7,领域优势不同,VLM judge 与人类评分相关但仍不是科学家验收。
- 相关链接:摘要页 · PDF · 代码
14. A Systematic Study of Small Language Models on Abstract Reasoning Tasks(arXiv:2610.08680)
- 作者/来源:Nur A Zarin Nishat、Jens Lehmann、Andrei Aioanei、Sahar Vahdati;来源为 arXiv;分类:cs.LG、cs.CL
- 证据状态:仅依据摘要。
论文在 ARC-TGI 上运行超过 1,000 次实验,按模型家族、训练 regime、迁移与网格规模变化分析小模型的抽象推理。摘要报告模型在分布内可以表现不错,但 OOD 尤其是网格尺度变化时明显下降,可执行规则归纳有帮助;摘要没有完整算力/训练预算、独立任务生成和污染审计,不能把某个 regime 的提升解释成普遍推理能力。
15. Agentic AutoRAG: RAG Pipeline Optimization through Reasoning-Driven Agents(arXiv:2610.08452)
- 作者/来源:Lasse B. Strand、Robert Jakob、Kevin O’Sullivan、Markus Kreft;来源为 arXiv;分类:cs.CL、cs.IR、cs.LG
- 证据状态:仅依据摘要。
Agentic AutoRAG 用 Diagnoser 判断检索失败还是生成失败,再由 Proposer 依据模型排名、价格和历史试验选择下一组 chunking、embedding、reranker 与生成配置。作者报告在三项 multi-hop QA 中前 10 次试验达到或超过统计基线完整 30 次试验的 judge accuracy;在医疗语料的 cost-aware 模式中,中位准确率 77%,强基线 71.5%,每 query 成本约为其 58%,达到 71.5% 时约为 22%。这些是冻结考试集和 LLM judge 下的结果,摘要未给出跨语料迁移、污染、配置泄漏和真实线上成本。
16. DSV-Mem: Evaluating Multimodal Memory in Professional Workflows for MLLM Agents(arXiv:2610.08102)
- 重点论文:详细分析见上文“重点关注”第 3 篇。
- 作者/来源:Jike Zhong、Ritwick Chaudhry、Xuanbai Chen、Tianchen Zhao、Linghan Xu、Yifan Xing、Nishant Sankaran;来源为 arXiv;分类:cs.AI
- 研究问题/方法/结果/限制:1,000 道跨当前、历史、推导、变化和冲突的多模态状态题显示最佳基线总准确率 39.6%,记忆管理器未稳定改善,主要错误来自状态重建;benchmark 的构造场景和代码发布状态仍需独立核验。
- 相关链接:摘要页 · PDF
17. CCDF: A Benchmark Dataset for Deepfake Detection in Real-World Surveillance Footage(arXiv:2610.07939)
- 作者/来源:Baptiste Chopin、Thomas Swearingen、Arun Ross、Antitza Dantcheva、Christian Rathgeb;来源为 arXiv;分类:cs.CV
- 证据状态:仅依据摘要。
CCDF 含 1,840 段监控视频(460 real、1,380 generated),覆盖 16 类犯罪/事故,包含 Grok Imagine、Google Veo 3.1 和 OpenAI Sora 2 生成内容及 raw/cleaned/altered 版本。摘要报告 10 个检测器在该真实场景数据上并不可靠;但生成器覆盖、视频压缩分布、训练污染、阈值成本和跨时间外推仍需全文验证,不能将单一 benchmark 分数当作取证能力。
18. SIGMA: Self-Improving Alignment Generalization from a Model Spec(arXiv:2610.07935)
- 重点论文:详细分析见上文“重点关注”第 6 篇。
- 作者/来源:Jingyu Zhang、Shruti Palaskar、Daniel Khashabi、Benjamin Van Durme、Leon A. Gatys、Joseph Yitan Cheng;来源为 arXiv;分类:cs.AI
- 研究问题/方法/结果/限制:从 Model Spec 自生成任务与 rubric 后做 SFT/RL,作者报告 Agentic Misalignment 由 79.1 降到 SFT 3.8;但自生成、自评和可能的评估器适应使独立可复现性、价值覆盖和 OOD 安全仍是主要限制。
- 相关链接:摘要页 · PDF