今日速览
| 序号 | 标题 | 来源 | 日期 | 主题 | 推荐等级 |
|---|---|---|---|---|---|
| 1 | Who Does What in AI Auditing? Designing Human-AI Collaboration for Auditing Generative AI | arXiv | 2026-09-21 | RAG | 高 |
| 2 | RRSI: Regularized Recursive Self-Improvement of Agent Harnesses | arXiv | 2026-09-21 | RAG | 高 |
重点论文与技术动态
1. Who Does What in AI Auditing? Designing Human-AI Collaboration for Auditing Generative AI
- 来源：arXiv
- 日期：2026-09-21
- 作者/机构：Eunkyu Park, Markelle Roesti, Wesley Hanwen Deng, Renata Barreto, Mohammad Tahaei, Kenneth Holstein
- 主题标签：
RAG,arXiv - 推荐等级：高
- 分类：cs.HC
一句话结论
论文提出 HAAC，面向生成式 AI 审计的人机协作工作流与系统，让 AI 代理支持探索、评估、报告与审查，并保留人类关键判断。
核心内容
- AI 审计引入代理可扩大覆盖，但需明确分工，避免替代人类判断。
- HAAC 基于先前研究与从业者咨询，规定代理在探索、评估、报告、审查中的支持方式。
- 对话式购物代理场景中，AI 辅助提升攻击成功并拓宽探索，也影响后续攻击，并增加对 AI 评估与报告的依赖。
方法与数据
- 两项研究评估，71 名审计者；另访谈负责任 AI 从业者。
- 具体实验设置、指标与统计方法摘要未明确。
价值判断
- 值得关注：为生成式 AI 审计提供人机分工框架，强调覆盖可见性、可复现攻击轨迹和审计代理自身评估。
- 可复用点：HAAC 的阶段化协作设计可用于组织 AI 审计中的人机分工。
- 局限/待核查：仅在对话式购物代理中验证；泛化性、长期影响与代理评估细节摘要未明确。
摘要
AI auditing increasingly incorporates AI agents to expand the scale and breadth of audit coverage, yet little is known about how auditing work should be divided without displacing human judgment. We introduce Human-Agent Audit Collaboration (HAAC), a workflow and system for structuring human-AI collaboration in AI auditing. Drawing on prior work and formative consultations with AI auditing practitioners, HAAC specifies how agents can support exploration, assessment, reporting, and review while preserving human oversight where contextual judgment is critical. We instantiate HAAC for conversational shopping agents and evaluate it through two studies. With 71 auditors, AI assistance increased attack success and broadened exploration, while also shaping later attacks and increasing auditors' reliance on AI-generated assessments and reports. Interviews with Responsible AI practitioners showed that actionable audits require visibility into coverage, reproducible attack trajectories, and evaluation of the auditing agents themselves. Our findings identify design considerations for effective and accountable human-AI auditing.2. RRSI: Regularized Recursive Self-Improvement of Agent Harnesses
- 来源：arXiv
- 日期：2026-09-21
- 作者/机构：Peng Xia, Rujun Han, Zifeng Wang, Yanfei Chen, Yufan Zhang, Yoonho Lee
- 主题标签：
RAG,arXiv - 推荐等级：高
- 分类：cs.LG, cs.AI, cs.CL
一句话结论
RRSI 以正则化约束智能体外壳递归自我改进，降低过拟合并提升分布外泛化。
核心内容
- 智能体能力受提示、控制流、工具、记忆与上下文管理等外壳放大，可自动迭代编辑。
- 无约束递归进化易记忆训练任务，分布内收益高，分布外提升可能缩小或消失。
- RRSI 限制候选编辑数量并鼓励未探索轨迹；选择端用 critic/pruner 过滤低价值改动。
方法与数据
- 方法：提出端用时间退火预算与历史探索；选择端用 critic 筛选基准相关提案，pruner 移除过小、过贵或失效改动。
- 数据：编码、工作区与工程设计等八个基准上，进化 split 最高提升 14.1 点，五个分布外基准最高提升 4.7 点，策略 token 减少 30%。
价值判断
- 值得关注：正则化用于智能体系统级自我改进，兼顾性能与泛化。
- 可复用点：编辑预算、历史探索、critic/pruner 筛选可迁移。
- 局限/待核查：摘要未明确骨干模型、任务构成、显著性与成本细节。