AI 前沿日报 2026-07-05：Agent 循环失控、模块化代码生成，以及长上下文证据回放

今天的 AI 采集库有 8 条有效信号，其中新闻 3 条、前沿论文 5 条。和昨天不同，今天不再围绕 Fugu 调度、开源 AI 地图或持久状态代码库风险展开，而是更集中地指向一个问题：当 AI 从“生成答案”进入“持续执行任务”后，系统能不能被控制、被验证、被纠错、被停止。

这条主线分别出现在几个方向上：Agent 可能进入无限循环；代码模型可以通过模块化拆解扩大解题空间；长上下文模型需要把关键证据重新拿到台面上；视觉语言模型需要在反思时真正回看图像；模型遗忘也需要回答“知识到底有没有从参数里移走”。

1. Infinite Agentic Loops：Agent 风险从“答错”走向“停不下来”

今天最值得普通团队优先看的论文，是《When Agents Do Not Stop: Uncovering Infinite Agentic Loops in LLM Agents》。

这篇论文讨论的不是传统代码里的 while 死循环，而是 LLM Agent 在规划、工具调用、状态更新、多 Agent 协作和工作流转移中形成的运行时循环。作者把这类问题称为 Infinite Agentic Loops，简称 IALs。

它的风险很现实：一次普通请求，如果反馈路径没有有效边界，可能被放大成持续的模型调用、工具调用、上下文扩张和外部副作用。结果不只是回答慢一点，而可能是成本耗尽、服务被拖垮、上下文不断膨胀，甚至反复触发邮件、工单、Webhook、数据库写入这类外部动作。

论文还提出 IAL-Scan，用静态分析方式抽象不同 Agent 项目的代码，构建 Agentic Loop Dependence Graph，再检查反馈路径是否可能反复到达高成本或状态增长操作。作者报告在 6,549 个 LLM Agent 仓库上发现潜在问题，人工复核确认了 68 个 IAL failures。

这和昨天我们写的“持久状态 AI 编程 Agent 风险”不是一回事。昨天的问题发生在代码库长期演进里：多个 PR 组合起来形成风险。今天的问题发生在运行时：一个 Agent 在一次任务中因为边界不清，反复执行下去。

普通团队可以先做五件低成本的事：

• 给每个 Agent 工作流设置最大步数、最大模型调用次数和最大工具调用次数。
• 给外部副作用操作设置人工确认，例如发送消息、写数据库、提交订单、触发部署。
• 给长期运行任务设置超时和取消机制。
• 把 Agent 的每次工具调用记录成可回放日志。
• 对循环重试和自动修复逻辑做单独测试，而不是只测试最终结果。

2. DecompRL：代码生成不只是多抽样，而是先把难题拆小

DecompRL 这篇论文关注的是另一个工程问题：当 AI 面对太难的编程题时，单纯让它多试几次可能不够。

传统做法有两类。第一类是 repeated sampling，让模型反复生成更多候选答案；第二类是用强化学习和可验证奖励提升单次生成质量。这两类方法都有价值，但如果基础模型几乎不可能一次写出正确答案，再多抽样也很难撞到真正可行的解法。

DecompRL 的思路是把问题拆开：先让模型把任务分解成多个子功能，再分别生成每个模块的实现，最后把不同模块实现组合起来测试。论文摘要里给出的核心判断是，重组 n 个模块、每个模块 k 个实现，理论上能得到最多 k^n 个候选组合。这样一来，瓶颈从昂贵的 GPU 推理，部分转向便宜得多的 CPU 组合和验证。

这对普通开发者的启发很直接：让 AI 写代码时，不要总是让它“一口气写完整方案”。更稳的方式是：

1. 先让 AI 写接口和测试。
2. 再把任务拆成几个小模块。
3. 每个模块生成多个候选实现。
4. 用测试把组合跑一遍。
5. 最后让 AI 根据失败用例做最小修复。

这也是为什么测试越来越重要。没有可执行验证，模块化生成只会变成更多文本；有了测试，它才可能变成搜索空间的有效扩展。

3. ReContext：长上下文不是“装得下”，而是“用得准”

很多长上下文模型现在都在强调能放进几十万甚至上百万 token。但真实使用时，能装下不等于能用好。

ReContext 论文提出 Recursive Evidence Replay，目标是在不重新训练模型、不引入外部记忆、不裁剪完整上下文的前提下，提高长上下文推理表现。它的核心做法是：先利用模型内部相关性信号，从长文本里找出和问题相关的证据池，再把这些证据以文本片段形式在最终回答前重新回放给模型，同时保留完整原始上下文。

这件事对内容团队、知识库团队和企业内部 AI 助手都很关键。很多失败不是因为模型完全没看到资料，而是关键信息被埋在太长的上下文里，模型最后回答时没有真正抓住证据。

如果你在做知识库问答，可以借鉴这个思路：

• 不要只把一整份长文档塞给模型。
• 先让系统找出和问题最相关的证据片段。
• 在最终回答前把证据片段单独列出来。
• 要求回答必须引用证据，而不是只给结论。
• 对关键问题保留“证据是否支持结论”的复查步骤。

长上下文的价值不是让 AI 忘记检索，而是让检索、证据组织和完整上下文结合起来。

4. VRRL 与 RoboReward：多模态 AI 需要更可靠的反馈信号

今天采集库里还有两条和视觉、机器人相关的信号。

第一条是 Visual Reflection RL，也就是 VRRL。论文关注的是视觉语言模型在“反思自己答案”时，是否真的回头看图像。很多模型可以生成看似合理的文字推理链，但当需要纠错时，它们未必真正重新关注视觉输入，尤其是在遇到分布外图像时更容易失败。VRRL 试图通过监督微调和强化学习，让模型从视觉反馈中学会更有依据地纠错。

第二条是 RoboReward。DeepLearning.AI 对这项工作做了介绍：研究者构建了面向机器人训练的视觉语言奖励模型、数据集和评测，用来判断机器人执行任务的好坏。它的目标不是让机器人“听懂一句话”就结束，而是给机器人训练提供更可靠的奖励信号。

这两条看起来领域不同，其实都在回答同一个问题：AI 系统的反馈到底靠不靠谱？

视觉模型如果只是用文字自我安慰式反思，就可能越改越错。机器人如果奖励信号不稳定，训练出来的动作也可能偏离目标。未来多模态 AI 的关键，不只是更会看图、更会控制机械臂，而是能不能把观察、反馈、纠错和奖励做得更可信。

5. LACUNA：模型“忘了”不等于参数里真的删干净

LACUNA 这篇论文把问题放到模型遗忘上。

现在很多模型遗忘方法，会通过输出层面的表现来判断是否成功：模型不再说出某些敏感信息，看起来就像忘掉了。但论文指出，输出不再出现，不等于知识已经从模型参数中被精准删除。信息可能只是被藏得更深，遇到 resurfacing attacks 时仍可能再次出现。

LACUNA 的特别之处在于，它构建了一个带有参数级定位信息的测试环境。论文将合成个人信息注入到 OLMo 系列模型的预定义参数中，再测试遗忘方法是否真的命中相关权重。作者报告的结论是，现有一些方法虽然输出层面表现不错，但定位不够精确，也容易受到重新唤起攻击影响。

这对企业和平台有一个现实提醒：如果某个供应商只说“模型不会再输出这类信息”，这还不够。更严谨的问题应该是：

• 遗忘评测只看输出，还是也有更底层的证据？
• 面对变体提示、间接提示、长上下文诱导时是否仍稳健？
• 是否能区分“压制输出”和“真正减少记忆痕迹”？
• 对敏感数据删除有没有可审计流程？

模型遗忘会越来越重要，但它不应该被简化成一个营销词。

今天的判断

今天这些信号放在一起，说明 AI 正在进入一个更工程化的阶段。

过去我们常问：这个模型会不会生成？会不会推理？会不会写代码？今天更值得问的是：

• 它能不能在该停的时候停下来？
• 它能不能把难题拆成可验证的小块？
• 它能不能从长上下文里重新拿出关键证据？
• 它能不能根据视觉反馈真正纠错？
• 它能不能证明敏感知识不是只被藏起来？

对普通用户来说，这意味着选 AI 工具时不要只看回答是否漂亮。越重要的任务，越要看工具有没有边界、证据、测试、日志和失败处理。

对团队来说，今天的工作清单很朴素：给 Agent 加预算和超时，给代码生成加测试，给知识库回答加证据，给多模态任务加复查，给数据删除加审计。真正有价值的 AI，不只是能做事，而是能在可控范围内做事。

参考来源

• arXiv: When Agents Do Not Stop: Uncovering Infinite Agentic Loops in LLM Agents
• arXiv: DecompRL: Solving Harder Problems by Learning Modular Code Generation
• arXiv: ReContext: Recursive Evidence Replay as LLM Harness for Long-Context Reasoning
• arXiv: Visually Grounded Self-Reflection for Vision-Language Models via Reinforcement Learning
• DeepLearning.AI: Inside RoboReward, a Family of Vision-Language Reward Models for Robotics
• arXiv: LACUNA: A Testbed for Evaluating Localization Precision for LLM Unlearning
• Latent Space: The website of the future may assemble itself for every visitor
• Simon Willison: Building a World Map with only 500 bytes