AI 治理
为什么 AI 总在长任务里跑偏:多步任务的失败点在哪
长任务失败往往出在重复执行的稳定性:模型需要把同一件简单事连续做几十次,错误会在过程中累积。本文用 ICLR 2026、NeurIPS 2025 的一手实验拆出三个具体失败点:错误的自我强化、多轮目标漂移、验收环节缺位,并给出按步数预算切分任务、回滚清除错误历史、用 pass^k 验收等六个可落地做法。
主题
生成式 AI 的责任、透明度、可靠性与组织治理。

AI 治理
长任务失败往往出在重复执行的稳定性:模型需要把同一件简单事连续做几十次,错误会在过程中累积。本文用 ICLR 2026、NeurIPS 2025 的一手实验拆出三个具体失败点:错误的自我强化、多轮目标漂移、验收环节缺位,并给出按步数预算切分任务、回滚清除错误历史、用 pass^k 验收等六个可落地做法。