告别微调!Agentic上下文工程终极指南:让LLM自进化的保姆级教程,收藏这篇就够了!
近日,一篇来自斯坦福大学、SambaNova Systems、加州伯克利的论文在外网上引起了广泛讨论,有人认为微调已死,下一代人工智能依靠动态提示词即可实现自我进化;也有人认为虽然这是一个很好的方法,但微调始终必要。


论文提出Agentic上下文工程框架ACE,该框架将上下文视为持续演进的操作手册,通过生成、反思、整理的模块化流程,实现持续积累、优化与组织。
在智能体与领域特定基准测试中,ACE对离线上下文(如系统提示)和在线上下文(如智能体记忆)均实现优化,各项指标稳定超越强基线模型,同时显著降低自适应延迟与rollout成本。值得注意的是,ACE无需监督标注数据,仅通过自然执行反馈即可实现高效自适应。在AppWorld排行榜上,ACE使用较小的开源模型即可媲美最强生产级智能体性能。


-
论文标题:
Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models
-
论文链接:
https://arxiv.org/abs/2510.04618
01
背景与动机
LLM应用(如智能体和领域特定推理)日益依赖上下文自适应:通过指令、策略或证据修改输入,而非调整模型权重。现有方法虽提升了可用性,但仍存在两大局限。
简洁偏置**(Brevity Bias)**:多数提示词优化器倾向于生成简短通用的指令,而非全面信息的积累。这种优化目标虽符合某些场景的验证指标,却难以满足智能体与知识密集型应用所需的细致策略。
上下文坍缩**(Context Collapse)**:依赖LLM进行整体重写的方法会持续退化为信息量递减的摘要,导致性能急剧下滑。在交互式智能体、领域编程及金融法律分析等领域,性能恰恰依赖于保留详尽的领域知识而非进行信息压缩。

02
ACE框架
ACE框架与传统将知识压缩为简短摘要或静态指令的方法不同,它将上下文视为持续演进的操作手册,随时间推移不断积累、优化并整合策略,具体流程为:
- 生成器为新增查询生成推理轨迹,这些轨迹同时包含有效策略与常见误区。
- 反思器通过批判性分析这些轨迹提取经验或洞见,并可选择性地通过多轮迭代进行优化。
- 整理器将这些经验合成为精简的增量条目,由轻量级非LLM的逻辑机制确定性地归并至现有上下文中。
由于更新采用条目化局部处理,多个增量可实现并行整合,从而支持批量自适应扩展。ACE还支持多轮次自适应机制,相同查询可被重复访问以持续增强上下文。

ACE框架
为克服现有方法缺陷,ACE框架提出三项核心创新:
- 独立反思模块,将评估与洞见提取功能同信息整合相分离,从而提升上下文质量与下游性能;
- 增量式Delta更新,通过局部编辑替代代价高昂的整体重写,降低延迟与计算成本;
- Grow-and-Refine机制,在持续扩展上下文的同时精准控制冗余度。
增量式Delta更新:ACE的核心设计理念是将上下文表示为结构化、条目化的信息单元集合,而非单一整体式提示。包含两个组成部分:
- 元数据:涵盖唯一标识符及记录被标记为"有效"/"无效"次数的计数器;
- 内容体:承载可复用策略、领域概念或常见错误模式等最小知识单元。
当求解新问题时,生成器会标注哪些信息单元产生助益或存在误导,从而为反思器修改提供依据。
这种条目化设计实现了三个关键特性:
- 局部化更新:仅需调整相关条目;
- 细粒度检索:生成器可聚焦最关联知识;
- 增量式自适应:支持在推理过程中高效完成归并、剪枝与去重。
**Grow-and-Refine机制:**除持续扩展外,ACE还通过定期或惰性精炼确保上下文保持紧凑性与相关性。在此过程中,新条目被追加,现有条目则原地更新(例如,递增计数器)。随后通过语义向量比对进行去重。可根据应用对延迟与精度的要求,采用主动模式(每次增量更新后执行)或惰性模式(仅当超出上下文窗口时触发)。
03
实验

AppWorld基准测试中ACE生成上下文示例(部分展示):ACE生成的上下文包含详尽的领域洞见及可直接使用的工具与代码,为LLM应用构建起一套完整的操作手册。

AppWorld智能体基准测试结果
对于AppWorld,论文遵循该基准测试作者发布的官方ReAct实现,并在此框架基础上构建所有其他基线方法和改进方案。ACE通过动态优化输入上下文使智能体具备自我改进能力。在AppWorld基准测试中,仅凭执行反馈(无需真实标签)学习构建更优上下文,即可实现17.1%的准确率提升。

截至 2025 年 9 月 20 日访问的 AppWorld 排行榜
值得注意的是,在最新的AppWorld排行榜上(截至2025年9月20日),ACE使用较小的开源模型DeepSeek-V3.1,ReAct+ACE的平均得分便达到 59.4%,与排名第一的生产级智能体IBM CUGA(60.3%)相当。

金融分析基准测试结果
金融分析基准测试结果显示:在复杂金融推理基准测试中,ACE通过构建包含领域概念与洞见的综合操作手册,相较强基线模型平均性能提升8.6%。

成本与速度分析
成本与速度分析显示:ACE以高效的方式实现这些性能提升,将自适应延迟平均降低了86.9%,同时所需的rollouts更少,且显著降低了token消耗所带来的成本。
如何学习大模型 AI ?
我国在AI大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着Al技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国Al产业的创新步伐。加强人才培养,优化教育体系,国际合作并进,是破解困局、推动AI发展的关键。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

2025最新大模型学习路线
明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛,没有明确的学习路线可能会导致新人感到迷茫,不知道应该专注于哪些内容。
对于从来没有接触过AI大模型的同学,我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

针对以上大模型的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。
大模型经典PDF书籍
新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路!

配套大模型项目实战
所有视频教程所涉及的实战项目和项目源码等

博主介绍+AI项目案例集锦
MoPaaS专注于Al技术能力建设与应用场景开发,与智学优课联合孵化,培养适合未来发展需求的技术性人才和应用型领袖。


这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

为什么要学习大模型?
2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

适合人群
- 在校学生:包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础,有志于深入AGI大模型行业,希望开展相关的研究和开发工作。
- IT行业从业人员:包括在职或失业者,涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验,至少1年以上的编程工作经验,对大模型技术感兴趣或有业务需求,希望通过课程提升自身在IT领域的竞争力。
- IT管理及技术研究领域人员:包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势,主导技术创新,推动大模型技术在企业业务中的应用与改造。
- 传统AI从业人员:包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作,现需要快速补充大模型技术能力,获得大模型训练微调的实操技能,以适应新的技术发展趋势。

课程精彩瞬间
大模型核心原理与Prompt:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为Al应用开发打下坚实基础。
RAG应用开发工程:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。
Agent应用架构进阶实践:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。
模型微调与私有化大模型:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。
顶尖师资,深耕AI大模型前沿技术
实战专家亲授,让你少走弯路

一对一学习规划,职业生涯指导
- 真实商业项目实训
- 大厂绿色直通车
人才库优秀学员参与真实商业项目实训
以商业交付标准作为学习标准,具备真实大模型项目实践操作经验可写入简历,支持项目背调
大厂绿色直通车,冲击行业高薪岗位
文中涉及到的完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐






所有评论(0)