AI Agent 工程实践
这个栏目是教程:把「大模型 → Prompt → RAG → 工具 → Agent → 记忆/多智能体 → 工程化」这条链讲清楚,7 篇。
一、这个栏目解决什么问题
网上的资料大量默认你懂这些词:ReAct、RRF、HNSW、KV Cache、Lost in the middle、pinning。它们散在各处,没法系统查。这个栏目就是那本「教材」。
一句话主线:
模型能力(01 大模型基础)
↓ 怎么问(02 Prompt 工程)
↓ 不懂的从哪查(03 RAG 体系)
↓ 怎么动手(04 工具调用与 MCP)
↓ 怎么自己做决策(05 Agent 编排)
↓ 怎么记住、怎么协作(06 记忆与多智能体)
↓ 怎么上线不炸、不烧钱(07 工程化落地)模型能力(01 大模型基础)
↓ 怎么问(02 Prompt 工程)
↓ 不懂的从哪查(03 RAG 体系)
↓ 怎么动手(04 工具调用与 MCP)
↓ 怎么自己做决策(05 Agent 编排)
↓ 怎么记住、怎么协作(06 记忆与多智能体)
↓ 怎么上线不炸、不烧钱(07 工程化落地)二、七篇怎么读
| 篇 | 讲什么 | 关键产出 |
|---|---|---|
| 01 大模型基础 | Token、Transformer、采样参数、幻觉、模型选型、部署与显存 | 能算清单次调用成本、能选对模型 |
| 02 Prompt 工程 | 结构化模板、Few-shot、CoT、输出约束、注入防御、版本管理 | 能写可维护、可评测的 Prompt |
| 03 RAG 体系 | 解析/切块、Embedding、向量索引、混合检索、Rerank、评估 | 能搭一条可量化的 RAG 链路 |
| 04 工具调用与 MCP | Function Calling 协议、工具设计、MCP、安全边界 | 能让模型安全地操作业务系统 |
| 05 Agent 编排 | ReAct、Plan-and-Execute、Reflexion、工作流、边界控制 | 能做「可控的自主」 |
| 06 记忆与多智能体 | 短期/长期记忆、写入与遗忘、协作模式、通信与冲突 | 能做长会话与多角色 |
| 07 工程化落地 | 分层架构、模型网关、成本、稳定性、可观测、评测发布 | 能把它变成生产系统 |
三、三条学习路线
零基础(按顺序)
01 → 02 → 03 → 04 → 05 → 06 → 07。
有后端经验、赶项目
02 → 04 → 03 → 07,先能把东西跑起来,再回头补 01 和 05。
只想快速过一遍
02 → 04 → 07,跳过原理直接看能落地的部分。
四、和 Java 后端笔记的分工
| 内容 | 在哪 |
|---|---|
| 模型/Agent 的通用原理与工程方法 | 本栏目 |
Spring AI 具体接入(依赖、ChatClient、Advisor、@Tool、SSE) | 04 框架技术栈 · 第 8 章 |
| 一个真实的 AI 项目怎么落地、怎么讲 | 项目复盘:心理健康 AI 助手 |
五、术语速查
| 词 | 一句话 |
|---|---|
| Token | 模型处理文本的最小单位,计费和上下文都按它算 |
| 上下文窗口 | 单次「输入 + 输出」的 token 上限 |
| Prefill / Decode | 处理输入(并行,快)/ 逐 token 生成(串行,慢) |
| KV Cache | 缓存已算过的注意力键值,避免重复计算 |
| Embedding | 把文本映射成向量,用于语义检索 |
| RAG | 先检索资料再让模型照着答 |
| Function Calling | 模型输出「调哪个函数、什么参数」,由应用执行 |
| MCP | 模型与外部能力之间的标准协议 |
| Agent | 能自己规划、多步执行、调用工具的模型应用 |
| ReAct | 思考 → 行动 → 观察 的循环范式 |
| 幻觉 | 一本正经地编造事实,只能缓解不能消除 |
| Grounding | 让答案有据可依(引用资料/工具结果) |
Cao Note