Skip to content

AI Agent 工程实践 ​

相关笔记:04 框架技术栈 · 8. Spring AI、项目复盘:心理健康 AI 助手

这个栏目是教程:把「大模型 → Prompt → RAG → 工具 → Agent → 记忆/多智能体 → 工程化」这条链讲清楚,7 篇。

一、这个栏目解决什么问题 ​

网上的资料大量默认你懂这些词:ReAct、RRF、HNSW、KV Cache、Lost in the middle、pinning。它们散在各处,没法系统查。这个栏目就是那本「教材」。

一句话主线:

模型能力(01 大模型基础)
   ↓ 怎么问(02 Prompt 工程)
   ↓ 不懂的从哪查(03 RAG 体系)
   ↓ 怎么动手(04 工具调用与 MCP)
   ↓ 怎么自己做决策(05 Agent 编排)
   ↓ 怎么记住、怎么协作(06 记忆与多智能体)
   ↓ 怎么上线不炸、不烧钱(07 工程化落地)
模型能力(01 大模型基础)
   ↓ 怎么问(02 Prompt 工程)
   ↓ 不懂的从哪查(03 RAG 体系)
   ↓ 怎么动手(04 工具调用与 MCP)
   ↓ 怎么自己做决策(05 Agent 编排)
   ↓ 怎么记住、怎么协作(06 记忆与多智能体)
   ↓ 怎么上线不炸、不烧钱(07 工程化落地)

二、七篇怎么读 ​

篇讲什么关键产出
01 大模型基础Token、Transformer、采样参数、幻觉、模型选型、部署与显存能算清单次调用成本、能选对模型
02 Prompt 工程结构化模板、Few-shot、CoT、输出约束、注入防御、版本管理能写可维护、可评测的 Prompt
03 RAG 体系解析/切块、Embedding、向量索引、混合检索、Rerank、评估能搭一条可量化的 RAG 链路
04 工具调用与 MCPFunction Calling 协议、工具设计、MCP、安全边界能让模型安全地操作业务系统
05 Agent 编排ReAct、Plan-and-Execute、Reflexion、工作流、边界控制能做「可控的自主」
06 记忆与多智能体短期/长期记忆、写入与遗忘、协作模式、通信与冲突能做长会话与多角色
07 工程化落地分层架构、模型网关、成本、稳定性、可观测、评测发布能把它变成生产系统

三、三条学习路线 ​

零基础(按顺序)

01 → 02 → 03 → 04 → 05 → 06 → 07。

有后端经验、赶项目

02 → 04 → 03 → 07,先能把东西跑起来,再回头补 01 和 05。

只想快速过一遍

02 → 04 → 07,跳过原理直接看能落地的部分。

四、和 Java 后端笔记的分工 ​

内容在哪
模型/Agent 的通用原理与工程方法本栏目
Spring AI 具体接入(依赖、ChatClient、Advisor、@Tool、SSE)04 框架技术栈 · 第 8 章
一个真实的 AI 项目怎么落地、怎么讲项目复盘:心理健康 AI 助手

五、术语速查 ​

词一句话
Token模型处理文本的最小单位,计费和上下文都按它算
上下文窗口单次「输入 + 输出」的 token 上限
Prefill / Decode处理输入(并行,快)/ 逐 token 生成(串行,慢)
KV Cache缓存已算过的注意力键值,避免重复计算
Embedding把文本映射成向量,用于语义检索
RAG先检索资料再让模型照着答
Function Calling模型输出「调哪个函数、什么参数」,由应用执行
MCP模型与外部能力之间的标准协议
Agent能自己规划、多步执行、调用工具的模型应用
ReAct思考 → 行动 → 观察 的循环范式
幻觉一本正经地编造事实,只能缓解不能消除
Grounding让答案有据可依(引用资料/工具结果)