前端 AI 应用
后端接上模型只是第一步。真正决定体验的是前端这几件事:字能不能一个字一个字出来、断了能不能续、生成到一半能不能停、安不安全。 这个目录收的就是「前端做 AI 产品」的那层工程问题。
已收录
| 篇 | 讲什么 | 读完能解决 |
|---|---|---|
| 01 流式输出与通信 | SSE 与 fetch 读流、增量解析、断流续传、中断重试、流式 Markdown 渲染 | 「回答十几个字才蹦出来一次」「长回答被截断」「中文乱码」「生成到一半没法停」 |
| 02 AI 应用安全与合规 | Prompt 注入(直接与间接)、工具调用越权、多租户隔离、内容审核、数据出境 | 「模型被一句话说服就把数据交出去了」「检索到了别人的文档」「上线被合规卡住」 |
和后端那部分的分工
后端(knowledge/backend/AI-Agent) 前端(本目录)
─────────────────────────────────────────────────
调模型、编排 Agent、RAG 检索 ←→ 流式渲染、交互状态、安全兜底展示
工具调用与权限(服务端) ←→ 越权提示、二次确认 UI
成本与限流(服务端) ←→ 配额提示、降级态展示后端(knowledge/backend/AI-Agent) 前端(本目录)
─────────────────────────────────────────────────
调模型、编排 Agent、RAG 检索 ←→ 流式渲染、交互状态、安全兜底展示
工具调用与权限(服务端) ←→ 越权提示、二次确认 UI
成本与限流(服务端) ←→ 配额提示、降级态展示边界很清楚:凡是「用户可以绕过前端直接调接口」能造成的风险,都必须在后端解决;前端只负责体验和最后一层展示安全(转义、CSP、二次确认)。
后续想补的(按价值)
- AI 对话界面开发:消息状态机(pending / streaming / done / error)、重试与分支、多轮编辑、会话列表
- Generative UI:让模型返回结构化描述、前端渲染组件(而不是纯文本)
- 端侧 AI:WebGPU / WebNN 跑小模型,隐私与延迟的取舍
- 多模态交互:语音输入输出、图片理解的前端链路
一句提醒
流式这件事后端和前端各有一半:后端要落库、要知道断点在哪;前端要缓冲、要节流渲染、要能续传。只做一半就会出现「看起来在流、其实一断就全丢」的假流式。
Cao Note