AI 工程实践
约 1722 字大约 6 分钟
2026-05-22
从模型部署到 MLOps 流水线，把 AI 能力真正落地到生产环境。
内容规划
- 模型部署方案
- MLOps 流水线
- 模型监控与运维
- AI 项目实战案例
- 向量数据库应用
📝 内容持续更新中...
📚 实战连载：给博客搭一个 RAG 知识库
这是一个什么系列
一句话：我要把博客里写的文章喂给一个 AI，让它替我回答读者的提问。
这个系列不是概念科普，是完完整整的实战记录。我会用自己的博客文章当语料，用 Java AI + PostgreSQL（PGVector）搭一个能跑的知识库和问答演示平台，边写代码边讲踩过的坑。每一篇都对应一块真的要动手做的活儿，写完这篇博客，那个平台也就多了一个功能。
整个平台是前后端配套的：管理端 relax-admin（React + shadcn/ui，语料管理、切片治理、会话洞察、评测中心、提示词安全、流量管控等功能页已就位）+ 后端 realx-web（Spring Boot + Java AI，8031 端口，这个系列要写的代码都在这头）+ 聊天前台。博客语料托管在 Gitee 仓库（拉取型知识库，每 6 小时增量同步），系列的每一篇都会标注它对应管理端的哪个页面——讲完一篇，那个页面就从演示数据变成真实接口。
技术栈先亮出来，免得看到一半发现货不对板：
- 管理端：relax-admin（React 19 + shadcn/ui + Tailwind，已实现）
- 后端：Spring Boot + Java AI 1.1.x（realx-web，8031 端口，本系列实现）
- 向量库：PostgreSQL +
PGVector（不引入 Milvus 这类重型中间件，原因第 07 篇专门讲） - 模型：Embedding 和 Rerank 走多语种模型（中文场景必需），生成走主流大模型，配置落在管理端「AI 引擎」页
- 语料：Gitee 仓库里的博客 Markdown 文章（拉取型知识库，cron 增量同步）
讲解范围（圈死了，不瞎扩张）
讲什么：
- 数据侧：博客文章怎么解析、怎么切分、怎么带元数据入库——数据质量决定 RAG 的上限
- 检索侧：向量检索、混合检索（BM25 + 向量）、RRF 融合、Rerank 精排
- 生成侧：Prompt 组装、引用归因、防幻觉、流式输出
- 对话侧：多轮对话的查询改写和记忆管理
- 工程侧：评测怎么做、语料管理状态机、安全和成本控制
不讲什么（提前说清楚）：
- 不讲 Transformer 底层原理和模型训练（隔壁 LLM 笔记里有）
- 不讲微调（Fine-tuning），这个系列只聊 RAG 路线
- 不讲分布式向量库集群、千万级以上的海量优化——个人博客知识库用不到，不装
- 不深挖 GraphRAG、Agentic RAG 这些前沿玩法，最多在结尾提一嘴留个钩子
目录
第一部分：想法与地基
第二部分：把数据弄干净（效果的上限在这里）
- 04 博客文章的解析：Markdown 也是有讲究的
- 05 切分：效果的一半，就看你切得好不好
- 06 Embedding：把文字变成向量，以及换模型的代价
- 07 PGVector：让向量住进 Postgres
第三部分：把检索做准
第四部分：把回答做可信
第五部分：把系统养起来
更新节奏
一篇一个主题，尽量保持每篇独立成文（碎片时间能读完），但代码和项目是连续演进的，建议按顺序读。
从哪篇开始
赶时间的话：想懂原理先看 02；想直接抄作业从 08 开始；只关心「怎么不胡说八道」直奔 12。
📝 系列连载中，目录里的链接会随着更新逐个点亮……
🚀 实战连载：AI 项目部署三部曲
这是一个什么系列
一句话：新服务器到手，从零开始把自己的 AI 项目部署上线。
这个系列记录了完整的部署实战过程——从部署工具的选型（Jenkins → Drone → Alibaba Cloud Toolkit 的踩坑历程），到 Docker 容器化的具体实现，再到一个 Shell 脚本搞定前后端自动化部署的全过程。
技术栈先亮出来：
- 部署方式：Docker 容器化（后端）+ Nginx 静态托管（前端）
- 部署工具：Alibaba Cloud Toolkit（IDE 一键部署）+ 统一 Shell 脚本
- 服务器：2 核 2G 个人服务器（对，就是被 Jenkins 和 Drone 干冒烟的那台）
- 项目：relax-web（Spring Boot 后端）+ bookmark_box（前端静态站点）
目录
第六部分：部署上线
阅读建议
赶时间的话：想看选型故事直接看 16；想抄部署作业看 17；想理解自动化脚本看 18。
📝 部署系列已完结，后续如有新项目的部署实践会持续补充……