AI 架构 · RAG

AI 知识库 / RAG 系统架构：从文档切分到检索增强生成

RAG 知识库不是简单把文档丢给大模型，而是包含文档解析、切分、向量化、检索、重排、提示词组装和答案引用的完整链路。

涧序数字2026-07-14RAG 架构、AI 知识库、向量数据库、检索增强生成

很多企业想做 AI 知识库，第一反应是把 PDF、Word、网页资料上传给大模型。但稳定可用的 RAG 系统，需要解决文档质量、切分策略、向量检索、权限隔离、答案可追溯和人工纠错等问题。否则 AI 看似能答，实际很容易答偏、答混或无法解释来源。

典型架构链路

PDF、Word、网页、表格、图片 OCR 的结构都不同。第一步要把标题、段落、表格、编号和来源保留下来，避免后面检索时丢失上下文。

切分太小会丢上下文，切分太大会降低检索精度。常见做法是按标题层级、段落语义和 token 长度混合切分，并保留文档名、章节、页码、更新时间等元数据。

向量检索适合语义相近的问题，但对产品型号、订单号、政策条款这类精确词，关键词检索也很重要。实际项目里经常采用向量检索 + BM25 + 规则过滤的混合检索。

检索到的片段不一定都适合喂给模型，需要做相关性重排、去重、按来源排序，并控制上下文长度。提示词里要明确回答边界：资料没有就说不知道。

不同部门、客户、项目资料不能混在一起。RAG 系统要在检索前过滤租户、角色、项目和文档权限，而不是生成答案后再隐藏。

答案最好带来源引用、文档片段和更新时间。用户反馈“答错了”时，要能追踪是文档问题、检索问题、提示词问题还是模型问题。

需要把架构落到你的业务里？