想验证 RAG 是否适合自己的业务,不必先搭一整套系统。一个最小可用版本只需要四步。
一、准备语料:挑 20 到 50 份结构清晰的文档(PDF、Markdown、网页均可),转成纯文本。数量少一点没关系,关键是覆盖真实的文档类型。
二、切片与嵌入:按 500 到 800 字切,保留标题作为上下文前缀,调用嵌入接口把每段转成向量,存进本地向量库(或直接用数组加余弦相似度)。
三、检索与拼上下文:把用户问题同样转成向量,取相似度最高的 3 到 5 段,连同问题一起放进提示词,要求“只根据以下资料回答,资料里没有就说不知道”。这句约束很关键,能挡住大部分编造。
四、跑 20 个真实问题:记录答对、答错、以及“答对但出处不对”的比例。这三类问题的比例,比任何演示效果都更能说明可行性。
如果“答对但出处不对”的比例高,问题多半在切片;如果“资料里明明有却答不出”,问题在召回数量或嵌入质量。先定位,再优化。
跑通之后,再把向量库换成正式方案、补上权限与更新机制。顺序反了,容易在选型上浪费大量时间。