矢量数据库已成为支撑下一代企业搜索的基础设施层。抛开炒作,它们解决的是一个真实问题:按含义而非仅按关键词查找信息。对多数企业而言,务实的问题不是"哪家矢量数据库最快",而是"如何让搜索第一次就返回正确的文档"。
矢量数据库的实际用途
传统搜索引擎匹配关键词。搜索"客户流失",你得到的是恰好包含这些词的文档。矢量数据库匹配含义:把文本转换成数学表示(嵌入),找到概念上相似的内容——于是"客户留存"和"流失预防"都能命中你的查询,哪怕它们与查询词毫无字面重叠。
在引擎盖下,一个嵌入是一串几百到几千个数字,把一段文本定位在高维空间里,数据库的工作是快速找到查询向量的最近邻。HNSW 这类近似最近邻(ANN)索引用一点点召回率换取数量级的速度提升,这正是"在数亿向量中于几十毫秒内完成搜索"得以实现的原因。
商业后果比数学简单得多:搜索开始返回"用户本意要找的文档",而不是"与查询词共字的文档"。当同一个概念在企业里以五种名字存在于五个团队——"年假"、"带薪休假"、"休假政策"、"假期权益"——这不是便利,而是"政策被找到"与"政策被无视"之间的差别。
RAG:检索增强生成
最常见的企业用例是 RAG:AI 代理在回答问题之前,先在矢量数据库中检索相关上下文。这让回答扎根于你的真实数据而非模型的训练数据,大幅减少幻觉。检索质量如今被公认为答案质量的上限约束——一个强大的模型配上错误的检索文档,产出的是自信的胡话。
标准模式很直接:文档被切块、嵌入、索引;查询时用同一个模型嵌入用户问题,取回最近邻的块,注入提示词作为上下文。因为模型引用的是被给予的内容,答案可追溯到源文档——这正是让合规与审计部门愿意批准这套系统的属性。
相比无依据生成,改善巨大且可度量。分析机构的预测与实务经验一致:Gartner 预测,到 2026 年大多数企业 GenAI 部署将以某种形式依赖 RAG,而把 RAG 投入生产的企业普遍报告,在有依据的问题上幻觉率降至低个位数。告诫是:RAG 继承了搜索的全部质量问题——如果检索器返回了错误的块,模型无从知晓。
选择正确的矢量数据库
选项从专用矢量数据库(Pinecone、Weaviate、Qdrant)到现有数据库的扩展(PostgreSQL 的 pgvector、Elasticsearch 的矢量搜索)。对多数企业来说,从现有 PostgreSQL 实例上的 pgvector 起步是务实的选择——避免新增依赖,同时为最多 1000 万个向量的数据集提供足够的性能。
决策规则是规模与运营成熟度。大约在 1000 万向量和每秒几百次查询以下,现有数据库内置的矢量能力几乎总是够用,而运行第二个数据库的成本——备份、监控、安全、雇佣能操作它的人——很少值得。超过这个规模,或当延迟和可用性压倒一切时,专用系统才开始物有所值。市场本身也在快速成熟:分析师估计矢量数据库市场 2023 年约 15 亿美元,预计 2028 年超过 40 亿美元,而所有主流数据平台厂商都在同一窗口期加入了原生矢量支持。这种趋同对企业是好消息——"从已有的东西起步"越来越是技术上正确的答案,日后迁往专用系统也是一条成熟路径,而非推倒重来。
纯矢量还不够,最好的生产系统都会把矢量和关键词结合起来。精确标识符——合同编号、零件代码、政策文号、人名——用词法搜索匹配可靠得多;混合检索器同时运行两者并合并结果,稳定地胜过任何单一方案。在企业语料上,从纯矢量切到混合检索通常能带来 20-40% 的检索质量提升,因为两种方法失败在不同的事物上:矢量败于精确字符串和稀有词元,关键词败于同义词和改写。用倒数排名融合合并两个候选集,简单、文档充分,是搜索工程里最可靠的单点收益。
操作注意事项
矢量数据库需要与源数据保持同步。文档更新时,其嵌入必须重新生成。这需要一条检测变化、生成新嵌入、更新矢量索引的管道——全程不能停机。同步管道而非数据库本身,是多数矢量项目失败的地方,因为它总被当作事后的补丁。
三个运营决策主导了失败率。切块策略决定检索器能发现什么——块太大稀释相关性,块太小丢失上下文,合适的大小依语料而定,必须测量而非猜测。嵌入模型版本管理很关键,因为嵌入在不同模型版本间不可比;升级模型必须重新嵌入整个语料。评估必须持续进行,因为语料漂移意味着三月还能用的系统,九月就可能退化,而代码一行没改。
安全与访问控制是第四个、也最常被推迟的考量。矢量索引天然不尊重行级权限,要么按用户预过滤被索引的语料,要么由检索层强制执行访问控制。在受监管行业这是"能上线还是不能上线"的问题,值得在第一次演示前解决,而不是在第一次审计发现之后。
如何评估搜索质量?
在调优任何东西之前先建一套黄金问题集:100-200 个真实问题,每个标注应当检索到的文档,来自实际用户查询和领域专家判断。有了它,检索质量就从"感觉"变成可以优化的数字——top-k 精确率、recall@k、平均倒数排名——之后每一次切块、模型、索引改动都以它为裁判。执行要点如下:
- 收集 100-200 条真实查询,请领域专家标注正确文档;这是整个项目里价值最高的一个小时。
- 先测 recall@10——如果正确答案不在前十,任何重排都救不了你。
- 在自己的语料上测试嵌入模型,而不是相信榜单;MTEB 类基准是好的起点,但领域词汇会改变结果。
- 让黄金问题集跑完整条管道——检索加答案生成——因为出色的检索器仍可能输给提示词问题。
- 每月重跑黄金问题集;语料与查询漂移让静态评估只是快照,不是保证。
有了评估回路,技术选择就不再是观点之争。每次改动前后都测召回率的团队,几周内就能收敛到可用配置;抽象地争论数据库的团队可能烧掉几个季度。评估是整个矢量搜索栈里最便宜的保险。
蜂启咨询如何帮助
蜂启咨询为企业 AI 搜索、RAG 管道和知识管理设计矢量数据库架构:评估数据现状、选择最优数据库、构建满足治理要求的检索管道,并以托管服务运营——包括嵌入刷新、监控和相关性调优。两周时间即可把一条可用的、受治理的检索管道摆到用户面前。由于蜂启咨询的对话式 BI 层原生于 IM(企业微信、钉钉、飞书、Teams、Slack 等),检索结果直接出现在提问发生的工具里,在搜索与决策之间闭合回路。
要点
- 矢量搜索匹配含义,关键词搜索匹配字符串;生产系统两者都需要。
- RAG 的质量受检索质量约束——瓶颈在检索器,不在模型。
- 约 1000 万向量以下,从现有数据库的矢量能力(pgvector)起步。
- 混合检索通常比纯矢量在企业语料上提升 20-40% 的质量。
- 建一套 100-200 条真实问题的黄金集,调优前先测 recall@k。
结论
矢量数据库对企业搜索确实是变革性的,但变革来自围绕它们的工程纪律——混合检索、版本化嵌入、同步管道、持续评估——而不是数据库选择本身。把黄金问题集当作项目地基的团队快速收敛;把矢量数据库当作项目地基的团队,在失败试点后学到同样的教训。这一模式同样适用于对话式 BI:检索质量决定答案是否被信任。蜂启咨询的托管对话式 BI 把答案扎根于数据之上的语义层,两周部署加托管模式移除了集成与持续调优这两个最大的失败点——恰恰是多数自建矢量项目搁浅的地方。
什么时候才真的需要向量数据库?
当用户用自己的话描述想要什么、而匹配文档用了不同的词,就该用向量库。语义搜索匹配意图而非精确关键词。若查询是精确编码、ID 或字段过滤,传统带索引的数据库更快更便宜,向量库只增成本不增胜算。
诚实的检验是黄金集上的检索质量:用一批真实问题及应回答它们的文档,看向量库能否把正确段落排到前列。关键词索引已能办到就还不需要;在释义和同义上失败才需要。这个决策应凭实证,而非潮流。
向量数据库在生产中如何运维?
生产运维把索引当活系统。embedding 随模型变更而漂移,所以按节奏、按模型升级重索引是例行而非例外。元数据——来源、所有者、权限、时效——须随每个向量同行,检索才能不止按相似度过滤与排序。索引还要监控:新鲜度、查询延迟、以及返回无可用段落的查询占比,这些信号告诉你语料在衰减。
成本随向量数与查询率上升,所以分块策略既是质量决策也是预算决策。分太细,存储与计费翻数倍;分太粗,引用失准。正确分块尺寸由黄金集上的答案质量测得,而非抄博客的数字。
为什么混合检索更好?
纯向量检索会漏掉精确匹配,纯关键词检索懂不了语义。混合检索两者结合——向量抓意图,关键词抓专有名词与编号——再用重排把最相关者送进模型。对有政策编号、产品术语的企业搜索,混合检索的答案质量显著更稳,也更容易向用户解释"为何命中"。
如何为搜索场景选择合适的向量索引?
没有放之四海皆准的索引。数据量小、要求高召回时,暴力检索已足够;规模扩大后,HNSW 在速度与质量间较平衡,IVF 类更适合超大规模但需调参。
真正影响体验的往往是过滤与混合检索的配合:先用关键词或权限缩小范围,再在子空间做向量排序,比单纯靠向量更稳。