向量数据库存储 Embedding也就是文本、图像或音频的数值表示并在查询时检索语义上最接近的结果。RAG 系统正是基于这一机制运作。本文对比三个主流方案每个都附有 Python 代码均来自实际在生产环境中使用三者的经验。三种选择Pinecone 用于生产级规模Chroma 用于本地原型开发Weaviate 用于混合搜索。向量数据库究竟做了什么对一段文本做 Embedding得到的是一个向量比如说一个由 768 或 1,536 个数字组成的数组代表该文本的语义含义。相似的文本产生相似的向量。向量数据库将这些向量存储下来并建立索引以支持快速最近邻搜索。用户提出问题时先将问题做 Embedding再向向量数据库发起查询哪些已存储的向量与之最接近数据库返回语义上最相似的文本片段随后将这些片段注入 LLM 的上下文。检索环节的好坏直接决定 RAG 系统整体的表现这一步出了偏差再好的 LLM 也只会给出自信却错误的回答。Chroma从原型开发开始Chroma 开源通过 pip install chromadb 安装支持本地内存运行或持久化到磁盘5 分钟内即可搭建一个可用的向量存储。基本 Python 设置import chromadb from chromadb.utils import embedding_functions client chromadb.PersistentClient(path./my_db) ef embedding_functions.OpenAIEmbeddingFunction( api_keyyour-key, model_nametext-embedding-3-small) collection client.get_or_create_collection(docs, embedding_functionef) # 添加文档 collection.add(documents[doc1 text, doc2 text], ids[id1,id2]) # 查询 results collection.query(query_texts[your question], n_results5)但是Chroma 并非云原生。跨多台机器扩展需要自行管理服务器一旦超出单机部署范围或数据集规模超过约 100 万条文档迁移就不可避免。接口设计得干净的话过程不算痛苦但仍需投入时间。Pinecone进入生产环境时的选择Pinecone 是完全托管的云基础设施——无需自行运行服务器、管理内存或操心副本复制。免费层约可处理 100 万个 1,536 维向量覆盖多数小型应用绰绰有余付费层可扩展至数十亿量级。基本 Python 设置from pinecone import Pinecone pc Pinecone(api_keyyour-pinecone-api-key) index pc.Index(my-index) # Upsert需要单独处理 Embedding index.upsert(vectors[(id1, embedding_vector, {text: doc text})]) # 查询 results index.query(vectorquery_embedding, top_k5, include_metadataTrue)Pinecone 的免费层确实有用。超出限额后成本随向量数量和查询量增长日均 10,000 次查询的初创应用尚在可控范围而大规模应用则会变成一笔可观支出。所以开始时保留切换向量存储的余地把检索逻辑封装在清晰的接口后面。Weaviate用于混合搜索纯语义搜索与纯关键词搜索都不总是最优解。语义搜索会漏掉精确匹配用户查询RFC 7519时关键词匹配远比语义相似度更快定位到结果。混合搜索将余弦相似度与 BM25 关键词匹配相结合并对两者施加权重。基本混合搜索import weaviate client weaviate.connect_to_wcs(cluster_url…, auth_credentials…) collection client.collections.get(Document) # 混合查询结合语义 关键词 results collection.query.hybrid( queryyour question, alpha0.5, # 0 仅关键词, 1 仅语义, 0.5 均衡 limit5 )知识库中若包含技术文档、API 参考或带有特定标识符、型号、代码的内容混合搜索的表现会优于纯语义检索。一般性文本内容则差距不大额外的复杂性未必划算。常见问题第一个项目应该使用哪个向量数据库Chroma没有悬念。pip 安装本地运行零配置免费。先用 Chroma 搭建第一个 RAG 系统日后需要扩展至生产环境迁移到 Pinecone 或 Weaviate 只需几小时——前提是接口足够干净。做 RAG 一定需要向量数据库吗还是可以用普通数据库PostgreSQL 的 pgvector 扩展可以实现近似最近邻搜索这是一个可行的生产方案。Supabase托管式 Postgres原生支持 pgvector100 万向量以下的应用表现良好。规模再往上走专用向量数据库在性能上的优势才会真正体现出来。应该使用哪个 Embedding 模型OpenAI 和google的API都是可以选择的质量可靠价格低廉约每百万 Token 0.02 美元生态支持广泛。本地部署且注重隐私的场景下通过 Ollama 运行 nomic-embed-text 是最佳免费方案追求质量上限而不计成本可选 text-embedding-3-large 或 Cohere 的 embed-v3。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】