前文引用通用分块器搞不定 JRXML一个领域感知分块器的三层设计分块之后每一段文本需要转成一个向量才能存进向量数据库做相似度检索。这个文本 → 向量的函数就是文本嵌入模型Embedding Model。选错嵌入模型后续分块策略再好、向量库再快检索回来的也是不相关内容。这一篇讲嵌入模型的选择逻辑。文本嵌入模型是什么一个数学函数输入一段文本输出一个高维向量。核心特性语义相似的文本向量距离近语义无关的文本向量距离远。比如员工姓名和employee name经同一个嵌入模型编码后两个向量的余弦相似度应该接近 1。而员工姓名和页面边距 20px的相似度应该接近 0。三种向量类型稀疏向量向量中大部分位置是 0只有少数非零值。典型代表是传统的 TF-IDF 和 BM25。擅长精确匹配——术语、编号、代码中的关键字短板无法理解同义词。员工和雇员在稀疏向量看来是完全不同的维度稠密向量向量中几乎所有位置都有值。现代深度学习嵌入模型BERT、Qwen-Embedding 等输出的是稠密向量。擅长语义理解——出生日期和生日虽然字面不同但稠密向量能识别出语义相似短板计算成本高可解释性差混合/多向量同时生成稀疏和稠密向量或者为一段文本生成多个向量来捕捉不同侧面。擅长精确匹配 语义理解两路并行检索然后加权融合短板技术复杂计算和存储成本都高。需要模型本身支持如 BGE-M3对于 JRXML 场景需求是用户说’添加一个显示合计的文本框’系统能找到包含$F{total_amount}表达式和 sum 计算的 band 片段。这需要语义理解——用稠密向量。上下文长度嵌入模型有最大输入 token 数限制短上下文模型512 token适合句子级、段落级文本。轻量快。长上下文模型8192 token适合长文档、复杂结构。但更长不等于更好——如果 chunk 本身控制在 500 字符以内512 token 足够。我们的 chunk 大小在 500-2000 字符选择余地很大。但考虑到后续可能直接对整段 band XML 做 embedding不做自然语言转换的兜底方案长上下文模型更保险。MTEB 排行榜解读MTEBMassive Text Embedding Benchmark是目前评估嵌入模型最权威的基准。它覆盖 8 类任务任务类型衡量什么对本项目的意义Retrieval从大量文档中找到相关文档最关键——直接影响 RAG 检索质量STS判断两句语义相似度高——可以用来验证分块质量Pair Classification判断两句是否同义中Clustering将相似文档分组中Classification文本分类低Reranking对检索结果重排序中Bitext Mining双语平行语料挖掘低Instruction Reranking指令跟随的重排序低重点关注Retrieval和STS两个维度的得分。排行榜分析与模型选择排名前列的模型数据来源 MTEB Leaderboard撰稿时数据模型参数量向量维度最大 TokenRetrievalSTSharrier-oss-v1-27b27B537613107278.2779.99Qwen3-Embedding-8B8B40963276870.8881.08Qwen3-Embedding-4B4B25603276869.6080.86llama-embed-nemotron-8b8B40963276868.6979.41几个观察harrier-oss-v1-27b 排第一是有代价的。27B 参数5376 维向量一次 embedding 的算力开销是 4B 模型的数十倍。对企业的批量处理场景——几百份 JRXML 模板、上千个 chunk——这个成本不现实。Qwen3-Embedding-4B 的性价比突出。4B 参数、2560 维向量Retrieval 得分 69.60仅比 8B 版低 1.28 分但参数量减半、维度降低 37%。在内存受限和需要批处理的场景下这个折损完全可接受。STS语义相似度上 Qwen 系列表现最好。Qwen3-Embedding-4B 的 STS 得分 80.86和 8B 版81.08几乎没有区别。这意味着在判断两段文本是否语义相同这件事上4B 和 8B 的能力相当。这对分块质量验证很有价值——可以用它来检测相邻 chunk 是否被错误切断。为什么选 Qwen3-Embedding-4B参数规模可控4B 参数单张消费级显卡能跑API 调用成本也低长上下文32768 token远超 chunk 上限留足空间中文友好阿里出品中文语义理解经过专门优化。Jaspersoft 的字段名、参数名通常用中文或中英混合命名Retrieval/STS 双高检索和语义相似度这两个最关键指标都在合理区间开源可本地部署数据不出企业内网不用更大模型的原因8B 版本在多卡环境下能跑但单卡显存紧张。实际测试中4B 模型在 RTX 40608G 显存上批量处理 chunk 稳定运行8B 模型会爆显存。线上 API 调用 8B 成本也翻倍而检索质量提升不到 2%。极致场景下万亿级知识库、检索精度要求 95%harrier-27B 或 Qwen3-8B 有价值。但我们的场景是几千个 chunk、几十份模板——够用就好。相似度度量余弦相似度选完模型还要选对距离度量函数。必须在创建向量索引时就设定后续不能改。而且度量函数要与模型训练目标匹配。度量原理适用场景余弦相似度向量夹角看重方向文本语义相似度首选欧氏距离直线距离对数值敏感图像检索、已做 L2 归一化的场景内积向量点积值与相似度正相关需要得分直接解释为置信度的场景Qwen3-Embedding 系列官方文档明确使用余弦相似度或点积计算文本相似度。选择余弦相似度。实践模型下载、文本构造、批量向量化模型下载项目中down_embedding_model.py负责下载通过config.py统一管理模型名称、存储路径和镜像地址# config.py 中的模型配置可通过 .env 覆盖EMBEDDING_MODEL_NAMEQwen/Qwen3-Embedding-4BEMBEDDING_MODEL_PATHmodels/Qwen3-Embedding-4BHF_ENDPOINThttps://hf-mirror.com# 国内镜像下载脚本使用huggingface_hub.snapshot_download支持断点续传。如果未安装依赖会自动补装.venv\Scripts\python.exe down_embedding_model.py不直接用huggingface-cli或modelscope的原因项目所有配置集中在.env/config.py管理切换模型只需改一行配置不需要修改下载命令。GPU 与 FP16默认情况下 PyTorch 跑在 CPU 上4B 模型在 CPU 上的推理耗时会很长。确认 CUDA 可用python-cimport torch; print(torch.cuda.is_available())代码自动检测设备devicecudaiftorch.cuda.is_available()elsecpumodelSentenceTransformer(model_path,devicedevice)GPU 环境下默认启用 FP16 半精度显存占用约减半ifdevicecudaanduse_fp16:modelmodel.half()# FP16RTX 40608G 显存下 4B 模型用 FP16 稳定运行8B 模型即使开 FP16 也会爆显存。文本构造chunk → embedding 输入不能直接把 chunk 的human_description丢给模型——那样丢失了类型标签、上下文和元数据。build_text_for_embedding()负责将 chunk 拼接为富含信号的文本defbuild_text_for_embedding(chunk:dict)-str:parts[f[ChunkType:{chunk.get(chunk_type,unknown)}],chunk.get(human_description,),]contextchunk.get(context,)ifcontext:parts.append(fContext:{context})raw_xmlchunk.get(raw_xml,)ifraw_xml:parts.append(fXML:{raw_xml[:500]})# 前 500 字符metachunk.get(metadata,{})ifmeta:iffield_namesinmeta:parts.append(fFields:{, .join(meta[field_names])})ifparameter_namesinmeta:parts.append(fParameters:{, .join(meta[parameter_names])})ifreport_nameinmeta:parts.append(fReport:{meta[report_name]})ifband_nameinmeta:parts.append(fBand:{meta[band_name]})ifelement_kindinmeta:parts.append(fElement:{meta[element_kind]})ifquery_languageinmeta:parts.append(fQueryLang:{meta[query_language]})return\n.join(parts)设计要点[ChunkType: fields]前缀让模型感知 chunk 的领域类型检索字段定义怎么写时更容易命中 fields 类型的 chunkraw_xml[:500]截取前 500 字符——既保留 XML 结构信号又不让长 XML 淹没语义元数据按优先级选择性拼接避免无意义的键值对填充批量向量化使用SentenceTransformer而非 LangChain 的HuggingFaceEmbeddings——直接控制设备、精度、归一化fromsentence_transformersimportSentenceTransformer modelSentenceTransformer(model_path,devicedevice)embeddingsmodel.encode(texts,batch_sizebatch_size,show_progress_barTrue,normalize_embeddingsTrue,# L2 归一化配合余弦相似度convert_to_numpyTrue)命令行.venv\Scripts\python.exe embed_chunks.py chunks.json--batch_size16# 完整参数.venv\Scripts\python.exe embed_chunks.py chunks.json\--output_dir./embeddings\--model_path./models/Qwen3-Embedding-4B\--batch_size16# 禁用归一化或 FP16调试用.venv\Scripts\python.exe embed_chunks.py chunks.json--no_normalize--no_fp16batch_size根据显存调整。项目默认配置为 64config.py中BATCH_SIZE适合 24G 及以上显存。8G 显存建议降到 8-16——显存不足时模型推理不会报错但会回退到 CPU速度骤降。不确定时先用默认值跑一次观察 GPU 利用率再调整。输出与质量检查输出 5 个文件文件内容embeddings.npyfloat32 向量矩阵shape(N, 2560)chunk_id_map.jsonchunk_id 列表与向量矩阵行号一一对应chunk_type_map.jsonchunk_type 列表用于按类型过滤检索chunks.json原始 chunk 数据含 human_description 和 raw_xmlembeddings.pkl完整 picklechunks embeddings texts 归一化标记向量化完成后自动输出质量报告 质量检查: NaN values: 0 Norms: min0.9998, max1.0000, mean1.0000 Chunk 类型分布: band_detail: 45 fields: 12 parameters: 8 ...NaN 检测确保没有无效向量。L2 归一化后范数应全部接近 1.0偏差超过 0.01 说明模型输出异常。Chunk 类型分布帮助快速判断知识库的数据构成——如果某个类型的 chunk 数量异常少说明分块器可能漏掉了对应领域的 JRXML 元素。下一篇讲这些向量最终的去处向量数据库的选型与构建。