AREX Feed Article
Cohere 发布 Embed 5 Pro/Fast：128K tokens 上下文，Pro 与 Fast 共享同一嵌入空间
9 月 30 日，Cohere 发布 企业嵌入模型系列，分为面向质量优先场景的 Embed 5 Pro 与面向延迟和成本敏感场景的 Embed 5 Fast。两款模型均支持 128K tokens 上下文、100+ 种语言，输入覆盖文本、图像与图文融合；输出向量最高 2,048 维，支持多档输出维度、Matryoshka 表示（向量可按前缀截断）以及 float、int8、binary 三种格式。同日起，Embed 5 在 Cohere API 与 Model Vault、Microsoft Foundry、Amazon SageMaker 上线；文本 tokens 定价为每百万 0.12 美元（Pro）与 0.08 美元（Fast）。
按 Cohere 在发布博客中给出的对比，Embed 5 Pro 在 ViDoRe V3 上的平均分为 85.8，比上一代 Embed 4 提升 8.8 分，并高于 Voyage 4 Large（83.7）、Gemini Embedding 2（83.2）和 OpenAI text-embedding-3-large（75.5）；Fast 的 84.5 也高于 Gemini Embedding 2 与 Voyage 4 Large。这些数字全部由 Cohere 自报，采用的是其自研的评测口径 RCP-nDCG@10。
共享嵌入空间：Pro 建库、Fast 查询
Cohere 把 Embed 5 定位为搜索、RAG（检索增强生成）与智能体（agentic）工作流的检索层，在上下文送入生成模型之前完成筛选。两款模型分工对应检索链路上的不同环节：Pro 用于离线建库和质量优先的检索，Fast 用于交互式搜索、高频 RAG 与智能体检索等实时请求路径；查询侧的嵌入延迟在每次搜索时都要支付，在可能为单个任务发起几十次检索的智能体工作流里还会被进一步放大。
两款模型共享同一嵌入空间，任一模型生成的向量可以直接比较。Cohere 在 40 个开发数据集上测试了全部语料库与查询组合，覆盖文本、图像、图文融合与解析文档：把“Pro 建库 + Pro 查询”归一为 100 分后，“Pro 建库 + Fast 查询”的平均表现为 98.4，“Fast 建库 + Pro 查询”为 97.3，两类跨模型组合相比全 Pro 基准分别低 1.6% 与 2.7%，Cohere 称没有任何数据集出现明显失效。基于这些结果，Cohere 建议多数客户采用“Pro 建索引、Fast 跑查询”：文档侧用 Pro 保证质量，查询侧用 Fast 控制延迟与成本，且不必重建索引。
Fast 在规格上与 Pro 对齐：上下文长度、多模态输入、语种覆盖与向量格式都相同，按文本 tokens 计的价格比 Pro 低约三分之一。文档吞吐方面，Cohere 测得 Fast 平均每秒处理 377.3 篇文档、Pro 为 159.7 篇，跨上下文长度平均约为后者的 2.4 倍；更小的体积还会降低私有部署的服务成本、加快大批量导入与重建索引。
ViDoRe V3 与 RCP-nDCG@10：分数背后的评测口径
ViDoRe V3 的文档抽样自多个企业领域，包括财务申报文件、技术手册、监管材料、政府报告、教科书与讲义。在这个基准上，Embed 5 Pro 在八个细分领域中单独拿下五个第一，并在能源领域与 Voyage 4 Large 打平；相对 Embed 4，涨幅最大的是人力资源（+11.4）与工业（+10.3）。
Cohere 在同日发布的中说明了这套口径的由来与工作方式：传统 nDCG（一种常用的排序质量指标）依赖既有的相关性标注，未被覆盖的相关结果得不到分数；RCP-nDCG@10 改用校准过的 AI 评审，针对每个查询按统一细则逐篇评估检索结果；评审对每篇文档回答五个是/否问题，并在组内两两比较，再把不同查询的分数校准到同一尺度，既有标注没覆盖到的相关结果因此也能得到承认。Cohere 称 Embed 5 是首个采用这一口径评测的模型系列。
Cohere 还用一项 46 名标注者参与的盲测验证了这套口径：当 RCP-nDCG 与传统 nDCG 给出不同赢家时，标注者在 70% 的情况下支持 RCP-nDCG；总体上它挑出的系统与标注者偏好一致的比率为 77%，传统 nDCG 为 52%。该文还引用了 MTEB（大规模文本嵌入基准）主要维护者、奥胡斯大学助理教授 Kenneth Enevoldsen 的评价：RCP-nDCG 用“以评分细则为锚的 LLM 判断”填补了传统基准的覆盖缺口，让此前指标无法区分的模型能被区分开来；他还表示期待把 RCP-nDCG 引入 MTEB。
这套口径也有边界：Embed 5 发布博客的脚注说明，RCP-nDCG@10 采用两阶段检索设置，用模型相似度分数对固定候选集重排，因此这些分数衡量的是重排质量，并不衡量第一阶段的检索性能；方法论文章还写道，这批模型如果只看传统 nDCG 分数，并不总是表现最强。Cohere 公开的复现材料包括 RCP-nDCG 的、9 月 28 日提交至 arXiv 的，以及 ViDoRe V3 的评测标注与代码。
金融文档、解析 PDF 与页面图像上的细分数据
在 Cohere 列出的三项金融公开基准上，Pro 均排名第一、Fast 均列第二：FinanceBench 为 80.1 与 80.0，FinQA 为 90.0 与 88.8，ViDoRe V3 的金融子集为 85.0 与 83.9。Cohere 称 Pro 在这三项上的平均分比非 Cohere 阵营得分最高的 Gemini Embedding 2 高 3.3 分；对 OpenAI text-embedding-3-large 的差距在 FinanceBench 上扩大到 21.4 分。
多数企业检索管线仍先把 PDF 转成文本再嵌入，但这一过程会打散结构：表格丢失行列关系，多栏版式打乱阅读顺序，重复页眉变成噪声，图表往往直接消失。在这套覆盖服务文档、企业报告、SEC 文件、产品手册与隐私政策的测试中，Pro 平均 84.8，高于 Voyage 4 Large 的 83.6、Fast 的 83.4、Gemini Embedding 2 的 80.8 与 Embed 4 的 78.6。
扫描页、演示文稿、示意图与图表里的信息可能在文本抽取中丢失。Embed 5 可以嵌入页面图像本身，也可以把图像与元数据合成单一向量：在五个数据集的图文融合检索中，Pro 平均 82.3，Fast 为 81.2，Gemini Embedding 2 为 61.3；在页面图像检索上，Pro 平均 77.0，高于 Fast 的 73.2、Embed 4 的 71.1、Voyage Multimodal 3.5 的 70.1 与 Gemini Embedding 2 的 56.7。
多语言：五语平均 77，部分语种 Gemini Embedding 2 仍领先
Embed 5 在 100 多种语言上训练，Cohere 表示重点放在全球客户使用最多的语言。在德语、法语、西班牙语、意大利语和俄语的五语平均分上，Cohere 称 Pro 的 77 分为所测模型最高，Voyage 4 Large 为 76，Gemini Embedding 2 为 73；相对 Embed 4，Pro 平均提升约 7 分，其中俄语 +9、意大利语 +7。
Cohere 还给出了另外十种语言的对照表：相对 Embed 4，Pro 涨幅最大的是波斯语（+13）、泰卢固语（+12）与印地语（+12）；但表中也显示，在日语（Gemini Embedding 2 得 90、Pro 得 87）、韩语（87 对 85）、阿拉伯语（87 对 83）、泰卢固语（91 对 80）等语种上，Gemini Embedding 2 的分数仍高于 Embed 5 Pro。
向量存储：1 亿个文本块从 819 GB 缩到 3.2 GB
Cohere 对压缩输出的定位是：企业规模下，向量索引的运维成本可能超过生成它的模型。两款模型的可选维度为 2,048、1,536、1,024、768、512、256，精度包括 float32（32 位浮点）、int8（8 位整数）与 binary（二值）：2,048 维 float32 向量需要 8 KB，1,024 维 int8 向量需要 1 KB，256 维 binary 向量只需 32 字节，相差 256 倍。换算到 1 亿个文本块，原始向量存储可以从约 819 GB 降到 3.2 GB。
Cohere 建议多数部署采用 1,024 维 int8 向量，称 int8 在两款模型上都保留了接近全精度的检索质量；binary 格式体积最小、但伴随一定的精度损失，适合在更高精度的重排序之前做快速首轮检索。
自托管、集成与后续动作
除托管渠道外，两款模型也可以在自有 VPC（虚拟私有云）或本地环境用 vLLM 提供服务，大批量导入可以走批处理嵌入（Batch Embedding），也可以直接在 Cohere 的 North 中使用。现有检索栈的接入包括 LangChain、Haystack、Weaviate、Qdrant、Pinecone、Elasticsearch、MongoDB、Redis、Milvus 与 OpenSearch。图像 tokens 的定价为两款模型每百万 0.40 美元。
跨模型组合有一条硬约束：建库与查询两侧必须使用相同的输出维度；Cohere 说明这条规则与 Matryoshka 截断、int8 量化兼容，压缩过的索引同样适用。
Cohere 的托管搜索与检索平台 Compass Cloud 已进入私有 beta，正在接受访问申请；Cohere 还表示将于 10 月 8 日在 X 上由搜索与嵌入团队的负责人进一步介绍 Embed 5 与 Parse 5。