WeMM-Embedding 2B：选择 256 维而非 2048 维

大多数人拿到一个嵌入模型后，就会直接将全尺寸向量丢进他们的流水线中。别再这样做。

腾讯的 WeMM-Embedding 可以处理文本、图像、视频和文档。其 20 亿参数版本已具备生产就绪能力。

其核心特性是 Matryoshka embeddings——只需单次推理即可输出 64、128、256、512、1024 或 2048 维的向量。

为什么较小的向量很重要

  • 性能： 在 256 维下，图像和视频任务仍能保留 2048 维版本 98.7% 的准确率。
  • 速度： 较小的向量能让你在极短的时间内重建索引。
  • 成本： 你在存储和内存方面的支出会大幅减少。
  • 效率： 在 256 维已足够的情况下使用 2048 维纯粹是在浪费资源。

该 2B 模型在 MMEB-v2 排行榜上领先于许多规模更大的竞争对手。它已经是一个成熟的生产组件——微信在搜索、电子商务和社交媒体方面都依赖于它。

文档需要更多空间

截图和其他视觉文档包含密集的文本和复杂的布局。降低维度对它们的影响比对照片的影响更大。

如何进行测试

  1. 不要一次性彻底改造整个系统。
  2. 挑选 20 个当前设置表现不佳的查询——混合使用截图、产品图像和文档页面。
  3. 使用 2B 模型运行这些查询。
  4. 如果结果有所改善，则推行更改。如果没有，你也节省了时间和金钱。

为每种内容类型保留一份评分表。产品照片在 256 维下可能表现良好，而 PDF 页面可能需要更高的最低维度。

来源：https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd