WeMM-Embedding 2B: 2048 Yerine 256 Boyutu Seçin
Çoğu kişi bir embedding modeli alır ve tam boyutlu vektörü doğrudan işleme hattına (pipeline) aktarır. Bunu yapmayı bırakın.
Tencent'in WeMM-Embedding modeli metin, görüntü, video ve belgeleri işleyebiliyor. 2 milyar parametreli versiyonu üretim (production) aşamasına hazır.
Yıldız özelliği Matryoshka embeddings—tek bir geçişle 64, 128, 256, 512, 1024 veya 2048 boyutlu vektörler elde edilebilir.
Küçük vektörler neden önemlidir?
- Performans: 256 boyutta, görüntü ve video görevleri 2048 boyutlu versiyonun doğruluğunun %98,7'sini korur.
- Hız: Daha küçük vektörler, indeksleri çok daha kısa sürede yeniden oluşturmanıza olanak tanır.
- Maliyet: Depolama ve bellek için çok daha az harcama yaparsınız.
- Verimlilik: 256 boyutun yettiği durumlarda 2048 boyut kullanmak sadece kaynak israfıdır.
2B modeli, MMEB-v2 liderlik tablosunda birçok daha büyük rakibini geride bırakıyor. Zaten üretim aşamasında kullanılan bir bileşen; WeChat arama, e-ticaret ve sosyal medya için bu modele güveniyor.
Belgelerin daha fazla alana ihtiyacı vardır
Ekran görüntüleri ve diğer görsel belgeler, yoğun metinler ve karmaşık düzenler içerir. Boyutları düşürmek, fotoğraflara kıyasla bu belgeleri daha olumsuz etkiler.
Nasıl test edilir?
- Tüm sisteminizi bir kerede değiştirmeye çalışmayın.
- Mevcut kurulumunuzun zorlandığı 20 sorgu seçin; ekran görüntüleri, ürün görselleri ve belge sayfalarını karıştırın.
- Bu sorguları 2B modeli üzerinden çalıştırın.
- Sonuçlar iyileşirse değişikliği yayına alın. İyileşmezse, zaman ve paradan tasarruf etmiş olursunuz.
Her içerik türü için bir puan tablosu tutun. Ürün fotoğrafları 256 boyutta yeterli olabilirken, PDF sayfaları daha yüksek bir minimum boyuta ihtiyaç duyabilir.
Kaynak: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd