WeMM-Embedding 2B: 2048 کے بجائے 256 ڈائمینشنز کا انتخاب کریں
زیادہ تر لوگ ایک ایمبیڈنگ ماڈل لیتے ہیں اور اس کے مکمل سائز کے ویکٹر کو اپنی پائپ لائن میں ڈال دیتے ہیں۔ ایسا کرنا بند کریں۔
Tencent کا WeMM-Embedding ٹیکسٹ، تصاویر، ویڈیو اور دستاویزات کو ہینڈل کرتا ہے۔ اس کا 2 بلین پیرامیٹر والا ورژن پروڈکشن کے لیے تیار ہے۔
اس کی سب سے نمایاں خصوصیت Matryoshka embeddings ہے—ایک ہی پاس (pass) میں 64، 128، 256، 512، 1024، یا 2048 ڈائمینشنل ویکٹرز حاصل کیے جا سکتے ہیں۔
چھوٹے ویکٹرز کیوں اہم ہیں
- کارکردگی (Performance): 256 ڈائمینشنز پر، امیج اور ویڈیو ٹاسک 2048-dim ورژن کی درستگی (accuracy) کا 98.7% برقرار رکھتے ہیں۔
- رفتار (Speed): چھوٹے ویکٹرز آپ کو بہت کم وقت میں انڈیکس دوبارہ بنانے کی اجازت دیتے ہیں۔
- لاگت (Cost): آپ اسٹوریج اور میموری پر بہت کم خرچ کرتے ہیں۔
- مہارت (Efficiency): جب 256 ڈائمینشنز کافی ہوں، تو 2048 ڈائمینشنز کا استعمال صرف وسائل کا ضیاع ہے۔
2B ماڈل MMEB-v2 لیڈر بورڈ پر بہت سے بڑے حریفوں سے آگے ہے۔ یہ پہلے سے ہی ایک پروڈکشن کمپوننٹ ہے—WeChat سرچ، ای کامرس اور سوشل میڈیا کے لیے اس پر انحصار کرتا ہے۔
دستاویزات کو زیادہ جگہ کی ضرورت ہوتی ہے
اسکرین شاٹس اور دیگر بصری دستاویزات میں گہرا ٹیکسٹ اور پیچیدہ لے آؤٹ ہوتا ہے۔ ڈائمینشنز کم کرنے سے تصاویر کے مقابلے میں ان پر زیادہ اثر پڑتا ہے۔
اسے کیسے آزمائیں
- اپنے پورے سسٹم کو ایک ساتھ تبدیل نہ کریں۔
- ایسی 20 کوئریز (queries) منتخب کریں جہاں آپ کا موجودہ سسٹم ناکام ہو رہا ہو—اس میں اسکرین شاٹس، پروڈکٹ امیجز اور دستاویز کے صفحات کا امتزاج رکھیں۔
- ان کوئریز کو 2B ماڈل کے ذریعے چلائیں۔
- اگر نتائج بہتر ہوں، تو تبدیلی نافذ کر دیں۔ اگر نہیں، تو آپ نے وقت اور پیسہ بچا لیا۔
ہر قسم کے مواد کے لیے ایک اسکور کارڈ رکھیں۔ پروڈکٹ فوٹوز 256 ڈائمینشنز پر ٹھیک ہو سکتی ہیں، جبکہ PDF صفحات کے لیے زیادہ سے زیادہ کم از کم ڈائمینشنز کی ضرورت ہو سکتی ہے۔
Source: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd