جعبه پاندورای مسیریابی هوش مصنوعی

DeepMind چارچوب “Pandora’s Router” را رونمایی کرد؛ چارچوبی که انتخاب مدل را به عنوان یک مسئله «جعبه پاندورا» با در نظر گرفتن هزینه‌ها، مدیریت می‌کند. این سیستم با دریافت هزینه تنها برای اطلاعاتی که واقعاً نتایج را بهبود می‌بخشند، هزینه‌های استنتاج (inference) را به شدت کاهش می‌دهد و در عین حال، نتایج را در سطح جستجوهای جامع و کامل نگه می‌دارد.

چرا انتخاب مدل رایگان نیست

خط لوله‌های تولید (production pipelines) اغلب فرض می‌کنند مرحله‌ای که یک مدل را انتخاب می‌کند، هزینه‌ای ندارد. در واقعیت، تخمین میزان مناسب بودن یک مدل، منابع محاسباتی، حافظه و گاهی اوقات فراخوانی داده‌های خارجی را مصرف می‌کند. یک تخمین سریع و نویزدار ارزان است اما می‌تواند گمراه‌کننده باشد؛ یک تخمین دقیق معمولاً به معنای اجرای یک مدل کوچک‌تر یا دریافت بافت (context) اضافی است که در نهایت هزینه‌ها را بالا می‌برد.

مقاله DeepMind این چالش را بازتعریف می‌کند. هر مدل کاندید، یک «ارزش» را در خود پنهان کرده است – یعنی عملکرد مورد انتظار آن برای پرس‌وجوی ورودی. این چارچوب به یک کنترل‌کننده اجازه می‌دهد تا با پرداخت هزینه‌ای، نگاهی به آن ارزش بیندازد و به محض اینکه دریافت اطلاعات بیشتر دیگر توجیه‌پذیر نباشد، از پرداخت هزینه خودداری کند.

دو بخش این راهکار

  • Pandora’s Router – یک موتور متمرکز که برای هر درخواست تصمیم می‌گیرد آیا برای به‌دست آوردن تخمین دقیق‌تر از ارزش یک مدل هزینه پرداخت کند یا خیر. این موتور یک «قیمت پایه» (reserve price) تعیین می‌کند: آستانه‌ای که پایین‌تر از آن، سود مورد انتظار از یک تخمین بهتر، از هزینه پرداختی بیشتر نیست. زمانی که بهبود پیش‌بینی‌شده از قیمت پایه فراتر رود، موتور هزینه را برای دریافت آن اطلاعات می‌پردازد؛ در غیر این صورت، با بهترین حدسی که از قبل دارد پیش می‌رود.

  • Pandora’s Bidder – یک همتای غیرمتمرکز برای بازارهای مدل. ارائه‌دهندگان مستقل تصمیم می‌گیرند که آیا پیش از ارائه پیشنهاد قیمت (bid)، منابع محاسباتی را برای دقیق‌تر کردن تخمین ارزش خود صرف کنند یا خیر. قیمت پایه خود آن‌ها باعث می‌شود تنها زمانی هزینه کنند که احتمال برنده شدن با تخمین اصلاح‌شده بالا باشد.

هر دو بخش از یک اصل مشترک پیروی می‌کنند: تنها زمانی برای اطلاعات هزینه کنید که بازده مورد انتظار از آن، بیشتر از هزینه آن باشد.

نتایج در سه حوزه

نویسندگان این رویکرد را در سه نوع بار کاری آزمایش کردند:

  1. استدلال ریاضی – انتخاب از میان حل‌کننده‌هایی با دقت متفاوت.
  2. تولید تقویت‌شده با بازیابی (RAG) – انتخاب بین استراتژی‌های مختلف جستجو در پایگاه دانش.
  3. مدل‌های جاسازی (embedding) در مقیاس بزرگ – انتخاب بهترین رمزگذار (encoder) برای جستجوی شباهت.

Pandora’s Router در هر مورد، قوانین مسیریابی ایستا و روش‌های ابتکاری حریصانه (greedy heuristics) را شکست داد. در دشوارترین سناریوها، کیفیت آن با اسکن تمام‌عیار (brute-force) تمام مدل‌ها برابری کرد، در حالی که از بیشتر هزینه‌های بازرسی جلوگیری نمود. نویسندگان گزارش داده‌اند که «بیشتر هزینه‌های بازرسی» ذخیره شده است، که نشان‌دهنده کاهش چشمگیر در هزینه‌های محاسباتی است.

این موضوع برای مهندسی هوش مصنوعی چه معنایی دارد

  • سربار مسیریابی را نادیده نگیرید. تصمیم‌گیری در مورد اینکه از کدام مدل استفاده شود، قیمت قابل‌اندازه‌گیری دارد.
  • یک قیمت پایه تعیین کنید. یک نقطه برش مشخص برای زمانی که دریافت اطلاعات اضافی ارزش هزینه‌اش را دارد، تعیین کنید.
  • از مسیریابی آگاه از هزینه استفاده کنید. یک لایه تصمیم‌گیر که بین سود مورد انتظار و هزینه تعادل برقرار می‌کند، با رشد کاتالوگ مدل‌ها، بودجه را تحت کنترل نگه می‌دارد.

نکته مقابل: پیچیدگی افزوده شده

افزودن یک لایه پیشنهاد قیمت یا مسیریابی، موازنه‌هایی را به همراه دارد. تیم‌ها باید منطقی را که قیمت‌های پایه را محاسبه می‌کند، مدیریت کنند، ساختارهای هزینه را نظارت کنند و اطمینان حاصل کنند که مسیر کد اضافی به یک گلوگاه تبدیل نمی‌شود. برای استقرارهای کوچک با تعداد محدودی مدل، ممکن است هزینه Pandora’s Router بیشتر از صرفه‌جویی آن باشد. همچنین این چارچوب فرض می‌کند که هزینه یک تخمین بهتر، مشخص و ثابت است؛ فرضی که می‌تواند در شرایط قیمت‌گذاری متغیر سرویس‌های ابری یا قطع شدن نمونه‌های لحظه‌ای (spot-instances) با شکست مواجه شود.

نتیجه‌گیری

با انتخاب مدل مانند یک تصمیم اقتصادی برخورد کنید، نه یک مرحله مسیریابی رایگان. Pandora’s Router نشان می‌دهد که یک رویکرد منضبط و آگاه از هزینه می‌تواند بدون قربانی کردن کیفیت خروجی، محاسبات غیرضروری را حذف کند و سیستم‌های هوش مصنوعی را مقیاس‌پذیر و از نظر مالی پایدار نگه دارد.