جعبه سیاه ایمنی هوش مصنوعی: چگونه Sol شرکت OpenAI چراغ سبز گرفت
با عرضه جدیدترین مدل پیشرو OpenAI یعنی Sol، یک پرسش حیاتی در صنعت فناوری سایه افکنده است: دولت دقیقاً چگونه تصمیم گرفت که این مدل برای انتشار عمومی ایمن است؟ در حالی که Sol با هدف رقابت با Fable از شرکت Anthropic (مدلی که پیشتر توسط کاخ سفید محدود شده بود) عرضه شده است، عدم شفافیت در مورد فرآیند تأیید، بحثهای شدیدی را میان نهادهای تنظیمکننده و پژوهشگران برانگیخته است.
فقدان پروتکلهای ایمنی استانداردسازیشده
علیرغم اهمیت بسیار بالای استقرار مدلهای پیشرو، در حال حاضر هیچ چارچوب واحد و شفافی برای صدور گواهینامه ایمنی هوش مصنوعی وجود ندارد. اگرچه Sam Altman، مدیرعامل OpenAI، تأیید کرد که گفتگوهایی با مقامات بلندپایه — از جمله Howard Lutnick، وزیر بازرگانی و Sean Cairncross، مدیر ملی سایبری ایالات متحده — انجام شده است، اما معیارهای فنی خاصی که برای اعتبارسنجی Sol استفاده شدهاند، همچنان ناشناخته باقی ماندهاند.
کارشناسان فضای نظارتی فعلی را «موردی» (ad hoc) توصیف میکنند. اگرچه یک فرمان اجرایی اخیراً نقشهراهی را برای ارزیابی مدلهای پیشرو ترسیم کرده است، اما جزئیات آن هنوز در حال تکمیل شدن است. نکته حیاتی این است که هیچ «سازمان غذا و دارو (FDA) برای هوش مصنوعی» وجود ندارد؛ دیدگاهی که Sriram Krishnan، مشاور سابق هوش مصنوعی کاخ سفید نیز بر آن تأکید داشت. نبود یک نهاد نظارتی متمرکز به این معناست که ارزیابیهای ایمنی در حال حاضر به مجموعهای پراکنده از فرآیندهای داخلی شرکتها و حسابرسیهای خارجی داوطلبانه متکی است.
تنش میان نوآوری و مقرراتگذاری
عرضه Fable از شرکت Anthropic، بیثباتی این محیط بدون مقررات را برجسته میکند. Fable به دلیل نگرانیها در مورد قابلیتهای «جیلبریکینگ» (jailbreaking) که میتواند هک کردن را تسهیل کند، برای مدت کوتاهی از دسترسی اتباع خارجی منع شد. در مقابل، Sol شرکت OpenAI پس از دورهای از ارائه پیشنمایش برای کاربران منتخب دولتی، به سمت انتشار گسترده حرکت کرده است.
این تفاوت، تردیدهایی را در مورد تأثیر روابط سیاسی برانگیخته است. گزارشها مبنی بر تعامل رهبران OpenAI با دولت، برخی ناظران را به این پرسش واداشته است که آیا رویکردی با «نظارت کمتر» در قبال مقرراتگذاری اعمال میشود یا خیر. برای توسعهدهندگان و بنیانگذاران، این امر محیطی متزلزل ایجاد میکند که در آن استقرار مدل ممکن است بیش از آنکه به معیارهای فنی استاندارد ایمنی وابسته باشد، به مانورهای سیاسی بستگی داشته باشد.
حرکت به سوی حسابرسی شخص ثالث و منابع مشترک باز
رهبران صنعت خواستار یک تغییر ساختاری هستند تا از «دروازهبانی» (gatekeeping) توسط تعداد محدودی از تصمیمگیرندگان جلوگیری شود. Andy Konwinski، دانشمند علوم کامپیوتر، معتقد است که فرآیند فعلی فاقد ورودی کافی از سوی متخصصان واقعی است: پژوهشگران حوزههای ایمنی، همترازی (alignment) و تفسیرپذیری.
برای حل این مشکل، دو مدل اصلی برای آینده پدید آمده است:
- مدل نهادی: با الگوبرداری از FDA یا NIH، این مدل شامل گرد هم آوردن پژوهشگران، مقامات دولتی و شرکتهای خصوصی برای رسیدن به اجماع در مورد استانداردهای ایمنی خواهد بود.
- مدل حسابرسی شخص ثالث: همانطور که Dean W. Ball، مشاور سابق سیاستگذاری پیشنهاد کرده است، دولت میتواند سازمانهای حسابرسی مستقل را برای ارزیابی پروتکلهای ایمنی آزمایشگاههای پیشرو مجاز کند.
برای اینکه اکوسیستم هوش مصنوعی به ثبات بلندمدت دست یابد، صنعت باید از مذاکرات خصوصی فاصله گرفته و به سمت یک چارچوب قابل پیشبینی و متخصصمحور حرکت کند که میان مسئولیتهای امانتداری و ایمنی عمومی تعادل برقرار سازد.
نکات کلیدی
- ابهام در مقرراتگذاری: در حال حاضر هیچ «گواهینامه ایمنی» استاندارد یا آژانس متمرکزی (مانند FDA) که بر انتشار مدلهای پیشرو مانند Sol نظارت کند، وجود ندارد.
- شکاف شفافیت: در حالی که OpenAI به ارزیابیهای خارجی از سوی U.K. AISI و SecureBio استناد میکند، گفتگوهای خاص دولتی و الزامات فنی برای تأیید مدل همچنان مبهم باقی مانده است.
- فراخوان برای متخصصان: کارشناسان صنعت خواستار حسابرسی شخص ثالث و چارچوبهای «منابع مشترک باز» هستند تا اطمینان حاصل کنند که تصمیمات ایمنی توسط پژوهشگران گرفته میشود، نه توسط واسطههای سیاسی.