الصندوق الأسود لسلامة الذكاء الاصطناعي: كيف حصل نموذج Sol من OpenAI على الضوء الأخضر

مع طرح OpenAI لأحدث نماذجها الرائدة، Sol، يطارد سؤال جوهري قطاع التكنولوجيا: كيف قررت الحكومة تحديداً أن هذا النموذج آمن للإصدار العام؟ وبينما يهدف Sol إلى منافسة Fable من شركة Anthropic — وهو نموذج سبق وأن فرض البيت الأبيض قيوداً عليه — فإن غياب الشفافية فيما يتعلق بعملية الموافقة يثير نقاشاً حاداً بين المنظمين والباحثين.

غياب بروتوكولات السلامة الموحدة

على الرغم من المخاطر العالية المرتبطة بنشر النماذج الرائدة، لا يوجد حالياً إطار عمل موحد وشفاف لاعتماد سلامة الذكاء الاصطناعي. وبينما أكد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن محادثات جرت مع مسؤولين رفيعي المستوى — بما في ذلك وزير التجارة هوارد لوتنيك والمدير الوطني للأمن السيبراني في الولايات المتحدة شون كيرنكروس — إلا أن المعايير التقنية المحددة المستخدمة للتحقق من سلامة Sol لا تزال مجهولة.

يصف الخبراء المشهد التنظيمي الحالي بأنه "مؤقت وغير منظم" (ad hoc). وبينما وضع أمر تنفيذي مؤخراً خارطة طريق لتقييم النماذج الرائدة، لا تزال التفاصيل قيد التحديد. والأهم من ذلك، لا توجد "هيئة غذاء ودواء (FDA) للذكاء الاصطناعي"، وهو شعور أكده سريرام كريشنان، المستشار السابق للبيت الأبيض في مجال الذكاء الاصطناعي. ويعني غياب هيئة تنظيمية مركزية أن تقييمات السلامة تعتمد حالياً على مزيج من العمليات الداخلية للشركات وعمليات التدقيق الخارجية الطوعية.

التوتر بين الابتكار والتنظيم

يسلط إصدار Fable من شركة Anthropic الضوء على تقلب هذه البيئة غير المنظمة. فقد تم حظر الوصول العام إلى Fable لفترة وجيزة للمواطنين الأجانب بسبب مخاوف بشأن قدرات "كسر الحماية" (jailbreaking) التي قد تسهل عمليات الاختراق. وفي المقابل، اتجه نموذج Sol من OpenAI نحو الإصدار الواسع بعد فترة من تقديم معاينة للنموذج لمستخدمين حكوميين مختارين.

أثار هذا التفاوت تساؤلات حول تأثير العلاقات السياسية. فقد أدت التقارير التي تفيد بانخراط قيادة OpenAI مع الإدارة الأمريكية إلى جعل بعض المراقبين يتساءلون عما إذا كان يتم تطبيق نهج "أقل صرامة" في التنظيم. وبالنسبة للمطورين والمؤسسين، فإن هذا يخلق بيئة محفوفة بالمخاطر حيث قد يعتمد نشر النماذج على المناورات السياسية أكثر من اعتماده على معايير السلامة التقنية الموحدة.

التحرك نحو التدقيق من قبل طرف ثالث والمشاع المفتوح

يدعو قادة الصناعة إلى تحول هيكلي لمنع "الاحتكار" (gatekeeping) من قبل عدد قليل من صناع القرار. ويشير عالم الكمبيوتر آندي كونويسكي إلى أن العملية الحالية تفتقر إلى المدخلات الكافية من الخبراء الحقيقيين: باحثي السلامة، والمواءمة (alignment)، وقابلية التفسير (interpretability).

ولحل هذه المشكلة، برز نموذجان أساسيان للمستقبل:

• النموذج المؤسسي: على غرار هيئة الغذاء والدواء (FDA) أو المعاهد الوطنية للصحة (NIH)، يتضمن ذلك جمع الباحثين والمسؤولين الحكوميين والشركات الخاصة للتوصل إلى إجماع بشأن معايير السلامة.
• نموذج التدقيق من قبل طرف ثالث: كما اقترح مستشار السياسات السابق دين دبليو بال، يمكن للحكومة ترخيص منظمات تدقيق مستقلة لتقييم بروتوكولات السلامة في المختبرات الرائدة.

لكي يحقق نظام الذكاء الاصطناعي استقراراً طويل الأمد، يجب على الصناعة الابتعاد عن المفاوضات الخاصة والتوجه نحو إطار عمل يمكن التنبؤ به ويقوده الخبراء، يوازن بين المسؤوليات الائتمانية والسلامة العامة.

النقاط الرئيسية

• الغموض التنظيمي: لا يوجد حالياً "ترخيص سلامة" موحد أو وكالة مركزية (مثل FDA) تحكم إصدار النماذج الرائدة مثل Sol.
• فجوة الشفافية: بينما تستشهد OpenAI بتقييمات خارجية من AISI في المملكة المتحدة وSecureBio، إلا أن الحوار الحكومي المحدد والمتطلبات التقنية للموافقة على النموذج لا تزال غامضة.
• الدعوة إلى إشراك الخبراء: يدعو خبراء الصناعة إلى اعتماد أطر عمل للتدقيق من قبل طرف ثالث و"المشاع المفتوح" لضمان اتخاذ قرارات السلامة من قبل الباحثين بدلاً من الوسطاء السياسيين.