Demis Hassabis ซีอีโอของ Google DeepMind ได้นำเสนอกรอบการกำกับดูแลเพื่อควบคุมการเปิดตัวโมเดล AI ระดับแนวหน้า (frontier AI models) เขาต้องการให้มีองค์กรกำหนดมาตรฐานเฉพาะทางมาแทนที่การตรวจสอบโดยรัฐบาลที่กระจัดกระจายอยู่ในปัจจุบัน ด้วยระบบการกำกับดูแลที่เป็นมืออาชีพและมีความเข้มงวดทางเทคนิค

โมเดลแบบ FINRA สำหรับปัญญาประดิษฐ์

ในข้อเสนอของเขาที่ชื่อว่า “A Framework for Frontier AI and the Dawning of a New Age” Hassabis ได้วางต้นแบบขององค์กรใหม่นี้ตามแบบอย่างของ Financial Industry Regulatory Authority (FINRA) เขาจินตนาการถึงองค์กรอิสระที่ได้รับการสนับสนุนจากรัฐบาลสหรัฐฯ แต่ได้รับเงินทุนสนับสนุนจากอุตสาหกรรม AI

กลไกนี้จะทำงานแบ่งเป็นสองระยะ ระยะแรก ห้องปฏิบัติการระดับแนวหน้า (frontier labs) จะส่งมอบโมเดลของตนให้แก่หน่วยงานกำหนดมาตรฐาน (Standards Body) เพื่อทำการตรวจสอบเป็นเวลา 30 วันก่อนการเปิดตัวสู่สาธารณะ หลังจากที่ระเบียบวิธีการประเมินได้รับการพิสูจน์ว่ามีประสิทธิภาพแล้ว ระบบจะเปลี่ยนไปสู่ข้อกำหนดภาคบังคับ โดยโมเดลระดับแนวหน้าจะต้องผ่านการทดสอบตามมาตรฐานเพื่อเข้าสู่ตลาดสหรัฐฯ การออกแบบนี้จะช่วยตรวจพบช่องโหว่ที่สำคัญทั้งก่อนและหลังการนำไปใช้งาน

การแก้ไขข้อบกพร่องในการกำกับดูแลในปัจจุบัน

Hassabis ผลักดันให้มีองค์กรเฉพาะทางเนื่องจากเขามองว่าความพยายามในการกำกับดูแลในปัจจุบันนั้นยังไม่เพียงพอ เขาได้ยกตัวอย่างการตรวจสอบของรัฐบาลสหรัฐฯ ต่อ Mythos ของ Anthropic และ Sol ของ OpenAI เมื่อเร็วๆ นี้ เพื่อเป็นกรณีตัวอย่างที่ควรระวัง การประเมินเหล่านั้นถูกวิพากษ์วิจารณ์อย่างหนักเนื่องจากขาดความเชี่ยวชาญทางเทคนิคเชิงลึก และมีการตัดสินใจที่ไม่โปร่งใสเกี่ยวกับกรอบเวลาในการเปิดตัว

องค์กรกำกับดูแลตนเอง (self-regulatory organization) จะช่วยให้อุตสาหกรรมสามารถหลีกเลี่ยงความขัดแย้งทางการเมืองที่รายล้อมการกำกับดูแล AI ในปัจจุบัน Sriram Krishnan ที่ปรึกษาด้าน AI ของทำเนียบขาว เพิ่งเตือนว่าการมี “FDA สำหรับ AI” ภายในฝ่ายบริหารนั้นเป็นเรื่องที่เป็นไปได้ยาก โมเดลในรูปแบบ FINRA จึงเป็นทางเลือกสายกลาง นั่นคือมีความเป็นอิสระทางเทคนิคโดยไม่ต้องเผชิญกับอุปสรรคทางระบบราชการเหมือนหน่วยงานของรัฐโดยตรง

ความเชี่ยวชาญทางเทคนิคและความปลอดภัยที่ขยายขอบเขตได้

Hassabis เน้นย้ำว่าบุคลากรด้านการกำกับดูแลต้องมาจากภายในอุตสาหกรรมและชุมชนโอเพนซอร์ส (open-source community) ด้วยบุคลากรที่เข้าใจสถาปัตยกรรมของโมเดลและความเสี่ยงที่กำลังเกิดขึ้น องค์กรนี้จะสามารถประเมินโมเดลด้วยความเชี่ยวชาญที่แท้จริงได้

กรอบการทำงานนี้ยังอนุญาตให้มีแนวทางการรักษาความปลอดภัยแบบกระจายศูนย์ (decentralized safety approach) โดยหน่วยงานกำหนดมาตรฐานสามารถจ้างกลุ่มผู้เชี่ยวชาญด้านความปลอดภัย AI เฉพาะทางเพื่อทำการประเมินความเสี่ยงอย่างละเอียด เนื่องจากองค์กรจะปรับตัวตามความก้าวหน้าอย่างรวดเร็วของสาขานี้ การกำกับดูแลจึงสามารถ "ยกระดับ" ขึ้นอย่างคล่องตัวเมื่อมีความเสี่ยงใหม่ๆ ที่รุนแรงกว่าเดิมปรากฏขึ้น สิ่งนี้จะทำให้การกำกับดูแลเป็นตัวส่งเสริมการนวัตกรรมที่มีความรับผิดชอบ มากกว่าที่จะเป็นอุปสรรคขัดขวาง

สรุปประเด็นสำคัญ

  • โมเดลการกำกับดูแลแบบผสมผสาน: Hassabis เสนอให้มีองค์กรอิสระที่ได้รับเงินทุนจากอุตสาหกรรมและได้รับการสนับสนุนจากรัฐบาล โดยใช้โมเดลตามแบบอย่างของ FINRA เพื่อกำกับดูแลการเปิดตัวโมเดลระดับแนวหน้า
  • การดำเนินการเป็นระยะ: แผนงานจะเริ่มจากการตรวจสอบก่อนการเปิดตัวแบบสมัครใจเป็นเวลา 30 วัน และเปลี่ยนไปสู่การปฏิบัติตามข้อกำหนดภาคบังคับสำหรับตลาดสหรัฐฯ
  • ความเข้มงวดทางเทคนิค: องค์กรจะดึงผู้เชี่ยวชาญในอุตสาหกรรมและตัวแทนจากชุมชนโอเพนซอร์สมาเพื่อปิด "ช่องว่างด้านความเชี่ยวชาญ" ที่พบในการตรวจสอบที่นำโดยรัฐบาลในปัจจุบัน