OpenAI และบริษัทเทคโนโลยีมากกว่า 100 แห่งได้ลงนามในจดหมายเปิดผนึกที่ระบุว่า การโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI กำลังจะก้าวออกจากห้องทดลองและเข้าจู่โจมโครงสร้างพื้นฐานในโลกแห่งความเป็นจริง กลุ่มพันธมิตรเตือนว่าในไม่ช้าแฮกเกอร์จะใช้โมเดลภาษาขนาดใหญ่ (large language models) และเอเจนต์อัตโนมัติ (autonomous agents) เพื่อค้นหาช่องโหว่และเริ่มการโจมตีแบบหลายขั้นตอน (multi-stage exploits) ด้วยความเร็วระดับเครื่องจักร ซึ่งจะส่งผลกระทบต่อโรงพยาบาล โครงข่ายไฟฟ้า และระบบประปา

ทำไมคำเตือนนี้จึงสำคัญในขณะนี้

โมเดลปัญญาประดิษฐ์ได้พัฒนาอย่างก้าวกระโดด จากสิ่งที่เคยเป็นเพียงความอยากรู้อยากเห็นในงานวิจัย กลายมาเป็นบริการที่สามารถสร้างโค้ด เขียนอีเมล และแม้แต่การออกแบบฮาร์ดแวร์ได้ภายในไม่กี่วินาที การเพิ่มประสิทธิภาพดังกล่าวได้มอบเครื่องมือให้แก่ผู้ไม่หวังดีในการสแกนเครือข่าย เขียนสคริปต์เพื่อโจมตี และประสานงานการโจมตีได้โดยไม่ต้องใช้มนุษย์ การแจ้งเตือนร่วมจากหน่วยงานของสหรัฐฯ สามแห่งยืนยันว่า ผู้โจมตีเริ่มใช้ AI ในการสร้างโค้ดสำหรับโจมตี (exploit code) ที่มุ่งเป้าไปยังระบบควบคุมอุตสาหกรรม เช่น ซีรีส์ Siemens S7 ซึ่งควบคุมโรงงานพลังงาน น้ำ และการผลิตจำนวนมาก

ปัจจัยที่ขับเคลื่อนภัยคุกคาม

จดหมายฉบับนี้เน้นย้ำถึงการเปลี่ยนแปลงทางเทคนิคสามประการที่เปลี่ยน AI ให้กลายเป็นอาวุธ ประการแรก โมเดลภาษาขนาดใหญ่สามารถเปลี่ยนคำอธิบายเป้าหมายสั้นๆ ให้กลายเป็นโค้ดที่ใช้งานได้จริง ซึ่งช่วยลดเวลาที่ต้องใช้ในการสร้าง payload ประการที่สอง เอเจนต์การเรียนรู้แบบเสริมกำลัง (reinforcement-learning agents) สามารถทดสอบรูปแบบการโจมตีที่หลากหลายนับพันรายการใน sandbox เพื่อเรียนรู้ว่าเวอร์ชันใดประสบความสำเร็จ ประการที่สาม เครื่องมือ generative สามารถสร้างข้อความ phishing ที่เลียนแบบสไตล์ของผู้เสียหาย ซึ่งช่วยเพิ่มอัตราการขโมยข้อมูลประจำตัว เมื่อรวมกันแล้ว ระบบอัตโนมัติเพียงระบบเดียวสามารถระบุช่องโหว่ สร้างชุดคำสั่งโจมตีที่ปรับแต่งมาโดยเฉพาะ และยิงเข้าใส่อุปกรณ์หลายสิบเครื่องได้ภายในไม่กี่นาที

เป้าหมายที่อาจถูกโจมตี

โครงสร้างพื้นฐานสำคัญเป็นจุดสนใจเนื่องจากระบบเหล่านี้มีการผสมผสานระหว่างการควบคุมทางดิจิทัลและกระบวนการทางกายภาพ โรงบำบัดน้ำที่ถูกเจาะระบบอาจมีการผสมสารเคมีผิดพลาด สถานีไฟฟ้าที่ถูกแฮกอาจทำให้ภูมิภาคหนึ่งตกอยู่ในความมืดมิด หรือเครือข่ายโรงพยาบาลที่ถูกแทรกแซงอาจทำให้เครื่องช่วยชีวิตใช้งานไม่ได้ จดหมายฉบับนี้ระบุถึงโรงพยาบาล สาธารณูปโภคด้านน้ำ โครงข่ายพลังงาน และผู้ผลิตสารเคมีว่าเป็นภาคส่วนที่มีความเสี่ยงมากที่สุด ผู้ให้บริการเหล่านี้จำนวนมากยังคงใช้เครื่องมือรุ่นเก่า (legacy equipment) ที่ไม่สามารถอัปเดตแพตช์ได้อย่างรวดเร็ว ทำให้มีพื้นที่การโจมตี (attack surface) ขนาดใหญ่สำหรับสคริปต์ที่ขับเคลื่อนด้วย AI

วิธีที่ฝ่ายป้องกันจะก้าวให้ทัน

ผู้ลงนามโต้แย้งว่า "ความได้เปรียบของฝ่ายป้องกัน" (defender’s edge) ยังคงมีอยู่แต่กำลังลดน้อยลง เพื่อรักษาความได้เปรียบนี้ไว้ พวกเขาเสนอแนวทางปฏิบัติสามประการ:

  • ความรับผิดชอบขององค์กร (Corporate accountability) – ทำให้ความปลอดภัยเป็นลำดับความสำคัญในระดับคณะกรรมการบริหาร โดยจัดสรรงบประมาณและการกำกับดูแลให้สอดคล้องกับขนาดของภัยคุกคามจาก AI
  • การสนับสนุนจากภาครัฐ (Governmental support) – เพิ่มงบประมาณสำหรับการวิจัย แบ่งปันข้อมูลข่าวสารด้านภัยคุกคามอย่างเปิดเผย และประสานงานแผนการตอบโต้กับผู้ให้บริการภาคเอกชน
  • การทำให้ความปลอดภัยเป็นเรื่องที่เข้าถึงได้ง่าย (Democratizing security) – สร้างเครื่องมือป้องกันที่ใช้ AI ซึ่งมีราคาเหมาะสมและติดตั้งง่าย เพื่อไม่ให้สาธารณูปโภคขนาดเล็กหรือบริการส่วนท้องถิ่นกลายเป็นจุดอ่อนของระบบ

ข้อโต้แย้งที่อาจเกิดขึ้น

ผู้เชี่ยวชาญบางคนเตือนว่าการให้ความสำคัญกับ AI ในฐานะภัยอันตรายใหม่ อาจเบี่ยงเบนความสนใจไปจากช่องโหว่ที่มีมานานแล้ว เช่น ซอฟต์แวร์ที่ไม่ได้อัปเดตแพตช์ รหัสผ่านที่อ่อนแอ และการแบ่งส่วนเครือข่าย (network segmentation) ที่ไม่ดี พวกเขาชี้ให้เห็นว่าเทคนิค AI หลายอย่างที่ถูกนำมาใช้ในการโจมตี ก็สามารถนำมาใช้ในการป้องกันได้เช่นกัน เช่น การตรวจสอบโค้ดอัตโนมัติ การตรวจจับความผิดปกติ และการตอบสนองต่อเหตุการณ์อย่างรวดเร็ว ตัวจดหมายเองก็ระบุว่าฝ่ายป้องกันมีการใช้ AI อยู่แล้ว แต่ผู้วิจารณ์เตือนว่าอุตสาหกรรมอาจให้สัญญาเกินจริงเกี่ยวกับเครื่องมือใหม่ๆ ในขณะที่ลงทุนในพื้นฐานด้านความปลอดภัย (basic hygiene) น้อยเกินไป

สิ่งที่ต้องจับตามอง

  • ข้อริเริ่มด้านนโยบาย (Policy initiatives) – คาดว่าจะมีการเสนอแผนการจัดสรรงบประมาณเฉพาะสำหรับการวิจัยความมั่นคงปลอดภัยทางไซเบอร์ที่เน้น AI และมาตรฐานที่ควบคุมการปล่อยโมเดล generative ที่ทรงพลัง
  • การเปิดตัวเครื่องมือ (Tool releases) – ผู้ให้บริการมีแนวโน้มที่จะเปิดตัวเครื่องมือสแกนช่องโหว่และระบบตรวจจับการบุกรุกที่เสริมประสิทธิภาพด้วย AI ซึ่งมุ่งเป้าไปยังภาคส่วนที่จดหมายฉบับนี้ระบุไว้
  • รายงานเหตุการณ์ (Incident reports) – การรั่วไหลของข้อมูลหรือการโจมตีระบบโครงสร้างพื้นฐานสำคัญที่ขับเคลื่อนด้วย AI ครั้งแรกที่ถูกเปิดเผยต่อสาธารณะ จะเป็นการยืนยันความกังวลของกลุ่มพันธมิตร และอาจนำไปสู่การดำเนินการทางกฎหมาย

จดหมายเปิดผนึกฉบับนี้ถือเป็นครั้งแรกที่คู่แข่งจำนวนมากออกมาส่งเสียงเป็นหนึ่งเดียวกันเกี่ยวกับความเสี่ยงที่มีต่อการดำรงอยู่ร่วมกัน ไม่ว่าอุตสาหกรรมจะเปลี่ยนฉันทามตินี้ให้กลายเป็นมาตรการป้องกันที่จับต้องได้หรือไม่ จะเป็นตัวตัดสินว่า AI จะเป็นเชื้อเพลิงให้กับการทำลายล้างทางไซเบอร์ระลอกใหม่ หรือจะกลายเป็นเครื่องมือที่ช่วยรักษาความมั่นคงของระบบต่อไป