Vedere Labs แสดงให้เห็นว่า Claude ซึ่งเป็นโมเดล AI สามารถพอร์ตช่องโหว่การรันรหัสจากระยะไกล (remote-code-execution exploit) จาก WAGO programmable logic controller (PLC) เครื่องหนึ่งไปยังอีกเครื่องหนึ่งได้ โดยที่นักวิจัยที่เป็นมนุษย์ยังคงเป็นผู้ควบคุมกระบวนการ ซึ่งพิสูจน์ให้เห็นว่าปัญญาประดิษฐ์กำลังกลายเป็นเครื่องมือที่ใช้งานได้จริงสำหรับการโจมตีทางไซเบอร์ในภาคอุตสาหกรรม การพิสูจน์แนวคิด (proof-of-concept) นี้ได้แสดงให้เห็นถึงการใช้ช่องโหว่ที่ใช้งานได้จริงต่อข้อบกพร่องแบบ buffer-overflow ใน Nucleus FTP server

ทำไมเรื่องนี้จึงสำคัญ

ระบบควบคุมอุตสาหกรรมเป็นตัวขับเคลื่อนโรงงาน โรงไฟฟ้า และสิ่งอำนวยความสะดวกในการบำบัดน้ำ ช่องโหว่ที่ช่วยให้ผู้โจมตีสามารถรันรหัสบน PLC ได้นั้นสามารถขัดขวางกระบวนการผลิต ขโมยข้อมูล หรือติดตั้ง backdoor แบบถาวรได้ การใช้ AI เพื่อทำให้การปรับเปลี่ยน exploit เป็นไปอย่างอัตโนมัติ ช่วยลดระดับความเชี่ยวชาญที่จำเป็นในการเปลี่ยนข้อบกพร่องเหล่านี้ให้เป็นอาวุธ ซึ่งเป็นการขยายกลุ่มผู้ที่อาจเป็นผู้โจมตีให้กว้างขึ้น

AI ทำได้อย่างไร

ทีม Vedere ได้จับคู่ Claude เข้ากับ Ghidra ซึ่งเป็นชุดเครื่องมือ reverse-engineering แบบโอเพนซอร์ส พวกเขาใช้ prompt สั่งให้ AI วิเคราะห์ shellcode ของ exploit ต้นฉบับ ซึ่งเป็นโปรแกรมขนาดเล็กที่ทำงานหลังจากเกิด buffer overflow และเขียนมันขึ้นมาใหม่เพื่อให้สอดคล้องกับข้อจำกัดของเฟิร์มแวร์ใน PLC รุ่นอื่น โดย Claude ได้ทำการ:

  • ปรับเปลี่ยน shellcode เพื่อหลบเลี่ยงโครงสร้างหน่วยความจำ (memory layout) ของเป้าหมาย
  • ประสบความสำเร็จในการรันรหัสที่ส่งแพ็กเก็ตเครือข่ายที่ถูกสร้างขึ้นมาเป็นพิเศษ ซึ่งพิสูจน์ว่า exploit นี้ทำงานได้ตั้งแต่ต้นจนจบ (end-to-end)
  • พยายามฝัง command-and-control implant ซึ่งการรันครั้งนั้นทำให้ PLC เสียหายจนใช้งานไม่ได้โดยสิ้นเชิง (bricked) ซึ่งตอกย้ำถึงความเสี่ยงของการลองผิดลองถูกในระดับที่ขยายวงกว้างได้

นักวิจัยยังคงเป็นผู้ควบคุมกระบวนการ ตรวจสอบผลลัพธ์ และจัดการกับความล้มเหลวของฮาร์ดแวร์ นอกจากนี้ การทดลองยังเผยให้เห็นถึงค่าใช้จ่ายที่สูงของการเรียกใช้ API ที่จำเป็นสำหรับการวิเคราะห์และการสร้างรหัส

สัญญาณเตือนที่กว้างขึ้น

ทั้ง Cybersecurity and Infrastructure Security Agency (CISA) และ FBI ต่างเตือนว่าสคริปต์ที่สร้างโดย AI ทำให้ระบบควบคุมอุตสาหกรรมกลายเป็นเป้าหมายที่น่าดึงดูดใจมากขึ้น ข้อกังวลหลักคืออุปสรรคในการเข้าถึงการโจมตีที่ซับซ้อนกำลังลดลง ผู้โจมตีที่ไม่มีทักษะด้าน reverse-engineering เชิงลึกสามารถพึ่งพาผู้ช่วย AI ในการสร้าง exploit ที่ใช้งานได้จริง

ข้อจำกัดและข้อโต้แย้ง

การทดลองนี้ไม่ใช่ "อาวุธสำเร็จรูป" (turnkey weapon) เพราะต้องใช้ทีมที่มีทักษะในการตั้งค่า prompt การรวม Ghidra เข้าด้วยกัน และการตีความผลลัพธ์ การทำลาย PLC โดยอุบัติเหตุแสดงให้เห็นว่ากระบวนการนี้ยังคงมีความเปราะบางและเกิดข้อผิดพลาดได้ง่าย นอกจากนี้ ค่าใช้จ่ายในการใช้งาน API ของ large-language-model อาจช่วยยับยั้งการนำไปใช้ในทางที่ผิดโดยผู้ใช้ทั่วไป

สิ่งที่ต้องจับตามอง

  • คำแนะนำอย่างต่อเนื่องจากหน่วยงานความมั่นคงปลอดภัยทางไซเบอร์ของรัฐบาล ในขณะที่เครื่องมือ AI เข้าถึงได้ง่ายขึ้น

กรณีของ Vedere Labs แสดงให้เห็นอย่างชัดเจนว่า AI ไม่ใช่เพียงเครื่องมือช่วยเหลือเชิงทฤษฎีสำหรับผู้โจมตีอีกต่อไป แต่มันสามารถเขียนรหัสที่เป็นอันตรายขึ้นใหม่สำหรับฮาร์ดแวร์รุ่นใหม่ได้อย่างจริงจัง ซึ่งเป็นการเปลี่ยนโฉมหน้าของภัยคุกคามต่อระบบอุตสาหกรรมที่สำคัญ