OpenAI dan lebih daripada 100 firma teknologi telah menandatangani satu surat terbuka yang menyatakan bahawa serangan siber berkuasa AI bakal keluar dari makmal dan menyerang infrastruktur dunia nyata. Gabungan tersebut memberi amaran bahawa penggodam akan menggunakan model bahasa besar dan ejen autonomi untuk mencari kelemahan serta melancarkan eksploitasi pelbagai peringkat pada kelajuan mesin, sekali gus membahayakan hospital, rangkaian kuasa dan bekalan air.

Mengapa amaran ini penting sekarang

Model kecerdasan buatan telah berkembang pesat daripada sekadar bahan kajian penyelidikan kepada perkhidmatan yang mampu menjana kod, menulis e-mel dan juga mereka bentuk perkakasan dalam masa beberapa saat. Lonjakan produktiviti tersebut memberikan alat kepada aktor berniat jahat yang boleh mengimbas rangkaian, menulis skrip eksploitasi dan menyelaraskan serangan tanpa campur tangan manusia. Amaran bersama daripada tiga agensi AS mengesahkan bahawa penyerang sudah pun menggunakan AI untuk menghasilkan kod eksploitasi yang menyasarkan sistem kawalan industri seperti siri Siemens S7, yang mengendalikan banyak loji tenaga, air dan pembuatan.

Apakah yang memacu ancaman ini

Surat tersebut mengetengahkan tiga peralihan teknikal yang mengubah AI menjadi senjata. Pertama, model bahasa besar boleh menukarkan penerangan ringkas tentang sasaran kepada kod yang berfungsi, sekali gus memendekkan masa yang diperlukan untuk membina muatan (payload). Kedua, ejen pembelajaran pengukuhan (reinforcement-learning) boleh menguji beribu-ribu varian eksploitasi dalam persekitaran sandbox, bagi mempelajari versi mana yang berjaya. Ketiga, alatan generatif boleh menghasilkan mesej pancingan data (phishing) yang meniru gaya mangsa, seterusnya meningkatkan kadar kecurian kredential. Apabila digabungkan, satu saluran paip (pipeline) automatik tunggal boleh mengesan kerentanan, menghasilkan eksploitasi tersuai dan melancarkannya ke puluhan peranti dalam masa beberapa minit.

Sasaran yang mungkin diserang

Infrastruktur kritikal menjadi tumpuan kerana sistemnya menggabungkan kawalan digital dengan proses fizikal. Loji rawatan air yang diceroboh boleh menyebabkan dos bahan kimia yang salah; pencawang kuasa yang digodam boleh menyebabkan sesebuah wilayah menjadi gelap gelita; rangkaian hospital yang diganggu boleh melumpuhkan peralatan sokongan hayat. Surat tersebut menyenaraikan hospital, utiliti air, rangkaian tenaga dan pengilang kimia sebagai sektor yang paling terdedah. Kebanyakan pengendali ini menggunakan peralatan lama (legacy equipment) yang tidak boleh dikemas kini dengan cepat, meninggalkan permukaan serangan yang luas bagi skrip pacuan AI.

Bagaimana pihak pertahanan boleh mengejar rentak

Para penandatangan berpendapat bahawa "kelebihan pihak pertahanan" (defender's edge) masih wujud tetapi semakin mengecil. Untuk mengekalkannya, mereka mencadangkan tiga tindakan:

  • Akauntabiliti korporat – Jadikan keselamatan sebagai keutamaan lembaga pengarah, dengan menyelaraskan bajet dan pengawasan mengikut skala ancaman AI.
  • Sokongan kerajaan – Tingkatkan pembiayaan untuk penyelidikan, kongsi risikan ancaman secara terbuka dan selaraskan pelan tindak balas dengan pengendali swasta.
  • Mendemokrasikan keselamatan – Bina alatan pertahanan berasaskan AI yang mampu milik dan mudah digunakan supaya utiliti kecil dan perkhidmatan perbandaran tidak menjadi titik lemah.

Potensi tentangan

Sesetengah pakar memberi amaran bahawa memberi tumpuan kepada AI sebagai bahaya baharu boleh mengalih perhatian daripada jurang sedia ada seperti perisian yang tidak dikemas kini, kata laluan yang lemah dan segmentasi rangkaian yang lemah. Mereka menunjukkan bahawa banyak teknik AI yang sama yang dipuji untuk serangan juga boleh digunakan untuk pertahanan—seperti semakan kod automatik, pengesanan anomali dan tindak balas insiden yang pantas. Surat itu sendiri menyatakan bahawa pihak pertahanan sudah pun menggunakan AI, namun pengkritik memberi amaran bahawa industri mungkin menjanjikan terlalu banyak alatan baharu sambil kurang melabur dalam aspek kebersihan asas (basic hygiene) keselamatan siber.

Perkara yang perlu diperhatikan

  • Inisiatif dasar – Jangkakan cadangan untuk aliran pembiayaan khusus bagi penyelidikan keselamatan siber berfokuskan AI dan piawaian yang mengawal selia pelepasan model generatif yang berkuasa.
  • Pelepasan alatan – Vendor berkemungkinan akan melancarkan pengimbas kerentanan dipertingkat AI dan sistem pengesanan pencerobohan yang menyasarkan sektor-sektor yang dinyatakan dalam surat tersebut.
  • Laporan insiden – Pencerobohan sistem infrastruktur kritikal pertama yang dipacu AI dan diumumkan kepada umum akan mengesahkan kebimbangan gabungan tersebut dan boleh mencetuskan tindakan kawal selia.

Surat terbuka ini menandakan kali pertama begitu banyak pesaing bersuara dengan satu suara mengenai risiko eksistensial yang dikongsi bersama. Sama ada industri dapat menukarkan konsensus tersebut kepada langkah perlindungan konkrit akan menentukan sama ada AI akan memacu gelombang kemusnahan siber seterusnya atau menjadi alat yang memastikan kelangsungan perkhidmatan.