HiddenLayer telah mengumpul $100 juta dalam pusingan Siri B, yang diterajui oleh Delta-v Capital dengan penyertaan daripada M12 milik Microsoft, Morgan Stanley dan Ten Eleven Ventures. Dana tersebut akan memacu platform keselamatan masa larian (runtime) AI miliknya ketika perusahaan mula melaksanakan AI generatif dan ejen autonomi ke dalam produksi.

Permukaan serangan di sekitar model AI sedang melonjak. Syarikat yang dahulunya hanya menjalankan buku nota bukti konsep (proof-of-concept) kini menyematkan model bahasa besar dan aliran kerja ejen (agentic workflows) ke dalam perkhidmatan berhadapan pelanggan, saluran keputusan dalaman dan juga sistem gred pertahanan. Setiap titik akhir (endpoint) baharu—antara muka arahan (prompt interface), integrasi alatan, versi model—menawarkan pijakan bagi musuh, dan pasaran untuk alatan yang mempertahankan titik akhir tersebut kini mengatasi kepantasan teknologi itu sendiri.

Mengapa keselamatan AI beralih daripada teori kepada keperluan

Tiga tahun lalu, kebanyakan penganalisis keselamatan menganggap ancaman khusus AI sekadar bahan kajian penyelidikan. Idea bahawa serangan adversarial akan meningkat skalanya lebih banyak didebatkan daripada diambil tindakan. Gartner kini meramalkan perbelanjaan perusahaan untuk alatan keselamatan AI akan mencecah $2.83 bilion tahun ini, lonjakan sebanyak 83 peratus daripada tahun lepas, dan akan meningkat menuju $4.78 bilion menjelang tahun depan. Angka-angka tersebut menunjukkan peralihan daripada projek perintis eksperimental kepada penggunaan kritikal-misi dan memberi isyarat bahawa organisasi menyedari bahawa model yang diceroboh boleh menelan kos yang jauh lebih besar daripada penggunaan alatan pencegahan.

Pertumbuhan HiddenLayer mencerminkan trend tersebut. CEO Chris Sestito menyatakan bahawa hasil berulang tahunan syarikat telah meningkat lebih sepuluh kali ganda dalam tempoh dua belas bulan lalu, dan kini berada dalam julat "puluhan juta". Lebih 90 peratus daripada peningkatan itu datang daripada pelanggan baharu—institusi kewangan, firma teknologi besar, Jabatan Pertahanan AS dan komuniti perisikan. Seorang pelanggan yang tidak didedahkan, yang membekalkan model perintis (frontier model) kepada lebih 700 juta pengguna mingguan, juga telah melanggan, sekali gus menekankan keluasan masalah tersebut.

Daripada pengukuhan model kepada melindungi ejen autonomi

Keselamatan pembelajaran mesin tradisional tertumpu kepada pengamanan saluran latihan dan pengesanan input adversarial yang memesongkan ramalan secara halus. HiddenLayer masih merangkumi asas-asas tersebut—penemuan, perlindungan masa larian, simulasi serangan dan semakan rantaian bekalan—tetapi kini ia menangani risiko unik AI generatif.

  • Suntikan arahan (Prompt injection) – Input berniat jahat yang memaksa model melaksanakan arahan yang tidak diingini atau mendedahkan data sulit. Platform ini menyucikan (sanitises) arahan sebelum ia sampai ke model dan memantau output untuk sebarang pelanggaran polisi.
  • Manipulasi ejen (Agent manipulation) – Ejen autonomi yang merangkaian alatan, API dan sumber data boleh dirampas semasa pelaksanaan, menyebabkan tindakan berbahaya atau kebocoran data. HiddenLayer menyuntik semakan polisi pada setiap langkah aliran kerja, membatalkan tindakan yang melanggar peraturan yang ditetapkan.
  • Penggunaan alatan berniat jahat (Malicious tool use) – Ejen AI semakin bergantung kepada plugin luaran, pentafsir kod atau modul pengambilan (retrieval modules). Penyelesaian ini memerhati integrasi tersebut untuk tingkah laku luar biasa, seperti modul pengambilan yang mengembalikan muatan (payload) yang tidak dijangka.

Model sumber terbuka (open-source) dan pemberat terbuka (open-weight) membangkitkan masalah yang khusus. Oleh kerana fail model boleh diedarkan secara bebas, pelaku ancaman boleh menyematkan kod tersembunyi atau pemberat berniat jahat yang akan dilaksanakan sebaik sahaja model dimuatkan. HiddenLayer menganalisis dan mengimbas kira-kira 50 format fail AI, mencari "model tersembunyi di dalam model" yang boleh bertindak sebagai pintu belakang (backdoors). Pertahanan rantaian bekalan ini menghentikan artifak yang diceroboh sebelum ia sempat dijalankan dalam produksi.

Bagaimana modal baharu akan dibelanjakan

HiddenLayer akan memperuntukkan $100 juta kepada tiga teras utama:

  1. Jualan dan pengedaran – Mengubah usaha pasaran khusus kepada enjin jualan perusahaan yang lebih luas, mencapai sektor yang baru sahaja mula menggunakan AI pada skala besar.
  2. Penyelidikan kejuruteraan – Memperkasakan logik pengesanan untuk vektor serangan baharu, seperti suntikan arahan pelbagai mod (multi-modal prompt injection) dan serangan penyelarasan rentas ejen.
  3. Pengembangan geografi – Membina kehadiran di Eropah, Timur Tengah dan Afrika (EMEA), di mana tekanan kawal selia mengenai ketelusan dan keselamatan AI semakin ketat.

Sestito menyamakan tawaran HiddenLayer dengan "Pengesanan dan Tindak Balas Titik Akhir (EDR) untuk AI." Sebagaimana ejen EDR memerhati proses sistem operasi untuk aktiviti berniat jahat, pengawal masa larian (runtime guard) HiddenLayer memerhati panggilan inferens model, panggilan alatan (tool invocations) dan aliran data untuk pelanggaran polisi.

Sudut pandang berbeza: mampukah gergasi awan menelan pasaran khusus ini?

Syarikat tersebut mengakui bahawa penyedia awan besar—AWS, Azure, Google Cloud—mungkin menyepadukan perlindungan masa larian yang serupa ke dalam perkhidmatan AI terurus mereka. Jika vendor awan menawarkan penapis suntikan-prompt terbina dalam atau penguatkuasaan polisi ejen, perusahaan mungkin melihat nilai yang lebih rendah pada tambahan pihak ketiga.

Sestito berhujah bahawa kawalan tadbir urus, identiti, dan polisi akan kekal cukup kompleks untuk mewajarkan penyelesaian khusus. “Apabila anda berurusan dengan beban kerja pelbagai-penyewa yang bernilai tinggi yang merentasi sempadan organisasi, tawaran awan yang bersifat 'satu saiz untuk semua' tidak dapat menangani setiap nuansa pematuhan,” katanya. Beliau percaya bahawa lapisan keselamatan khusus boleh bergerak lebih pantas daripada kitaran produk besar penyedia hyperscaler, dan integrasi mendalam dengan alatan pengurusan maklumat dan peristiwa keselamatan (SIEM) sedia ada akan memastikan platform tersebut kekal relevan.

Perkara yang perlu diperhatikan dalam bulan-bulan mendatang

  • Kepantasan penggunaan – Jika alatan keselamatan HiddenLayer menjadi prasyarat bagi kontrak perolehan AI, lesen perusahaan boleh melonjak, terutamanya dalam sektor yang dikawal selia.
  • Langkah kompetitif – Perhatikan pengumuman daripada penyedia awan utama mengenai pengukuhan masa larian AI asli. Tawaran pakej boleh memaksa HiddenLayer untuk beralih ke arah penggunaan awan hibrid atau atas premis.
  • Tekanan kawal selia – Memandangkan kerajaan sedang merangka piawaian keselamatan khusus AI, keperluan pematuhan mungkin merujuk secara eksplisit kepada perlindungan masa larian, memberikan dorongan kawal selia kepada vendor seperti HiddenLayer.
  • Evolusi ancaman – Teknik serangan baharu—suntikan-prompt yang diselaraskan merentasi pelbagai ejen atau serangan rantaian bekalan yang meracuni pemberat model secara besar-besaran—akan menguji mana-mana enjin pengesanan. Kepantasan HiddenLayer menyesuaikan model pengesanannya akan menjadi pembeza utama.

Kesimpulan

Suntikan dana $100 juta HiddenLayer menunjukkan bahawa pasaran untuk keselamatan masa larian khusus AI telah beralih daripada perdebatan akademik kepada keperluan komersial. Memandangkan AI perusahaan berkembang melampaui model terpencil kepada ejen yang kompleks dan kaya dengan alatan, perlindungan berterusan yang dipacu polisi menjadi sama penting seperti keselamatan titik akhir tradisional. Sama ada syarikat pemula itu kekal di hadapan lawan yang sofistikated dan perlumbaan senjata keselamatan dalam kalangan gergasi awan akan menentukan sama ada ia kekal sebagai “EDR untuk AI” atau menjadi sekadar ciri lain yang diserap ke dalam platform yang lebih besar. Suku tahun akan datang akan mendedahkan sama ada vendor keselamatan AI khusus dapat mencipta niche yang kekal dalam ekosistem yang masih dalam proses menentukan sempadannya sendiri.