HiddenLayer ระดมทุนได้ 100 ล้านดอลลาร์ในรอบ Series B นำโดย Delta-v Capital พร้อมด้วยการเข้าร่วมจาก M12 ของ Microsoft, Morgan Stanley และ Ten Eleven Ventures เงินทุนนี้จะนำไปใช้ขับเคลื่อนแพลตฟอร์มความปลอดภัย AI ในขณะทำงาน (AI runtime security platform) ในขณะที่องค์กรต่างๆ กำลังผลักดัน Generative AI และเอเจนต์อัตโนมัติ (autonomous agents) เข้าสู่กระบวนการผลิตจริง
พื้นที่การโจมตี (attack surface) รอบๆ โมเดล AI กำลังขยายตัวอย่างรวดเร็ว บริษัทที่เคยรันเพียงสมุดบันทึก (notebooks) เพื่อพิสูจน์แนวคิด (proof-of-concept) ในปัจจุบันได้นำ Large Language Models และเวิร์กโฟลว์แบบเอเจนต์ (agentic workflows) ไปฝังไว้ในบริการที่ติดต่อกับลูกค้า, กระบวนการตัดสินใจภายใน และแม้แต่ระบบระดับการป้องกันประเทศ ทุกๆ เอนด์พอยต์ (endpoint) ใหม่ ไม่ว่าจะเป็นอินเทอร์เฟซการป้อนคำสั่ง (prompt interface), การรวมเครื่องมือ (tool integration) หรือเวอร์ชันของโมเดล ล้วนเป็นช่องทางให้ผู้ไม่หวังดีเข้าถึงได้ และตลาดสำหรับเครื่องมือที่ใช้ป้องกันเอนด์พอยต์เหล่านี้กำลังเติบโตแซงหน้าเทคโนโลยีเองเสียอีก
ทำไมความปลอดภัยของ AI จึงเปลี่ยนจากทฤษฎีมาเป็นความจำเป็น
เมื่อสามปีก่อน นักวิเคราะห์ด้านความปลอดภัยส่วนใหญ่ถือว่าภัยคุกคามเฉพาะด้าน AI เป็นเพียงเรื่องที่น่าสนใจในเชิงวิจัย แนวคิดที่ว่าการโจมตีแบบปรปักษ์ (adversarial attacks) จะขยายวงกว้างขึ้นนั้นถูกนำมาถกเถียงกันมากกว่าการลงมือปฏิบัติจริง ปัจจุบัน Gartner คาดการณ์ว่าการใช้จ่ายขององค์กรสำหรับเครื่องมือความปลอดภัย AI จะแตะระดับ 2.83 พันล้านดอลลาร์ในปีนี้ ซึ่งเพิ่มขึ้นถึง 83 เปอร์เซ็นต์จากปีที่แล้ว และจะพุ่งสูงขึ้นถึง 4.78 พันล้านดอลลาร์ในปีหน้า ตัวเลขเหล่านี้แสดงให้เห็นถึงการเปลี่ยนผ่านจากการทดลองนำร่องไปสู่การปรับใช้งานในระดับที่สำคัญยิ่งต่อภารกิจ (mission-critical) และเป็นสัญญาณว่าองค์กรต่างๆ ตระหนักแล้วว่าโมเดลที่ถูกเจาะระบบอาจสร้างความเสียหายได้มากกว่าค่าใช้จ่ายในการใช้เครื่องมือป้องกัน
การเติบโตของ HiddenLayer สะท้อนถึงแนวโน้มดังกล่าว Chris Sestito ซีอีโอ กล่าวว่ารายได้ต่อเนื่องรายปี (annual recurring revenue) ของบริษัทเพิ่มขึ้นมากกว่าสิบเท่าในช่วงสิบสองเดือนที่ผ่านมา โดยปัจจุบันอยู่ในระดับ "หลายสิบล้านดอลลาร์" มากกว่า 90 เปอร์เซ็นต์ของการเติบโตนี้มาจากลูกค้าใหม่ ซึ่งรวมถึงสถาบันการเงิน, บริษัทเทคโนโลยีขนาดใหญ่, กระทรวงกลาโหมของสหรัฐฯ และชุมชนข่าวกรอง นอกจากนี้ ยังมีลูกค้ารายหนึ่งที่ไม่เปิดเผยชื่อ ซึ่งเป็นผู้ให้บริการโมเดลระดับแนวหน้า (frontier model) แก่ผู้ใช้งานกว่า 700 ล้านคนต่อสัปดาห์ ได้เซ็นสัญญาใช้งานด้วยเช่นกัน ซึ่งตอกย้ำถึงขอบเขตของปัญหาที่เกิดขึ้น
จากการเสริมความแข็งแกร่งของโมเดล สู่การปกป้องเอเจนต์อัตโนมัติ
ความปลอดภัยของ Machine Learning แบบดั้งเดิมมุ่งเน้นไปที่การรักษาความปลอดภัยของกระบวนการฝึกฝน (training pipeline) และการตรวจจับอินพุตแบบปรปักษ์ (adversarial inputs) ที่บิดเบือนการทำนายอย่างแนบเนียน HiddenLayer ยังคงครอบคลุมพื้นฐานเหล่านั้น ทั้งการค้นหา (discovery), การป้องกันขณะทำงาน (runtime protection), การจำลองการโจมตี (attack simulation) และการตรวจสอบห่วงโซ่อุปทาน (supply-chain checks) แต่ปัจจุบันบริษัทกำลังจัดการกับความเสี่ยงที่เป็นเอกลักษณ์ของ Generative AI
- Prompt injection – อินพุตที่เป็นอันตรายซึ่งบีบบังคับให้โมเดลดำเนินการตามคำสั่งที่ไม่ตั้งใจหรือเปิดเผยข้อมูลที่เป็นความลับ แพลตฟอร์มจะทำการล้างข้อมูลคำสั่ง (sanitises prompts) ก่อนที่จะส่งถึงโมเดล และตรวจสอบเอาต์พุตเพื่อหาการละเมิดนโยบาย
- Agent manipulation – เอเจนต์อัตโนมัติที่เชื่อมโยงเครื่องมือ, API และแหล่งข้อมูลเข้าด้วยกันอาจถูกจารกรรมระหว่างการทำงาน ซึ่งอาจก่อให้เกิดการกระทำที่เป็นอันตรายหรือข้อมูลรั่วไหล HiddenLayer จะแทรกการตรวจสอบนโยบายในทุกขั้นตอนของเวิร์กโฟลว์ และยกเลิกการกระทำที่ละเมิดกฎที่กำหนดไว้
- Malicious tool use – เอเจนต์ AI พึ่งพาปลั๊กอินภายนอก, ตัวแปลรหัส (code interpreters) หรือโมดูลการดึงข้อมูล (retrieval modules) มากขึ้นเรื่อยๆ โซลูชันนี้จะเฝ้าดูการรวมระบบเหล่านี้เพื่อตรวจหาพฤติกรรมที่ผิดปกติ เช่น โมดูลการดึงข้อมูลที่ส่งคืนข้อมูล (payloads) ที่ไม่คาดคิด
โมเดลแบบ open-source และ open-weight ก่อให้เกิดปัญหาที่น่าปวดหัวเป็นพิเศษ เนื่องจากไฟล์โมเดลสามารถแจกจ่ายได้อย่างอิสระ ผู้ไม่หวังดีจึงสามารถฝังรหัสลับหรือค่าน้ำหนัก (weights) ที่เป็นอันตรายซึ่งจะทำงานทันทีที่โหลดโมเดล HiddenLayer ทำการวิเคราะห์และสแกนรูปแบบไฟล์ AI ประมาณ 50 รูปแบบ เพื่อค้นหา "โมเดลที่ซ่อนอยู่ในโมเดล" ซึ่งอาจทำหน้าที่เป็นประตูหลัง (backdoors) การป้องกันห่วงโซ่อุปทานนี้จะหยุดยั้งสิ่งที่ถูกดัดแปลงก่อนที่จะถูกนำไปใช้งานจริง
เงินทุนใหม่จะถูกนำไปใช้ทำอะไรบ้าง
HiddenLayer จะจัดสรรเงิน 100 ล้านดอลลาร์ไปยังสามด้านหลัก:
- Sales and distribution – เปลี่ยนความพยายามในการทำตลาดเฉพาะกลุ่ม (niche) ให้กลายเป็นกลไกการขายระดับองค์กรที่กว้างขวางขึ้น เพื่อเข้าถึงภาคส่วนที่เพิ่งเริ่มนำ AI มาใช้ในวงกว้าง
- Engineering research – ทุ่มเทให้กับการพัฒนาตรรกะการตรวจจับสำหรับเวกเตอร์การโจมตีใหม่ๆ เช่น การฉีดคำสั่งแบบหลายรูปแบบ (multi-modal prompt injection) และการโจมตีแบบประสานงานระหว่างเอเจนต์ (cross-agent coordination attacks)
- Geographic expansion – สร้างตัวตนในยุโรป ตะวันออกกลาง และแอฟริกา (EMEA) ซึ่งแรงกดดันด้านกฎระเบียบเกี่ยวกับความโปร่งใสและความปลอดภัยของ AI กำลังเข้มงวดขึ้น
Sestito เปรียบเทียบสิ่งที่ HiddenLayer นำเสนอว่าเป็นเหมือน “Endpoint Detection and Response (EDR) สำหรับ AI” เช่นเดียวกับที่เอเจนต์ EDR เฝ้าดูโปรเซสของระบบปฏิบัติการเพื่อหาความเคลื่อนไหวที่เป็นอันตราย ตัวป้องกันขณะทำงาน (runtime guard) ของ HiddenLayer จะเฝ้าดูการเรียกใช้โมเดล (model inference calls), การเรียกใช้เครื่องมือ (tool invocations) และการไหลของข้อมูล (data flows) เพื่อหาการละเมิดนโยบาย
มุมมองที่ต่างออกไป: ยักษ์ใหญ่ด้านคลาวด์จะกลืนกินตลาดเฉพาะกลุ่มนี้หรือไม่?
บริษัทตระหนักดีว่าผู้ให้บริการคลาวด์รายใหญ่—AWS, Azure, Google Cloud—อาจมีการฝังระบบป้องกันขณะรันไทม์ (runtime protections) ที่คล้ายคลึงกันไว้ในบริการ AI แบบจัดการ (managed AI services) ของตน หากผู้ให้บริการคลาวด์มีตัวกรอง prompt injection หรือการบังคับใช้นโยบายเอเจนต์ (agent-policy enforcement) มาให้ในตัว องค์กรต่างๆ ก็อาจมองเห็นความคุ้มค่าในการใช้ส่วนเสริมจากบุคคลที่สามน้อยลง
Sestito โต้แย้งว่าการกำกับดูแล การระบุตัวตน และการควบคุมนโยบายจะยังคงมีความซับซ้อนเพียงพอที่จะทำให้โซลูชันเฉพาะทางมีความจำเป็น “เมื่อคุณต้องจัดการกับเวิร์กโหลดที่มีมูลค่าสูงและเป็นแบบ multi-tenant ซึ่งข้ามขอบเขตขององค์กร ข้อเสนอคลาวด์แบบครอบจักรวาล (one-size-fits-all) ไม่สามารถตอบโจทย์รายละเอียดความแตกต่างด้านการปฏิบัติตามกฎระเบียบ (compliance nuance) ได้ครบทุกประเด็น” เขากล่าว เขาเชื่อว่าเลเยอร์ความปลอดภัยเฉพาะทางสามารถเคลื่อนที่ได้เร็วกว่าวงจรผลิตภัณฑ์ขนาดใหญ่ของผู้ให้บริการคลาวด์รายใหญ่ (hyperscalers) และการบูรณาการอย่างลึกซึ้งกับเครื่องมือจัดการข้อมูลความปลอดภัยและเหตุการณ์ (SIEM) ที่มีอยู่จะช่วยให้แพลตฟอร์มนี้ยังคงมีความสำคัญต่อไป
สิ่งที่ต้องจับตามองในเดือนต่อๆ ไป
- ความเร็วในการนำไปใช้งาน (Adoption velocity) – หากเครื่องมือความปลอดภัยแบบ hidden-layer กลายเป็นเงื่อนไขเบื้องต้นสำหรับสัญญาการจัดซื้อจัดจ้าง AI ไลเซนส์สำหรับองค์กรอาจพุ่งสูงขึ้น โดยเฉพาะในภาคส่วนที่มีกฎระเบียบควบคุม
- ความเคลื่อนไหวทางการแข่งขัน (Competitive moves) – จับตาดูการประกาศจากผู้ให้บริการคลาวด์รายใหญ่เกี่ยวกับการเสริมความแข็งแกร่งให้กับ AI runtime แบบเนทีฟ (native AI runtime hardening) ข้อเสนอแบบรวมแพ็กเกจอาจบีบให้ hidden-layer ต้องปรับเปลี่ยนทิศทางไปสู่การติดตั้งแบบ hybrid-cloud หรือ on-premises
- แรงกดดันด้านกฎระเบียบ (Regulatory pressure) – ในขณะที่รัฐบาลต่างๆ กำลังร่างมาตรฐานความปลอดภัยเฉพาะสำหรับ AI ข้อกำหนดด้านการปฏิบัติตามกฎระเบียบอาจมีการอ้างถึงการป้องกันขณะรันไทม์อย่างชัดเจน ซึ่งจะเป็นแรงส่งจากกฎระเบียบ (regulatory tailwind) ให้กับผู้ให้บริการอย่าง HiddenLayer
- วิวัฒนาการของภัยคุกคาม (Threat evolution) – เทคนิคการโจมตีแบบใหม่ เช่น การฉีดคำสั่ง (prompt injection) แบบประสานงานผ่านเอเจนต์หลายตัว หรือการโจมตีห่วงโซ่อุปทาน (supply-chain attacks) ที่วางยาค่าน้ำหนักของโมเดล (poison model weights) ในวงกว้าง จะเป็นบททดสอบให้กับเอนจินการตรวจจับใดๆ ความเร็วที่ HiddenLayer ปรับเปลี่ยนโมเดลการตรวจจับของตนจะเป็นปัจจัยสร้างความแตกต่างที่สำคัญ
บทสรุป
การระดมทุน 100 ล้านดอลลาร์ของ HiddenLayer แสดงให้เห็นว่าตลาดด้านความปลอดภัยขณะรันไทม์สำหรับ AI ได้เปลี่ยนจากการถกเถียงทางวิชาการไปสู่ความจำเป็นเชิงพาณิชย์แล้ว เมื่อ AI สำหรับองค์กรขยายตัวจากโมเดลที่แยกส่วนไปสู่เอเจนต์ที่มีความซับซ้อนและเต็มไปด้วยเครื่องมือ การป้องกันที่ขับเคลื่อนด้วยนโยบายอย่างต่อเนื่องจึงกลายเป็นสิ่งจำเป็นพอๆ กับความปลอดภัยของ endpoint แบบดั้งเดิม การที่สตาร์ทอัพรายนี้จะสามารถก้าวล้ำหน้าผู้ไม่หวังดีที่มีความเชี่ยวชาญสูงและการแข่งขันทางอาวุธด้านความปลอดภัยระหว่างยักษ์ใหญ่คลาวด์ได้หรือไม่ จะเป็นตัวตัดสินว่าพวกเขาจะยังคงเป็น “EDR สำหรับ AI” หรือจะกลายเป็นเพียงฟีเจอร์หนึ่งที่ถูกรวมเข้ากับแพลตฟอร์มที่ใหญ่กว่า ไตรมาสหน้าจะเป็นตัวบ่งชี้ว่าผู้ให้บริการความปลอดภัย AI เฉพาะทางจะสามารถสร้างพื้นที่เฉพาะ (niche) ที่ยั่งยืนในระบบนิเวศที่ยังคงอยู่ในช่วงการกำหนดขอบเขตของตัวเองได้หรือไม่