HiddenLayer એ ડેલ્ટા-વી કેપિટલ (Delta-v Capital) ના નેતૃત્વમાં અને માઈક્રોસોફ્ટના M12, મોર્ગન સ્ટેનલી અને ટેન ઈલેવન વેન્ચર્સ (Ten Eleven Ventures) ની સહભાગિતા સાથે સીરીઝ B રાઉન્ડમાં $100 મિલિયન મેળવ્યા છે. જેમ જેમ એન્ટરપ્રાઇઝ જનરેટિવ AI અને ઓટોનોમસ એજન્ટ્સને પ્રોડક્શનમાં લઈ જઈ રહ્યા છે, તેમ આ રોકાણ તેના AI રનટાઇમ સિક્યુરિટી પ્લેટફોર્મને વેગ આપશે.
AI મોડલ્સની આસપાસ હુમલા માટેની સંભવિત સપાટી (attack surface) ઝડપથી વધી રહી છે. જે કંપનીઓ પહેલા માત્ર પ્રૂફ-ઓફ-કન્સેપ્ટ નોટબુક્સ ચલાવતી હતી, તે હવે લાર્જ લેંગ્વેજ મોડલ્સ અને એજન્ટિક વર્કફ્લોઝને ગ્રાહક-મુખી સેવાઓ, આંતરિક નિર્ણય પ્રક્રિયાઓ અને ડિફેન્સ-ગ્રેડ સિસ્ટમ્સમાં પણ સામેલ કરી રહી છે. દરેક નવો એન્ડપોઈન્ટ—પ્રોમ્પ્ટ ઇન્ટરફેસ, ટૂલ ઇન્ટિગ્રેશન, મોડલ વર્ઝન—દુશ્મનો માટે પ્રવેશદ્વાર પૂરો પાડે છે, અને તે એન્ડપોઈન્ટ્સનું રક્ષણ કરતા સાધનોનું બજાર ટેકનોલોજી કરતાં પણ વધુ ઝડપથી વધી રહ્યું છે.
શા માટે AI સુરક્ષા સિદ્ધાંતથી જરૂરિયાતમાં બદલાઈ ગઈ
ત્રણ વર્ષ પહેલાં મોટાભાગના સિક્યુરિટી એનાલિસ્ટ્સ AI-વિશિષ્ટ જોખમોને માત્ર સંશોધન માટેની એક કુતૂહલવસ્તુ તરીકે જોતા હતા. એડવર્સરીયલ એટેક્સ (adversarial attacks) મોટા પાયે થશે તે વિચાર પર વધુ ચર્ચા થતી હતી, પરંતુ તેના પર અમલ ઓછો થતો હતો. ગાર્ટનર (Gartner) હવે આગાહી કરે છે કે AI સુરક્ષા સાધનો પર એન્ટરપ્રાઇઝનો ખર્ચ આ વર્ષે $2.83 બિલિયન પર પહોંચશે, જે ગયા વર્ષ કરતા 83 ટકાનો ઉછાળો છે, અને આવતા વર્ષ સુધીમાં તે $4.78 બિલિયન સુધી પહોંચી શકે છે. આ આંકડાઓ પ્રાયોગિક પાયલોટથી લઈને મિશન-ક્રિટિકલ ડિપ્લોયમેન્ટ્સ તરફના બદલાવને દર્શાવે છે અને એ સંકેત આપે છે કે સંસ્થાઓ સમજી રહી છે કે જો મોડલ સાથે છેડછાડ થાય, તો તેનો ખર્ચ નિવારક સાધનોના ખર્ચ કરતા ઘણો વધારે હોઈ શકે છે.
HiddenLayer ની વૃદ્ધિ તે જ વલણને પ્રતિબિંબિત કરે છે. CEO ક્રિસ સેસ્ટિટો (Chris Sestito) જણાવે છે કે કંપનીની વાર્ષિક પુનરાવર્તિત આવક (annual recurring revenue) છેલ્લા બાર મહિનામાં દસ ગણીથી વધુ વધી છે, જે હવે "દસ મિલિયન" ની રેન્જમાં છે. તે વધારાના 90 ટકાથી વધુ નવા ગ્રાહકોમાંથી આવે છે—જેમાં નાણાકીય સંસ્થાઓ, મોટી ટેક કંપનીઓ, યુએસ ડિપાર્ટમેન્ટ ઓફ ડિફેન્સ અને ઇન્ટેલિજન્સ સમુદાયનો સમાવેશ થાય છે. એક અપ્રગટ ક્લાઇન્ટ, જે અઠવાડિયાના 700 મિલિયનથી વધુ વપરાશકર્તાઓ માટે ફ્રન્ટિયર મોડલ (frontier model) પૂરો પાડે છે, તેણે પણ આ પ્લેટફોર્મ સાથે જોડાણ કર્યું છે, જે આ સમસ્યાની વ્યાપકતા દર્શાવે છે.
મોડલ હાર્ડનિંગથી લઈને ઓટોનોમસ એજન્ટ્સના રક્ષણ સુધી
પરંપરાગત મશીન-લર્નિંગ સુરક્ષા ટ્રેનિંગ પાઇપલાઇનને સુરક્ષિત કરવા અને એડવર્સરીયલ ઇનપુટ્સને શોધવા પર કેન્દ્રિત હતી જે આગાહીઓને સૂક્ષ્મ રીતે વિકૃત કરે છે. HiddenLayer હજુ પણ તે પાયાની બાબતો—ડિસ્કવરી, રનટાઇમ પ્રોટેક્શન, એટેક સિમ્યુલેશન અને સપ્લાય-ચેન ચેક્સ—ને આવરી લે છે, પરંતુ તે હવે જનરેટિવ AI ના અનન્ય જોખમોનો સામનો કરી રહ્યું છે.
- પ્રોમ્પ્ટ ઇન્જેક્શન (Prompt injection) – એવા માલશિયસ ઇનપુટ્સ જે મોડલને અજાણતા આદેશોનું પાલન કરવા અથવા ગુપ્ત ડેટા જાહેર કરવા માટે મજબૂર કરે છે. આ પ્લેટફોર્મ પ્રોમ્પ્ટ મોડલ સુધી પહોંચે તે પહેલાં તેને શુદ્ધ (sanitise) કરે છે અને પોલિસી ઉલ્લંઘનો માટે આઉટપુટનું નિરીક્ષણ કરે છે.
- એજન્ટ મેનિપ્યુલેશન (Agent manipulation) – ઓટોનોમસ એજન્ટ્સ જે ટૂલ્સ, APIs અને ડેટા સોર્સને જોડે છે, તેમને અમલીકરણ દરમિયાન હાઇજેક કરી શકાય છે, જેનાથી હાનિકારક ક્રિયાઓ અથવા ડેટા લીક થઈ શકે છે. HiddenLayer દરેક વર્કફ્લો સ્ટેપ પર પોલિસી ચેક્સ ઉમેરે છે, અને નિર્ધારિત નિયમોનું ઉલ્લંઘન કરતી ક્રિયાઓને અટકાવે છે.
- માલશિયસ ટૂલ યુઝ (Malicious tool use) – AI એજન્ટ્સ વધુને વધુ એક્સટર્નલ પ્લગઇન્સ, કોડ ઇન્ટરપ્રિટર અથવા રિટ્રીવલ મોડ્યુલ્સ પર આધાર રાખે છે. આ સોલ્યુશન આ ઇન્ટિગ્રેશન્સમાં અસામાન્ય વર્તણૂક પર નજર રાખે છે, જેમ કે રિટ્રીવલ મોડ્યુલ દ્વારા અણધારી પેલોડ્સ (payloads) પરત કરવી.
ઓપન-સોર્સ અને ઓપન-વેઇટ મોડલ્સ એક ખાસ પ્રકારનું માથાકૂટ ઊભું કરે છે. કારણ કે મોડલ ફાઇલો મુક્તપણે વિતરિત કરી શકાય છે, થ્રેટ એક્ટર્સ છુપાયેલ કોડ અથવા માલશિયસ વેઇટ્સ એમ્બેડ કરી શકે છે જે મોડલ લોડ થતા જ કાર્યરત થઈ જાય છે. HiddenLayer અંદાજે 50 AI ફાઇલ ફોર્મેટનું વિશ્લેષણ અને સ્કેન કરે છે, જેથી "મોડલની અંદર છુપાયેલા મોડલ્સ" શોધી શકાય જે બેકડોર તરીકે કામ કરી શકે છે. આ સપ્લાય-ચેન ડિફેન્સ જોખમી આર્ટિફેક્ટ્સને પ્રોડક્શનમાં ચાલતા પહેલા જ અટકાવે છે.
નવું મૂડી કેવી રીતે ખર્ચવામાં આવશે
HiddenLayer આ $100 મિલિયનને ત્રણ મુખ્ય ક્ષેત્રોમાં ફાળવશે:
- સેલ્સ અને ડિસ્ટ્રિબ્યુશન – એક નાની માર્કેટિંગ ક્ષમતાને વ્યાપક એન્ટરપ્રાઇઝ સેલ્સ એન્જિનમાં રૂપાંતરિત કરવી, જેથી એવા ક્ષેત્રો સુધી પહોંચી શકાય જે હજુ મોટા પાયે AI અપનાવવાનું શરૂ કરી રહ્યા છે.
- એન્જિનિયરિંગ રિસર્ચ – ઉભરતા એટેક વેક્ટર્સ માટે ડિટેક્શન લોજિક પર વધુ ભાર મૂકવો, જેમ કે મલ્ટી-મોડલ પ્રોમ્પ્ટ ઇન્જેક્શન અને ક્રોસ-એજન્ટ કોઓર્ડિનેશન એટેક્સ.
- ભૌગોલિક વિસ્તરણ – યુરોપ, મધ્ય પૂર્વ અને આફ્રિકા (EMEA) માં હાજરી બનાવવી, જ્યાં AI પારદર્શિતા અને સુરક્ષા અંગેના નિયમનકારી દબાણો વધી રહ્યા છે.
સેસ્ટિટો HiddenLayer ની ઓફરિંગની સરખામણી "AI માટે એન્ડપોઈન્ટ ડિટેક્શન એન્ડ રિસ્પોન્સ (EDR)" સાથે કરે છે. જે રીતે EDR એજન્ટ્સ ઓપરેટિંગ-સિસ્ટમ પ્રક્રિયાઓમાં માલશિયસ પ્રવૃત્તિઓ માટે નજર રાખે છે, તેમ HiddenLayer નું રનટાઇમ ગાર્ડ પોલિસી ઉલ્લંઘનો માટે મોડલ ઇન્ફરન્સ કોલ્સ, ટૂલ ઇન્વોકેશન અને ડેટા ફ્લો પર નજર રાખે છે.
વિરોધ પક્ષ: શું ક્લાઉડ જાયન્ટ્સ આ ક્ષેત્રને હડપ કરી શકે છે?
The company acknowledges that large cloud providers—AWS, Azure, Google Cloud—could embed similar runtime protections into their managed AI services. If a cloud vendor offers built-in prompt-injection filters or agent-policy enforcement, enterprises might see less value in a third-party add-on.
Sestito argues that governance, identity and policy controls will stay complex enough to justify specialised solutions. “When you’re dealing with multi-tenant, high-value workloads that cross organisational boundaries, a one-size-fits-all cloud offering can’t address every compliance nuance,” he says. He believes a dedicated security layer can move faster than the massive product cycles of the hyperscalers, and that deep integration with existing security information and event management (SIEM) tools will keep the platform relevant.
What to watch in the coming months
- Adoption velocity – If hidden-layer security tools become a prerequisite for AI procurement contracts, enterprise licences could surge, especially in regulated sectors.
- Competitive moves – Watch for announcements from major cloud providers about native AI runtime hardening. A bundled offering could force hidden-layer to pivot toward hybrid-cloud or on-premises deployments.
- Regulatory pressure – As governments draft AI-specific security standards, compliance requirements may explicitly reference runtime protection, giving vendors like HiddenLayer a regulatory tailwind.
- Threat evolution – New attack techniques—coordinated prompt injection across multiple agents or supply-chain attacks that poison model weights at scale—will test any detection engine. The speed at which HiddenLayer adapts its detection models will be a key differentiator.
Bottom line
HiddenLayer’s $100 million raise shows the market for AI-specific runtime security has moved from academic debate to commercial imperative. As enterprise AI expands beyond isolated models into complex, tool-rich agents, continuous, policy-driven protection becomes as essential as traditional endpoint security. Whether the startup stays ahead of sophisticated adversaries and the security arms race among cloud giants will decide if it remains the “EDR for AI” or becomes another feature folded into a larger platform. The next quarter will reveal whether dedicated AI security vendors can carve out a lasting niche in an ecosystem still defining its own boundaries.