HiddenLayer hat in einer Series-B-Finanzierungsrunde 100 Millionen US-Dollar eingesammelt, angeführt von Delta-v Capital unter Beteiligung von Microsofts M12, Morgan Stanley und Ten Eleven Ventures. Das Kapital wird die KI-Runtime-Security-Plattform vorantreiben, während Unternehmen generative KI und autonome Agenten in die Produktion überführen.

Die Angriffsfläche rund um KI-Modelle explodiert. Unternehmen, die früher lediglich Proof-of-Concept-Notebooks nutzten, betten nun Large Language Models und agentische Workflows in kundennahe Dienste, interne Entscheidungsprozesse und sogar hochgradig gesicherte Verteidigungssysteme ein. Jeder neue Endpunkt – Prompt-Schnittstelle, Tool-Integration, Modellversion – bietet Angreifern einen Ansatzpunkt, und der Markt für Werkzeuge zur Verteidigung dieser Endpunkte wächst schneller als die Technologie selbst.

Warum KI-Sicherheit von der Theorie zur Notwendigkeit wurde

Vor drei Jahren behandelten die meisten Sicherheitsanalysten KI-spezifische Bedrohungen noch als Forschungskuriosität. Die Vorstellung, dass Adversarial Attacks skalierbar wären, wurde eher debattiert als angegangen. Gartner prognostiziert nun, dass die Unternehmenausgaben für KI-Sicherheitstools in diesem Jahr 2,83 Milliarden US-Dollar erreichen werden – ein Anstieg von 83 Prozent gegenüber dem Vorjahr – und bis zum nächsten Jahr auf 4,78 Milliarden US-Dollar ansteigen werden. Diese Zahlen verdeutlichen den Wandel von experimentellen Pilotprojekten hin zu geschäftskritischen Implementierungen und signalisieren, dass Unternehmen erkennen, dass ein kompromittiertes Modell weitaus höhere Kosten verursachen kann als präventive Sicherheitswerkzeuge.

Das Wachstum von HiddenLayer spiegelt diesen Trend wider. CEO Chris Sestito gibt an, dass sich der jährlich wiederkehrende Umsatz (ARR) des Unternehmens in den letzten zwölf Monaten mehr als verzehnfacht hat und sich nun im zweistelligen Millionenbereich bewegt. Über 90 Prozent dieses Zuwachses entfallen auf Neukunden – Finanzinstitute, große Tech-Unternehmen, das US-Verteidigungsministerium und die Geheimdienstgemeinschaft. Ein nicht genannter Kunde, der ein Frontier-Modell an mehr als 700 Millionen wöchentliche Nutzer liefert, ist ebenfalls eingestiegen, was das Ausmaß des Problems unterstreicht.

Von der Modellhärtung zum Schutz autonomer Agenten

Die traditionelle Sicherheit im Bereich des maschinellen Lernens konzentrierte sich darauf, die Trainings-Pipeline abzusichern und adversarielle Eingaben zu erkennen, die Vorhersagen subtil verzerren. HiddenLayer deckt diese Grundlagen – Discovery, Runtime-Schutz, Angriffssimulation und Supply-Chain-Prüfungen – weiterhin ab, befasst sich nun aber mit den einzigartigen Risiken der generativen KI.

  • Prompt Injection – Bösartige Eingaben, die ein Modell dazu zwingen, unbeabsichtigte Befehle auszuführen oder vertrauliche Daten preiszugeben. Die Plattform bereinigt Prompts, bevor sie das Modell erreichen, und überwacht die Ausgaben auf Richtlinienverstöße.
  • Agenten-Manipulation – Autonome Agenten, die Werkzeuge, APIs und Datenquellen miteinander verknüpfen, können während der Ausführung gekapert werden, was zu schädlichen Aktionen oder Datenlecks führen kann. HiddenLayer fügt bei jedem Workflow-Schritt Richtlinienprüfungen ein und bricht Aktionen ab, die gegen definierte Regeln verstoßen.
  • Bösartige Werkzeugnutzung – KI-Agenten verlassen sich zunehmend auf externe Plugins, Code-Interpreter oder Retrieval-Module. Die Lösung überwacht diese Integrationen auf anomalem Verhalten, wie etwa ein Retrieval-Modul, das unerwartete Payloads zurückgibt.

Open-Source- und Open-Weight-Modelle stellen ein besonderes Problem dar. Da die Modelldateien frei verbreitet werden können, können Akteure versteckten Code oder bösartige Gewichte einbetten, die beim Laden des Modells ausgeführt werden. HiddenLayer analysiert und scannt etwa 50 KI-Dateiformate auf „versteckte Modelle in Modellen“, die als Backdoors fungieren könnten. Diese Supply-Chain-Abwehr stoppt kompromittierte Artefakte, bevor sie jemals in der Produktion laufen.

Wie das neue Kapital eingesetzt wird

HiddenLayer wird die 100 Millionen US-Dollar in drei Bereiche investieren:

  1. Vertrieb und Distribution – Umwandlung einer Nischen-Go-to-Market-Strategie in eine breitere Enterprise-Sales-Maschine, um Sektoren zu erreichen, die gerade erst damit beginnen, KI in großem Maßstab einzusetzen.
  2. Engineering-Forschung – Verstärkte Investition in die Erkennungslogik für neu aufkommende Angriffsvektoren, wie etwa multimodale Prompt-Injection und koordinierte Angriffe über mehrere Agenten hinweg.
  3. Geografische Expansion – Aufbau einer Präsenz in Europa, dem Nahen Osten und Afrika (EMEA), wo der regulatorische Druck in Bezug auf KI-Transparenz und -Sicherheit zunimmt.

Sestito vergleicht das Angebot von HiddenLayer mit „Endpoint Detection and Response (EDR) für KI“. Genau wie EDR-Agenten Betriebssystemprozesse auf bösartige Aktivitäten überwachen, überwacht der Runtime-Guard von HiddenLayer Modell-Inferenzaufrufe, Tool-Aufrufe und Datenflüsse auf Richtlinienverstöße.

Der Gegenpunkt: Könnten die Cloud-Giganten die Nische schlucken?

Das Unternehmen räumt ein, dass große Cloud-Anbieter – AWS, Azure, Google Cloud – ähnliche Laufzeitschutzmaßnahmen in ihre verwalteten KI-Dienste integrieren könnten. Wenn ein Cloud-Anbieter integrierte Prompt-Injection-Filter oder die Durchsetzung von Agenten-Richtlinien anbietet, könnten Unternehmen den Wert eines Drittanbieter-Add-ons geringer einschätzen.

Sestito argumentiert, dass Governance-, Identitäts- und Richtlinienkontrollen komplex genug bleiben werden, um spezialisierte Lösungen zu rechtfertigen. „Wenn man es mit Mandantenfähigkeit und hochkarätigen Workloads zu tun hat, die Organisationsgrenzen überschreiten, kann ein Einheitsangebot der Cloud nicht jede Compliance-Nuance berücksichtigen“, sagt er. Er glaubt, dass eine dedizierte Sicherheitsebene schneller agieren kann als die massiven Produktzyklen der Hyperscaler, und dass eine tiefe Integration in bestehende SIEM-Tools (Security Information and Event Management) die Plattform relevant halten wird.

Worauf es in den kommenden Monaten ankommt

  • Adoptionsgeschwindigkeit – Wenn Sicherheitswerkzeuge von HiddenLayer zur Voraussetzung für KI-Beschaffungsverträge werden, könnten die Enterprise-Lizenzen stark ansteigen, insbesondere in regulierten Sektoren.
  • Wettbewerbsbewegungen – Achten Sie auf Ankündigungen großer Cloud-Anbieter bezüglich nativer KI-Laufzeit-Härtung. Ein gebündeltes Angebot könnte HiddenLayer dazu zwingen, sich in Richtung Hybrid-Cloud- oder On-Premises-Bereitstellungen zu orientieren.
  • Regulatorischer Druck – Da Regierungen KI-spezifische Sicherheitsstandards entwerfen, könnten Compliance-Anforderungen explizit auf den Laufzeitschutz verweisen, was Anbietern wie HiddenLayer einen regulatorischen Rückenwind verleiht.
  • Bedrohungsevolution – Neue Angriffstechniken – koordinierte Prompt-Injections über mehrere Agenten hinweg oder Supply-Chain-Angriffe, die Modellgewichte in großem Stil vergiften – werden jede Detection-Engine auf die Probe stellen. Die Geschwindigkeit, mit der HiddenLayer seine Erkennungsmodelle anpasst, wird ein entscheidendes Differenzierungsmerkmal sein.

Fazit

Die 100-Millionen-Dollar-Finanzierungsrunde von HiddenLayer zeigt, dass sich der Markt für KI-spezifische Laufzeitsicherheit von einer akademischen Debatte zu einer kommerziellen Notwendigkeit entwickelt hat. Da sich die Unternehmens-KI über isolierte Modelle hinaus zu komplexen, werkzeugreichen Agenten ausweitet, wird ein kontinuierlicher, richtlinienbasierter Schutz ebenso wichtig wie die traditionelle Endpoint-Security. Ob das Startup den hochentwickelten Angreifern und dem Sicherheitswettrüsten der Cloud-Giganten einen Schritt voraus bleibt, wird entscheiden, ob es das „EDR für KI“ bleibt oder zu einem weiteren Feature wird, das in eine größere Plattform integriert wird. Das nächste Quartal wird zeigen, ob spezialisierte KI-Sicherheitsanbieter eine dauerhafte Nische in einem Ökosystem besetzen können, das seine eigenen Grenzen erst noch definiert.