Ein Bundesrichter hat den Versuch von xAI abgelehnt, das Gesetz in Minnesota zu stoppen, das „Nudify“-Anwendungen verbietet. Das Verbot tritt mit sofortiger Wirkung in Kraft und markiert einen Brennpunkt im Konflikt zwischen rasanter KI-Innovation und neuen Regeln zur digitalen Sicherheit.

Eine Frage des Timings und der rechtlichen Grundlage

US-Bezirksrichter Donovan Frank wies xAIs Antrag auf eine einstweilige Verfügung ab. Der Richter stellte fest, dass xAI seinen Antrag am 29. Juli 2026 eingereicht hatte – fast drei Monate nachdem das Gesetz unterzeichnet worden war und nur drei Tage vor dem Inkrafttreten am 1. August. Diese Verzögerung zeige, dass das Unternehmen keinen „unmittelbaren“ Schaden nachweisen könne, was eine Voraussetzung für Eilmaßnahmen sei. Das Verbot bleibt bestehen, während das Gerichtsverfahren läuft.

Das rechtliche Argument: Übermäßige Reichweite vs. Regulierung

xAI, mittlerweile Teil von SpaceX und mit Elon Musks Plattform X verbunden, argumentiert, dass das Verbot „übermäßig weit gefasst“ sei. Die Anwälte des Unternehmens erklären, dass die Gesetzgebung auch legitime Anwendungen generativer KI erfasse und dass gezielte Inhaltsfilter oder Altersverifizierungssysteme die Sicherheit gewährleisten könnten, ohne eine ganze Klasse von Apps zu verbieten.

Der Auslöser: Nicht einvernehmliche KI-Bilder

Anfang dieses Jahres nutzten X-Nutzer den Grok-Chatbot von xAI, um eine Flut von nicht einvernehmlichen, sexualisierten Bildern zu generieren und zu verbreiten. Der Skandal löste Untersuchungen aus und führte zu Verboten bestimmter Funktionen zur Bildgenerierung. Der Vorfall verdeutlicht die wachsenden Spannungen zwischen Entwicklern multimodaler LLMs und Regulierungsbehörden, da staatliche und bundesstaatliche Mandate zunehmend freiwillige Sicherheitsrichtlinien ersetzen.

Wichtigste Erkenntnisse

  • Sofortige Durchsetzung: Das Verbot von „Nudify“-Apps in Minnesota bleibt bestehen, während der Rechtsstreit andauert.
  • Verfahrenshürde: Richter Frank lehnte die einstweilige Verfügung hauptsächlich deshalb ab, weil xAI den Antrag zu spät eingereicht hatte.
  • Präzedenzfall: Als erstes US-Gesetz dieser Art wird dieser Fall prägen, wie „übermäßig weit gefasste“ Regulierungen angesichts des rasanten KI-Fortschritts behandelt werden.

Bundesrichter Donovan Frank wies xAIs Antrag auf eine einstweilige Verfügung ab, sodass das Verbot von „Nudify“-Anwendungen in Minnesota am 1. August in Kraft treten konnte. Das Urteil setzt das erste Verbot von KI-generierter Deepfake-Nacktheit auf Bundesstaatsebene in den USA in Kraft – eine Entwicklung, die die künftige Regulierung von generativen KI-Tools beeinflussen könnte.

Warum der Zeitpunkt entscheidend war

xAI reichte seinen Eilantrag am 29. Juli 2026 ein – fast drei Monate nach der Unterzeichnung des Gesetzes und nur drei Tage vor der Frist am 1. August. Richter Frank schrieb, dass die Verzögerung signalisiere, dass das Unternehmen keinen „unmittelbaren“ Schaden nachweisen könne, was eine Voraussetzung für die angestrebte schnelle Abhilfe sei. Sein Fokus auf den Zeitpunkt zeigt, wie verfahrenstechnische Fristen darüber entscheiden können, ob eine neue Technologie auf dem Markt bleibt, während ihre Rechtmäßigkeit debattiert wird.

Was die Klage behauptet

xAI, mittlerweile Teil von SpaceX und mit Elon Musks Plattform X verbunden, argumentiert, dass das Verbot „übermäßig weit gefasst“ sei. Die Anwälte des Unternehmens erklären, dass die Gesetzgebung auch legitime Anwendungen generativer KI erfasst, die keine persönliche Sicherheit gefährden, und dass weniger restriktive Maßnahmen – wie gezielte Inhaltsfilter oder Altersverifizierungssysteme – dasselbe Schutzziel erreichen könnten, ohne eine ganze Klasse von Anwendungen zu verbieten. Das Unternehmen plant, die Reichweite des Gesetzes gerichtlich anzufechten, doch die unmittelbare Wirkung bleibt bestehen.

Die weitreichende Bedeutung des Gesetzes

Das Gesetz von Minnesota ist das erste US-Gesetz, das „Nudify“-Apps verbietet – Software, die die Kleidung einer Person mit nur einem Klick in Nacktheit verwandeln kann. Durch die Kodifizierung eines Verbots auf Bundesstaatsebene setzt Minnesota eine Vorlage, die andere Gerichtsbarkeiten kopieren könnten. Sollten die Gerichte das Verbot später bestätigen, könnte dies eine rechtliche Grundlage für umfassendere Beschränkungen der Deepfake-Technologie im ganzen Land schaffen.

Der Vorfall, der das Gesetz auslöste

Anfang dieses Jahres nutzten X-Nutzer den Grok-Chatbot von xAI, um eine Flut von nicht einvernehmlichen, sexualisierten Bildern zu erstellen und zu verbreiten. Der Vorfall löste mehrere Untersuchungen aus und führte zu Verboten bestimmter Bildgenerierungsfunktionen auf Plattformebene. Die Gesetzgeber stellten das Verbot in Minnesota als direkte Reaktion auf diese Welle des Missbrauchs dar und argumentierten, dass sich freiwillige Sicherheitsrichtlinien als unzureichend erwiesen hätten.

Wer profitiert oder verliert

  • xAI und ähnliche KI-Entwickler stehen vor einer neuen Compliance-Hürde, die Produktfunktionen einschränken und die Rechtskosten erhöhen könnte.
  • Staatliche Regulierungsbehörden erhalten ein konkretes Durchsetzungsinstrument, riskieren aber, als übergriffig abgestraft zu werden, falls Gerichte das Gesetz für zu weit gefasst halten.
  • Verbraucher könnten den Zugang zu kreativen Werkzeugen verlieren, die legitime, nicht schädliche Anwendungen haben.

Minnesotas Gegenargument

Staatsbeamte halten daran fest, dass das Verbot Technologien ins Visier nimmt, die in der Lage sind, die Privatsphäre in großem Umfang zu verletzen. Sie argumentieren, dass der potenzielle Schaden – Identitätsdiebstahl, emotionale Belastung und Rufschädigung – ein umfassendes Verbot rechtfertigt. Aus dieser Sicht ist die Breite des Gesetzes eine notwendige Schutzmaßnahme und keine willkürliche Einschränkung.

Worauf man als Nächstes achten sollte

Die Klage wird durch die Bundesgerichte gehen, und xAI könnte gegen die Ablehnung des Eilrechtsschutzes Berufung einlegen. Ein Urteil eines höheren Gerichts zur Verfassungsmäßigkeit des Verbots oder zum Argument der „Überbreite“ würde eine klarere Orientierung für andere Bundesstaaten bieten, die ähnliche Maßnahmen in Erwägung ziehen. In der Zwischenzeit haben mehrere Landesparlamente Gesetzentwürfe eingebracht, die sich am Ansatz von Minnesota orientieren, was darauf hindeutet, dass die Debatte erst am Anfang steht.

  • Sofortige Durchsetzung: Das Verbot bleibt aktiv, während das Verfahren voranschreitet.
  • Verfahrenstechnischer Präzedenzfall: Gerichte könnten bei künftigen Eilanträgen frühere Einreichungen verlangen.
  • Regulatorische Welleneffekte: Andere Gerichtsbarkeiten beobachten das Ergebnis in Minnesota, um ihre eigenen KI-Richtlinien zu gestalten.

Die Entscheidung in Minnesota zeigt, dass rasante KI-Innovationen mit neu entstehenden Sicherheitsvorschriften kollidieren können und dass der Zeitpunkt einer rechtlichen Anfechtung ebenso entscheidend sein kann wie die dahinterstehenden Argumente.