US-Gericht stoppt Minnesotas Verbot von KI-Nacktbildern – auf Antrag von Musks xAI

St. Louis, 3. Oktober 2026 – Ein US-Berufungsgericht hat das erste Verbot KI-generierter Nacktbilder in den Vereinigten Staaten vorerst ausgesetzt. Elon Musks KI-Unternehmen xAI hatte am Freitag vor dem in St. Louis ansässigen Eighth U.S. Circuit Court of Appeals eine einstweilige Verfügung gegen ein Gesetz des Bundesstaats Minnesota erwirkt.^[DER SPIEGEL – Grok: Musks xAI setzt US-Gesetz gegen KI-Nacktbilder vorerst außer Kraft – url: https://www.spiegel.de/netzwelt/grok-musks-xai-setzt-us-gesetz-gegen-ki-nacktbilder-vorerst-ausser-kraft-a-8629cb55-4cd8-44d1-8c6c-050e5466217f#ref=rss ;; F.A.Z. – KI-Deepfakes: US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von xAI – url: https://www.faz.net/aktuell/politik/ausland/us-gericht-stoppt-ki-nacktbild-verbot-nach-klage-von-elon-musks-ki-firma-accg-201284996.html]

Was Minnesotas Gesetz verbietet

Minnesotas Regelung trat am 1. August 2026 in Kraft und verbietet Betreibern von Webseiten und Softwareentwicklern, Nutzern die Erstellung realistischer Bilder zu ermöglichen, die intime Körperteile einer identifizierbaren Person zeigen, welche auf einem Originalfoto nicht zu sehen sind.^[DER SPIEGEL – Grok: Musks xAI setzt US-Gesetz gegen KI-Nacktbilder vorerst außer Kraft – url: https://www.spiegel.de/netzwelt/grok-musks-xai-setzt-us-gesetz-gegen-ki-nacktbilder-vorerst-ausser-kraft-a-8629cb55-4cd8-44d1-8c6c-050e5466217f#ref=rss ;; Handelsblatt – US-Gericht stoppt vorläufig KI-Nacktbild-Verbot von Musks xAI – url: https://www.handelsblatt.com/technik/ki/kuenstliche-intelligenz-us-gericht-stoppt-vorlaeufig-ki-nacktbild-verbot-von-musks-xai/100259427.html] Es gilt als landesweit erstes Gesetz dieser Art und sieht Strafen von bis zu 500.000 Dollar pro Verstoß vor.^[Legal Newsline – AI company fails in challenge to Minn. 'nudification' law – url: https://www.legalnewsline.com/newsletter/ai-company-fails-in-challenge-to-minn-nudification-law/article_7e80ded7-3b1c-44bf-9318-d4364776eace.html] Anders als klassische Deepfake-Gesetze zielt es damit nicht auf die Nutzer, sondern auf die Anbieter der Werkzeuge.^[Free Speech Center – Elon Musk's xAI sues Minnesota over first-in-the-nation law banning 'nudification' technology – url: https://firstamendment.mtsu.edu/post/elon-musks-xai-sues-minnesota-over-its-first-in-the-nation-law-banning-nudification-technology]

Minnesota hatte das Gericht aufgefordert, das Gesetz nicht auszusetzen. Es solle die Verbreitung von Material über sexuellen Kindesmissbrauch bekämpfen, das von KI-Produkten wie Musks »Grok Imagine« in »erschütterndem Ausmaß« generiert werde.^[DER SPIEGEL – Grok: Musks xAI setzt US-Gesetz gegen KI-Nacktbilder vorerst außer Kraft – url: https://www.spiegel.de/netzwelt/grok-musks-xai-setzt-us-gesetz-gegen-ki-nacktbilder-vorerst-ausser-kraft-a-8629cb55-4cd8-44d1-8c6c-050e5466217f#ref=rss] Nach Einschätzung von Befürwortern können solche Bilder Menschen bloßstellen, belästigen und einschüchtern, auch wenn die dargestellten Handlungen nie stattgefunden haben; besonders betroffen sind Frauen und Minderjährige.^[Town.news (MinneapoliMedia) – Elon Musk's xAI Asks Appeals Court to Block Minnesota Law – url: https://minneapolimedia.town.news/g/coon-rapids-mn/n/390381/minneapolimedia-news-elon-musks-xai-asks-appeals-court-block-minnesota]

Zwei Instanzen, zwei Entscheidungen

Im Instanzenzug ging xAI zunächst leer aus. Der zuständige Bundesrichter Donovan Frank lehnte im September die beantragte einstweilige Verfügung ab: xAI habe nicht zeigen können, dass ein irreparabler Schaden drohe, wenn das Gesetz in Kraft bleibt – zumal das Unternehmen seine Funktion zum »Nudifizieren« in dem Bundesstaat bereits abgeschaltet hatte.^[Legal Newsline – AI company fails in challenge to Minn. 'nudification' law – url: https://www.legalnewsline.com/newsletter/ai-company-fails-in-challenge-to-minn-nudification-law/article_7e80ded7-3b1c-44bf-9318-d4364776eace.html] Zugleich betonte Frank, der Staat habe ein anerkennenswertes Interesse daran, die Erzeugung solcher Bilder einzudämmen.^[Legal Newsline – AI company fails in challenge to Minn. 'nudification' law – url: https://www.legalnewsline.com/newsletter/ai-company-fails-in-challenge-to-minn-nudification-law/article_7e80ded7-3b1c-44bf-9318-d4364776eace.html]

xAI legte Berufung ein und beantragte zugleich, das Gesetz bis zur Entscheidung über die Verfassungsmäßigkeit auszusetzen.^[Reuters – Musk's xAI asks court to block Minnesota AI 'nudification' law during appeal – url: https://www.reuters.com/legal/government/musks-xai-asks-court-block-minnesota-ai-nudification-law-during-appeal-2026-09-14] Das Berufungsgericht in St. Louis gab dem Antrag nun statt.^[Handelsblatt – US-Gericht stoppt vorläufig KI-Nacktbild-Verbot von Musks xAI – url: https://www.handelsblatt.com/technik/ki/kuenstliche-intelligenz-us-gericht-stoppt-vorlaeufig-ki-nacktbild-verbot-von-musks-xai/100259427.html] Das Verfahren ist beim Eighth Circuit unter dem Aktenzeichen X.AI LLC v. Keith Ellison, No. 26-2806, anhängig; beklagt ist Minnesotas Generalstaatsanwalt Keith Ellison.^[Reuters – Musk's xAI asks court to block Minnesota AI 'nudification' law during appeal – url: https://www.reuters.com/legal/government/musks-xai-asks-court-block-minnesota-ai-nudification-law-during-appeal-2026-09-14]

Der Streit um die Meinungsfreiheit

xAI argumentiert, das Gesetz sei verfassungswidrig, weil es die durch die US-Verfassung geschützte Meinungsfreiheit einschränke.^[F.A.Z. – KI-Deepfakes: US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von xAI – url: https://www.faz.net/aktuell/politik/ausland/us-gericht-stoppt-ki-nacktbild-verbot-nach-klage-von-elon-musks-ki-firma-accg-201284996.html] Vor Gericht hatte die Firma nach Angaben eines Senders zudem vorgebracht, das Gesetz sei zu weit gefasst und erfasse auch konsensual erstellte Bilder, weil der Begriff der Einwilligung nicht enthalten sei.^[KARE 11 – Judge considers blocking Minnesota's AI nudification ban – url: https://www.youtube.com/watch?v=mlmjuNOJZdE] xAI erklärt zugleich, das Produkt enthalte »strenge Schutzvorkehrungen« gegen die Erstellung solcher Bilder von echten Personen, und hat damit begonnen, Nutzer zu verklagen, die seine Schutzmechanismen umgehen.^[DER SPIEGEL – Grok: Musks xAI setzt US-Gesetz gegen KI-Nacktbilder vorerst außer Kraft – url: https://www.spiegel.de/netzwelt/grok-musks-xai-setzt-us-gesetz-gegen-ki-nacktbilder-vorerst-ausser-kraft-a-8629cb55-4cd8-44d1-8c6c-050e5466217f#ref=rss]

Der weitere Rahmen: Take It Down Act und Aufsicht in Europa

Der Fall lässt sich nur mit dem bundesrechtlichen Rahmen verstehen. Der 2025 verabschiedete US-Bundes-Take-It-Down-Act verpflichtet Websites und Apps, einen Prozess zur Entfernung solcher Bilder bereitzustellen – er richtet sich aber an die Nutzer und Plattformbetreiber, nicht an die Hersteller der KI-Werkzeuge.^[Free Speech Center – Elon Musk's xAI sues Minnesota over first-in-the-nation law banning 'nudification' technology – url: https://firstamendment.mtsu.edu/post/elon-musks-xai-sues-minnesota-over-its-first-in-the-nation-law-banning-nudification-technology] Genau in dieser Lücke setzte Minnesota an. Die Regulierung von Wahl-Deepfakes hat vor US-Gerichten bislang gemischte Ergebnisse erzielt; die kalifornische Regelung wurde wegen des Schutzes der Meinungsfreiheit blockiert.^[Free Speech Center – Elon Musk's xAI sues Minnesota over first-in-the-nation law banning 'nudification' technology – url: https://firstamendment.mtsu.edu/post/elon-musks-xai-sues-minnesota-over-its-first-in-the-nation-law-banning-nudification-technology]

Parallel wächst der regulatorische Druck in Europa. Die Europäische Kommission kündigte im Januar eine Untersuchung an, weil Bedenken bestehen, dass Grok illegale Inhalte, darunter manipulierte Bilder, verbreiten könne; die irische Datenschutzkommission leitete im Februar eine formelle Untersuchung ein, und die französische Polizei durchsuchte im Rahmen einer separaten Ermittlung die Büros von X.^[DER SPIEGEL – Grok: Musks xAI setzt US-Gesetz gegen KI-Nacktbilder vorerst außer Kraft – url: https://www.spiegel.de/netzwelt/grok-musks-xai-setzt-us-gesetz-gegen-ki-nacktbilder-vorerst-ausser-kraft-a-8629cb55-4cd8-44d1-8c6c-050e5466217f#ref=rss] Auch Großbritannien und Kanada wollen gegen mit Grok generierte sexuelle Bilder und Deepfakes vorgehen.^[DER SPIEGEL – Grok: Musks xAI setzt US-Gesetz gegen KI-Nacktbilder vorerst außer Kraft – url: https://www.spiegel.de/netzwelt/grok-musks-xai-setzt-us-gesetz-gegen-ki-nacktbilder-vorerst-ausser-kraft-a-8629cb55-4cd8-44d1-8c6c-050e5466217f#ref=rss]

Der vorläufige Beschluss aus St. Louis ist keine Entscheidung in der Sache: Er hält das Gesetz lediglich in der Schwebe, bis das Berufungsgericht über die Verfassungsmäßigkeit befindet.^[F.A.Z. – KI-Deepfakes: US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von xAI – url: https://www.faz.net/aktuell/politik/ausland/us-gericht-stoppt-ki-nacktbild-verbot-nach-klage-von-elon-musks-ki-firma-accg-201284996.html] Damit bleibt die Grundsatzfrage offen, an der sich der Fall entzündet: Wer haftet, wenn ein Werkzeug für Schaden sorgt – der, der es baut, oder der, der es missbraucht?