In Kürze

  • Der Gouverneur von Minnesota hatte im Mai 2026 mit «HF 1606» ein Gesetz unterzeichnet, das es Plattformen und Software-Anbietern verbietet, Nutzerinnen und Nutzern die Erstellung realistischer, nicht-einvernehmlicher sexualisierter Bildmanipulationen identifizierbarer Personen zu ermöglichen; es sieht zivilrechtliche Bussen von bis zu 500'000 US-Dollar pro Verstoss vor und trat am 1. August 2026 in Kraft.
  • xAI klagte Ende Juli 2026 gegen das Gesetz und berief sich auf den verfassungsrechtlichen Schutz der Meinungsäusserungsfreiheit; ein Bundesrichter lehnte den Eilantrag auf eine einstweilige Verfügung jedoch ab, da xAI zu spät reagiert habe, was gegen eine unmittelbare Dringlichkeit spreche. Am 19. August 2026 fand die eigentliche Anhörung zur grundsätzlichen Verfassungsmässigkeit des Gesetzes statt.
  • Parallel dazu wurde am 19. August 2026 in Kalifornien eine neue Sammelklage gegen xAI eingereicht, die dem Unternehmen vorwirft, branchenübliche Schutzmassnahmen gegen die Erstellung von KI-generiertem Missbrauchsmaterial mit Kindern über den Chatbot Grok nicht umgesetzt zu haben; xAI verweist demgegenüber auf eigene Zahlen zu gesperrten Konten und Meldungen an US-Kinderschutzbehörden.

Was ist passiert?

Der Gouverneur von Minnesota hatte im Mai 2026 mit dem Gesetz «HF 1606» eine landesweit erste Regelung unterzeichnet, die es Plattformen, Apps und Software-Anbietern untersagt, Nutzerinnen und Nutzern die Erstellung realistischer, nicht-einvernehmlicher sexualisierter Bildveränderungen identifizierbarer Personen zu ermöglichen – sogenannte «Nudification»-Werkzeuge. Das Gesetz sieht zivilrechtliche Bussen von bis zu 500'000 US-Dollar pro unrechtmässigem Zugriff, Download oder Nutzung vor und trat am 1. August 2026 in Kraft. Elon Musks KI-Unternehmen xAI, dessen Chatbot Grok umstrittene Bildgenerierungsfunktionen bietet, reichte Ende Juli 2026 Klage gegen das Gesetz ein und berief sich auf den verfassungsrechtlichen Schutz der Meinungsäusserungsfreiheit sowie auf eine unzulässige Einschränkung KI-generierter Inhalte. Ein zuständiger US-Bundesrichter lehnte den Eilantrag von xAI auf eine einstweilige Verfügung jedoch ab: xAI habe zu spät reagiert, was gegen eine unmittelbare Dringlichkeit spreche – das Gesetz trat daraufhin plangemäss in Kraft.

Am 19. August 2026 fand die eigentliche Anhörung zur grundsätzlichen verfassungsrechtlichen Zulässigkeit des Gesetzes statt, bei der ein Gericht erstmals inhaltlich prüft, ob die im Gesetz vorgesehene verschuldensunabhängige Haftung mit der Meinungsäusserungsfreiheit vereinbar ist. Am selben Tag wurde in Kalifornien zudem eine neue, von der eigentlichen Minnesota-Klage unabhängige Sammelklage gegen xAI eingereicht: Sie wirft dem Unternehmen vor, keine branchenüblichen Schutzmassnahmen gegen die Erstellung von KI-generiertem Missbrauchsmaterial mit echten Kindern über Grok umgesetzt zu haben. xAI verweist demgegenüber auf eigene, für das laufende Jahr 2026 veröffentlichte Zahlen: Das Unternehmen habe bislang rund 52'000 Konten gesperrt und rund 74'000 Meldungen an das US-amerikanische National Center for Missing & Exploited Children übermittelt.

Warum ist das wichtig?

Der Fall ist einer der ersten grösseren Gerichtsstreite, in dem ein US-Bundesstaat versucht, KI-Anbieter direkt für die missbräuchliche Nutzung ihrer Bildgenerierungswerkzeuge in die Pflicht zu nehmen – mit einer verschuldensunabhängigen Haftungsstruktur, die deutlich weiter geht als die bisherige, oft auf freiwillige Massnahmen und Plattform-Moderation gestützte Praxis. Wie das Gericht am 19. August 2026 über die Verfassungsmässigkeit entscheidet, dürfte richtungsweisend dafür sein, ob und wie weit andere US-Bundesstaaten oder auch die EU-Kommission, die parallel eine eigene Untersuchung gegen Grok wegen mutmasslich illegaler Inhalte führt, KI-Anbieter künftig regulatorisch stärker in die Verantwortung nehmen können.

Gleichzeitig zeigt die Häufung von Klagen und Untersuchungen rund um Grok – von der Sammelklage in Kalifornien über die Auseinandersetzung mit Minnesota bis zur EU-Untersuchung –, wie stark der Druck auf Anbieter multimodaler KI-Systeme wächst, wirksame technische und organisatorische Schutzmassnahmen gegen den Missbrauch für sexualisierte Deepfakes bereits vor der Markteinführung einzubauen, statt erst auf öffentlichen Druck oder Gerichtsverfahren zu reagieren.

Was bedeutet das für die Schweiz?

  • Die Schweiz kennt bislang keinen eigenen Straftatbestand für Deepfake-Pornografie mit Erwachsenen; anwendbar sind je nach Einzelfall bestehende Normen wie Art. 197 StGB, der seit 2014 auch «unechte», also KI-generierte Kinderpornografie erfasst, während Bilder Erwachsener grundsätzlich nicht per se verboten sind – der Nationalrat fordert seit einem bekannt gewordenen Fall aus dem Wallis eine Gesetzeslücke zu schliessen, der Bundesrat lässt sich damit bislang jedoch Zeit.
  • Das Schweizer Parlament diskutiert zudem, KI-Unternehmen künftig direkt sanktionieren zu können, wenn sich mit ihren Werkzeugen sexualisierte Deepfakes erstellen lassen – ein Ansatz, der dem in Minnesota erprobten Modell einer plattformseitigen Haftung ähnelt und dessen Bewährung vor US-Gerichten für die Schweizer Gesetzgebung als Referenz dienen dürfte.
  • Für Schweizer Schulen, Eltern und Jugendschutzstellen zeigt der reale Fall aus dem Wallis, bei dem einer Betreuungsperson vorgeworfen wird, KI-Nacktbilder einer Schülerin erstellt zu haben, dass die im US-Rechtsstreit verhandelten Missbrauchsrisiken längst auch hierzulande auftreten – unabhängig davon, ob und wann eine spezifische gesetzliche Grundlage folgt.

Verwendete Quellen

Engadget berichtete am 4. August 2026 über die abgelehnte Verfügung; Benzinga, Courthouse News Service und Law360 lieferten am 18./19. August 2026 zusätzliche Angaben zur Verhandlung und zur neuen Sammelklage in Kalifornien.

Häufige Fragen

Was ist die Kernaussage zu xAI unterliegt im Streit um US-Verbot von KI-«Nacktbild»-Werkzeugen – neue Sammelklage wegen Grok?

Der Gouverneur von Minnesota hatte im Mai 2026 mit «HF 1606» ein Gesetz unterzeichnet, das es Plattformen und Software-Anbietern verbietet, Nutzerinnen und Nutzern die Erstellung realistischer, nicht-einvernehmlicher sexualisierter Bildmanipulationen identifizierbarer Personen zu ermöglichen; es sieht zivilrechtliche Bussen von bis zu 500'000 US-Dollar pro Verstoss vor und trat am 1. August 2026 in Kraft.

Warum ist diese KI-Meldung für die Schweiz relevant?

Die Schweiz kennt bislang keinen eigenen Straftatbestand für Deepfake-Pornografie mit Erwachsenen; anwendbar sind je nach Einzelfall bestehende Normen wie Art. 197 StGB, der seit 2014 auch «unechte», also KI-generierte Kinderpornografie erfasst, während Bilder Erwachsener grundsätzlich nicht per se verboten sind – der Nationalrat fordert seit einem bekannt gewordenen Fall aus dem Wallis eine Gesetzeslücke zu schliessen, der Bundesrat lässt sich damit bislang jedoch Zeit.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

Engadget berichtete am 4. August 2026 über die abgelehnte Verfügung; Benzinga, Courthouse News Service und Law360 lieferten am 18./19. August 2026 zusätzliche Angaben zur Verhandlung und zur neuen Sammelklage in Kalifornien.