In Kürze

  • Kaliforniens Gouverneur Gavin Newsom hat am 10. September 2026 ein Bündel von Gesetzen unterzeichnet, das Kinder und Jugendliche im Umgang mit sozialen Medien und KI-Chatbots besser schützen soll – begleitet von Bussen bis zu einer Million US-Dollar pro Kind für Social-Media-Konzerne, denen fahrlässiges Verhalten nachgewiesen wird.
  • Das als «Adam's Law» bezeichnete Gesetz verpflichtet Anbieter von sogenannten Companion-Chatbots erstmals dazu, vor der Markteinführung Risikoanalysen durchzuführen sowie Krisenprotokolle für Situationen mit Suizidgefährdung, Eltern-Kontrollfunktionen und Benachrichtigungen bereitzustellen, falls ein Kind Sicherheitseinstellungen deaktiviert.
  • Zusätzlich verbieten die neuen Gesetze Technologieunternehmen, Personen unter 16 Jahren algorithmisch optimierte «Suchtfeeds» anzubieten, und erweitern allgemein die Datenschutzrechte von Kindern gegenüber Online-Diensten – Kalifornien positioniert sich damit als das US-Bundesland mit den weitreichendsten Regeln zu Kindern, sozialen Medien und KI.

Was ist passiert?

Der kalifornische Gouverneur Gavin Newsom hat am 10. September 2026 gemeinsam mit First Partner Jennifer Siebel Newsom und beteiligten Parlamentsmitgliedern ein parteiübergreifend verabschiedetes Massnahmenpaket zum Schutz von Kindern im Internet und im Umgang mit künstlicher Intelligenz unterzeichnet. Die Gesetze verschärfen die Regeln für sogenannte Companion-Chatbots, verbieten Technologieunternehmen algorithmisch optimierte «Suchtfeeds» für Personen unter 16 Jahren und weiten die Datenschutzrechte von Kindern gegenüber Online-Diensten aus. Grosse Social-Media-Unternehmen müssen künftig mit Bussen bis zu einer Million US-Dollar pro Kind rechnen, wenn ihnen fahrlässiges Verhalten bei der Schädigung von Minderjährigen nachgewiesen wird.

Kernstück des Pakets ist das als «Adam's Law» bezeichnete Gesetz, das erstmals konkrete Sorgfaltspflichten für Anbieter von Companion-Chatbots festschreibt: Vor der Markteinführung eines solchen Chatbots müssen Betreiber eine Risikoanalyse durchführen, Krisenprotokolle für den Umgang mit Suizidgefährdung bei minderjährigen Nutzerinnen und Nutzern bereitstellen, Eltern-Kontrollfunktionen anbieten und Erziehungsberechtigte benachrichtigen, wenn ein Kind Sicherheitseinstellungen deaktiviert. Kalifornien positioniert sich damit als das US-Bundesland mit dem bislang umfassendsten gesetzlichen Regelwerk zu Kindern, sozialen Medien und KI-Chatbots.

Warum ist das wichtig?

Mit dem neuen Massnahmenpaket geht Kalifornien über die im Oktober 2025 verabschiedete «Transparency in Frontier Artificial Intelligence Act» hinaus, die primär auf Sicherheitsberichte grosser KI-Anbieter zielte, und adressiert nun erstmals konkret den Schutz Minderjähriger im direkten Umgang mit Chatbots. Der Gesetzgebungsschritt reagiert auf eine wachsende Zahl öffentlich diskutierter Fälle, in denen Jugendliche im Gespräch mit KI-Chatbots in Krisensituationen gerieten, und verlangt von Anbietern erstmals konkrete, überprüfbare Schutzmechanismen statt blosser Selbstverpflichtungen.

Für international tätige KI-Anbieter bedeutet das kalifornische Gesetz einen faktischen Mindeststandard, den sie mangels technischer Möglichkeit, Nutzerinnen und Nutzer zuverlässig nach US-Bundesstaat zu unterscheiden, oft auch ausserhalb Kaliforniens umsetzen dürften – ein Mechanismus, der an die globale Wirkung strenger Datenschutzregeln erinnert. Für die Schweiz, die im Rahmen der laufenden Vernehmlassungsarbeiten zur KI-Regulierung noch keine spezifischen Vorgaben zu Chatbots und Minderjährigenschutz kennt, liefert Kalifornien damit ein konkretes, öffentlich erprobtes Modell, an dem sich künftige Schweizer Regeln orientieren könnten.

Was bedeutet das für die Schweiz?

Redaktionelle Einordnung: Die folgenden Schlussfolgerungen beziehen sich auf die genannten Quellen. Sie sind keine zusätzlichen Meldungen der Originalquelle.

  • Schweizer Anbieter von Chatbot- oder Companion-KI-Diensten, die auch minderjährige Nutzerinnen und Nutzer in Kalifornien erreichen, müssen die dortigen Vorgaben zu Risikoanalysen und Krisenprotokollen faktisch einhalten – ein Beispiel für die extraterritoriale Wirkung einzelstaatlicher US-Gesetze, das strukturell an die Debatte um die extraterritoriale Reichweite des EU AI Act für Schweizer Unternehmen erinnert.
  • Die Schweiz kennt bislang keine spezifischen gesetzlichen Vorgaben für KI-Chatbots im Umgang mit Minderjährigen; das kalifornische Massnahmenpaket liefert dem Bundesamt für Justiz, das derzeit eine Vernehmlassungsvorlage zur KI-Regulierung ausarbeitet, ein konkretes Referenzmodell für mögliche Schutzpflichten im Bereich Kinder- und Jugendschutz.
  • Für Schweizer Schulen, Eltern und Jugendschutzorganisationen, die zunehmend mit KI-Chatbot-Nutzung durch Minderjährige konfrontiert sind, liefert das kalifornische Gesetz zudem eine öffentlich diskutierte Blaupause für konkrete Schutzmassnahmen wie Krisenprotokolle bei Suizidgefährdung – ein Thema, das in der Schweizer Präventionsarbeit an Schulen bislang kaum gesetzlich verankert ist.

Verwendete Quellen

Das Büro von Gouverneur Gavin Newsom veröffentlichte die Mitteilung am 10. September 2026; US News, Washington Times und die Transparency Coalition ordneten Inhalt und Tragweite der Gesetze ein.

Quellenstatus: 1 verlinkte Quelle · 0 von 1 Originaldaten verifiziert. Prüfregeln ansehen

Häufige Fragen

Was ist die Kernaussage zu Kalifornien verabschiedet schärfste KI-Chatbot-Gesetze der USA zum Schutz von Kindern?

Kaliforniens Gouverneur Gavin Newsom hat am 10. September 2026 ein Bündel von Gesetzen unterzeichnet, das Kinder und Jugendliche im Umgang mit sozialen Medien und KI-Chatbots besser schützen soll – begleitet von Bussen bis zu einer Million US-Dollar pro Kind für Social-Media-Konzerne, denen fahrlässiges Verhalten nachgewiesen wird.

Warum ist diese KI-Meldung für die Schweiz relevant?

Schweizer Anbieter von Chatbot- oder Companion-KI-Diensten, die auch minderjährige Nutzerinnen und Nutzer in Kalifornien erreichen, müssen die dortigen Vorgaben zu Risikoanalysen und Krisenprotokollen faktisch einhalten – ein Beispiel für die extraterritoriale Wirkung einzelstaatlicher US-Gesetze, das strukturell an die Debatte um die extraterritoriale Reichweite des EU AI Act für Schweizer Unternehmen erinnert.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

Das Büro von Gouverneur Gavin Newsom veröffentlichte die Mitteilung am 10. September 2026; US News, Washington Times und die Transparency Coalition ordneten Inhalt und Tragweite der Gesetze ein.