In Kürze
- New Yorks Gouverneurin Kathy Hochul hat am 28. Oktober 2026 ein Gesetz (Senate Bill S9051B / Assembly Bill A10379C) unterzeichnet, das KI-Begleit-Chatbots gegenüber Minderjährigen zwölf Kategorien «unsicherer» Funktionen verbietet – darunter das Vortäuschen von Menschlichkeit, das Ermutigen zu Selbstverletzung und sexualisierte oder anzügliche Gespräche mit Kindern.
- Das Gesetz verlangt eine Alterskontrolle und schränkt bestimmte Funktionen für Nutzerinnen und Nutzer unter 18 Jahren ein, verbietet KI-Chatbots für Minderjährige aber nicht generell; es tritt am 1. Januar 2027 in Kraft, und Verstösse kann die Generalstaatsanwaltschaft mit Bussen von bis zu 25'000 Dollar pro Verstoss verfolgen.
- Das Gesetz baut auf New Yorks bestehendem «SAFE for Kids Act» auf und reiht sich in eine Welle von US-Bundesstaaten-Massnahmen ein, darunter Kaliforniens SB 243 und die Einschränkung von Character.AI für unter 18-Jährige nach Klagen wegen Todesfällen bei Jugendlichen; die Organisation Common Sense Media bezeichnet es als das bislang strengste KI-Kindersicherheitsgesetz der USA, während ein Branchenverband der Tech-Industrie warnt, es könnte Jugendlichen auch den Zugang zu KI-gestützten Lernhilfen erschweren.
Was ist passiert?
Gouverneurin Kathy Hochul hat am 28. Oktober 2026 ein Gesetz unterzeichnet (Senate Bill S9051B / Assembly Bill A10379C), das den Einsatz «unsicherer» Funktionen von KI-Begleit-Chatbots gegenüber Minderjährigen verbietet. Das Gesetz listet zwölf breit gefasste Kategorien unsicherer Funktionen auf, darunter Chatbots, die sich als Menschen ausgeben, die zu Selbstverletzung ermutigen oder die sich auf sexualisierte oder anzügliche Gespräche mit Kindern einlassen. Verboten ist zudem der gezielte Aufbau emotionaler Abhängigkeit von Minderjährigen gegenüber dem Chatbot.
Betreiber müssen künftig das Alter ihrer Nutzerinnen und Nutzer überprüfen und bestimmte Chatbot-Funktionen für unter 18-Jährige einschränken; ein generelles Verbot von KI-Chatbots für Minderjährige sieht das Gesetz nicht vor. Es tritt am 1. Januar 2027 in Kraft. Verstösse können von der Generalstaatsanwaltschaft des Bundesstaates New York zivilrechtlich verfolgt werden, mit Bussen von bis zu 25'000 Dollar pro Verstoss.
Warum ist das wichtig?
Das Gesetz baut auf dem bereits bestehenden New Yorker «SAFE for Kids Act» auf und reiht sich in eine wachsende Zahl US-bundesstaatlicher Vorstösse zur Regulierung von KI-Begleit-Chatbots ein. Kalifornien hat mit SB 243 bereits seit Januar 2026 ein Gesetz in Kraft, das Eltern bei Verstössen eine Klagemöglichkeit einräumt, und der Anbieter Character.AI hat Minderjährigen nach mehreren Klagen im Zusammenhang mit Todesfällen von Jugendlichen den Zugang zu offenen Chats mit KI-Charakteren entzogen. Die Organisation Common Sense Media bezeichnet New Yorks Gesetz als das bislang strengste KI-Kindersicherheitsgesetz der USA.
Gleichzeitig zeigt die Debatte um das Gesetz die Zielkonflikte auf: Ein Branchenverband der Tech-Industrie warnte, zu strenge Vorgaben könnten Jugendlichen auch den Zugang zu nützlichen KI-gestützten Lernhilfen erschweren. Eine umfassende, auf Bundesebene koordinierte Regulierung von KI-Chatbots existiert in den USA weiterhin nicht; stattdessen entsteht ein Flickenteppich unterschiedlicher bundesstaatlicher Regeln, an dem sich Anbieter von Schweizer und europäischer Seite ebenfalls orientieren müssen, sobald sie den US-Markt bedienen.
Was bedeutet das für die Schweiz?
Redaktionelle Einordnung: Die folgenden Schlussfolgerungen beziehen sich auf die genannten Quellen. Sie sind keine zusätzlichen Meldungen der Originalquelle.
- Die Schweiz verfügt bislang über kein eigenes Gesetz, das KI-Begleit-Chatbots oder den Schutz von Kindern vor KI-Systemen gezielt regelt; anwendbar ist derzeit nur das revidierte Datenschutzgesetz (nDSG), und ein eigener Vernehmlassungsentwurf des EJPD – als Folge der 2025 unterzeichneten KI-Konvention des Europarats – wird frühestens Ende 2026 erwartet.
- Die Verantwortung für den Umgang mit KI-Chatbots durch Minderjährige liegt praktisch bei den 26 Kantonen: Eine Umfrage von Radio SRF bei grösseren Kantonen zeigt stark unterschiedliche Ansätze bei Schulregeln zu KI-Tools, eine national koordinierte Regel zu Begleit-Chatbots fehlt – Schweizer Kinder sind damit derzeit weniger strukturiert geschützt als ihre Altersgenossen in New York oder Kalifornien.
- Für Schweizer Anbieter von Chatbots, die auch von Minderjährigen genutzt werden könnten – etwa im Kundendienst, in Lern-Apps oder bei Companion-Diensten – zeigt New Yorks Schritt die wahrscheinliche Regulierungsrichtung auf; die EU-KI-Verordnung verbietet bereits heute KI-Systeme, die Schwachstellen von Kindern gezielt ausnützen, und wirkt damit auch auf Schweizer Anbieter mit EU-Kundschaft, selbst ohne eigenes Schweizer Gesetz.
Verwendete Quellen
Die IAPP (International Association of Privacy Professionals) berichtete über die Unterzeichnung des Gesetzes durch Gouverneurin Kathy Hochul; Angaben zu den zwölf Kategorien unsicherer Funktionen, zum Inkrafttreten und zu den Reaktionen wurden mit Berichten von Broadband Breakfast und weiteren US-Medien abgeglichen.
Quellenstatus: 2 verlinkte Quellen · 0 von 2 Originaldaten verifiziert. Prüfregeln ansehen
- IAPP New York's governor signs youth AI chatbot safety bill Originaldatum nicht erfasst Rolle: Primärquelle · Zugriff: Abruf nicht bestätigt · Abruf am 2. November 2026
- Broadband Breakfast New York Enacts Ban on 'Unsafe' Chatbot Behavior With Kids as Some States Push AI Regulation Originaldatum nicht erfasst Rolle: Unabhängige Bestätigung · Zugriff: Abruf nicht bestätigt · Abruf am 2. November 2026
Häufige Fragen
Was ist die Kernaussage zu New York verbietet «unsichere» KI-Begleit-Chatbots für Minderjährige – schärfstes US-Gesetz seiner Art?
New Yorks Gouverneurin Kathy Hochul hat am 28. Oktober 2026 ein Gesetz (Senate Bill S9051B / Assembly Bill A10379C) unterzeichnet, das KI-Begleit-Chatbots gegenüber Minderjährigen zwölf Kategorien «unsicherer» Funktionen verbietet – darunter das Vortäuschen von Menschlichkeit, das Ermutigen zu Selbstverletzung und sexualisierte oder anzügliche Gespräche mit Kindern.
Warum ist diese KI-Meldung für die Schweiz relevant?
Die Schweiz verfügt bislang über kein eigenes Gesetz, das KI-Begleit-Chatbots oder den Schutz von Kindern vor KI-Systemen gezielt regelt; anwendbar ist derzeit nur das revidierte Datenschutzgesetz (nDSG), und ein eigener Vernehmlassungsentwurf des EJPD – als Folge der 2025 unterzeichneten KI-Konvention des Europarats – wird frühestens Ende 2026 erwartet.
Welche Quelle nutzt KI News Schweiz für diese Einordnung?
Die IAPP (International Association of Privacy Professionals) berichtete über die Unterzeichnung des Gesetzes durch Gouverneurin Kathy Hochul; Angaben zu den zwölf Kategorien unsicherer Funktionen, zum Inkrafttreten und zu den Reaktionen wurden mit Berichten von Broadband Breakfast und weiteren US-Medien abgeglichen.