Kurzfassung
Die italienische Datenschutzbehörde Garante hat Character Technologies, den Betreiber des Companion-Chatbot-Dienstes Character.AI, mit einer am 3. Juli 2026 verhängten und am 9. Juli 2026 veröffentlichten Busse von 158'000 Euro belegt und dem Unternehmen 120 Tage Frist zur Behebung der Mängel gesetzt.
- Die italienische Datenschutzbehörde Garante hat Character Technologies, den Betreiber des Companion-Chatbot-Dienstes Character.AI, mit einer am 3. Juli 2026 verhängten und am 9. Juli 2026 veröffentlichten Busse von 158'000 Euro belegt und dem Unternehmen 120 Tage Frist zur Behebung der Mängel gesetzt.
- Beanstandet wurden unter anderem eine unzureichende Altersprüfung, mangelnde Transparenz gegenüber Nutzerinnen und Nutzern, eine verspätet durchgeführte Datenschutz-Folgenabschätzung sowie die verspätete Benennung eines EU-Vertreters.
- Character.AI muss unter anderem seine Datenschutzerklärung korrigieren, Aufbewahrungsfristen und Datenübermittlungen ausserhalb der EU offenlegen, die Rechtmässigkeit der für das Training verwendeten Daten prüfen und Profile Minderjähriger künftig standardmässig privat schalten.
Was ist passiert?
Die italienische Datenschutzbehörde Garante per la protezione dei dati personali hat Character Technologies, das US-Unternehmen hinter dem Companion-Chatbot-Dienst Character.AI, mit einer Busse von 158'000 Euro belegt. Die Entscheidung wurde am 3. Juli 2026 gefällt und am 9. Juli 2026 veröffentlicht; dem Unternehmen wurden 120 Tage Frist gesetzt, um die festgestellten Mängel zu beheben. Character.AI erlaubt es Nutzerinnen und Nutzern, mit frei gestaltbaren KI-Charakteren zu chatten, und ist insbesondere bei Jugendlichen populär.
Die Garante bemängelte mehrere Verstösse: eine unzureichende Alterserkennung und -prüfung, mangelnde Transparenz gegenüber Nutzerinnen und Nutzern über die Datenverarbeitung, eine verspätet erstellte Datenschutz-Folgenabschätzung (DPIA) sowie die verspätete Benennung eines Vertreters in der EU. Character.AI muss nun unter anderem seine Datenschutzerklärung korrigieren, Aufbewahrungsfristen und Datenübermittlungen ausserhalb der EU klarer offenlegen, die Rechtmässigkeit der für das Training verwendeten Daten überprüfen und gegebenenfalls löschen, eine funktionierende Altersprüfung sicherstellen, die Neuanmeldung bereits gesperrter Minderjähriger verhindern und Profile von Minderjährigen standardmässig auf privat setzen.
Warum ist das wichtig?
Der Entscheid reiht sich in eine Serie von Massnahmen der Garante ein, die europaweit zu den aktivsten Datenschutzbehörden im Bereich KI zählt und bereits zuvor gegen andere KI-Dienste wie ChatGPT vorgegangen ist. Er zeigt exemplarisch, welche konkreten Anforderungen europäische Datenschutzbehörden an Anbieter von KI-Chatbots stellen, die auch von Minderjährigen genutzt werden – von funktionierender Altersprüfung über transparente Datenschutzerklärungen bis zu rechtzeitig durchgeführten Folgenabschätzungen.
Besonders bemerkenswert ist die Auflage, wonach Character.AI die Rechtmässigkeit der für das Vortraining verwendeten Daten prüfen und im Zweifel löschen muss – ein Präzedenzfall, der über den Einzelfall hinaus zeigt, dass Datenschutzbehörden zunehmend auch die Trainingsdatenbasis von KI-Modellen als eigenständigen Prüfgegenstand behandeln, nicht nur den laufenden Betrieb der fertigen Anwendung.
Was bedeutet das für die Schweiz?
Anders als die Garante verfügt der Schweizer Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) über keine vergleichbare Kompetenz, direkt namhafte Bussen gegen Unternehmen zu verhängen: Sanktionen nach dem seit September 2023 geltenden revidierten Datenschutzgesetz (revDSG) richten sich strafrechtlich primär gegen verantwortliche Einzelpersonen und sind mit maximal 250'000 Franken gedeckelt. Schweizer Nutzerinnen und Nutzer von Companion-Chatbots wie Character.AI können sich deshalb nicht automatisch auf den italienischen Entscheid berufen, auch wenn dieser als internationale Referenz für angemessene Schutzmassnahmen dienen kann.
Schweizer Schulen, Eltern und Jugendschutzorganisationen wie Pro Juventute weisen bereits seit längerem auf Risiken von KI-Begleiter-Apps für Minderjährige hin; der Garante-Entscheid liefert dazu eine konkrete behördliche Einschätzung, welche Massnahmen – etwa funktionierende Altersprüfung und standardmässig private Profile für Minderjährige – international als Mindeststandard gelten. Schweizer Unternehmen, die Companion-Chatbot-Technologie in eigene Angebote integrieren oder Jugendlichen zugänglich machen, tragen zudem nach revDSG eine eigenständige Verantwortung für eine Datenschutz-Folgenabschätzung beim Umgang mit besonders schützenswerten Personendaten von Minderjährigen – unabhängig davon, ob der zugrunde liegende ausländische Anbieter selbst bereits sanktioniert wurde.
Häufige Fragen
Was ist die Kernaussage zu Italienische Datenschutzbehörde büsst Character.AI wegen mangelndem Schutz von Minderjährigen?
Die italienische Datenschutzbehörde Garante hat Character Technologies, den Betreiber des Companion-Chatbot-Dienstes Character.AI, mit einer am 3. Juli 2026 verhängten und am 9. Juli 2026 veröffentlichten Busse von 158'000 Euro belegt und dem Unternehmen 120 Tage Frist zur Behebung der Mängel gesetzt.
Warum ist diese KI-Meldung für die Schweiz relevant?
Anders als die Garante verfügt der Schweizer Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) über keine vergleichbare Kompetenz, direkt namhafte Bussen gegen Unternehmen zu verhängen; Sanktionen nach dem revidierten Datenschutzgesetz (revDSG) richten sich strafrechtlich primär gegen verantwortliche Einzelpersonen und sind mit maximal 250'000 Franken gedeckelt – Schweizer Nutzerinnen und Nutzer von Companion-Chatbots können sich deshalb nicht automatisch auf den italienischen Entscheid berufen.
Welche Quelle nutzt KI News Schweiz für diese Einordnung?
Die italienische Datenschutzbehörde Garante veröffentlichte ihre am 3. Juli 2026 gefällte Entscheidung am 9. Juli 2026 auf ihrer Website; italienische Medien wie Il Post und internationale Fachportale wie technology.org ordneten die Massnahme zusätzlich ein.