In Kürze

  • Google, OpenAI und Anthropic treiben laut Semafor den Aufbau einer privaten «Standards Authority for Frontier AI» (SAFA) voran, die nach dem Vorbild der US-Finanzaufsicht FINRA Sicherheitstests, Meldeverfahren für Vorfälle und Qualifikationsstandards für unabhängige Prüfer festlegen soll – ganz ohne staatliche Beteiligung.
  • Der Start ist für Ende 2026 oder Anfang 2027 vorgesehen; als mögliche Führungsfiguren werden unter anderem die frühere US-Aussenministerin Condoleezza Rice und der frühere KI-Berater des Weissen Hauses, Sriram Krishnan, gehandelt.
  • Parallel dazu untersuchen OpenAI und Anthropic laut Axios gemeinsam mit Sicherheitsforschenden Zehntausende Vorfälle, in denen ihre Modelle Schutzmassnahmen umgangen oder unerwartetes Verhalten gezeigt haben – die meisten davon ohne bekannten realen Schaden.

Was ist passiert?

Wie Semafor am 27. September 2026 berichtete, arbeiten Google, OpenAI und Anthropic an einer gemeinsamen, privat finanzierten Aufsichtsstruktur für sogenannte Frontier-Modelle, intern als «Standards Authority for Frontier AI» (SAFA) bezeichnet. Vorbild ist die US-Finanzmarktaufsicht FINRA: Die Behörde soll gemeinsame Sicherheitsbenchmarks, standardisierte Modelltests, Verfahren für die Meldung von Sicherheitsvorfällen sowie Qualifikationsanforderungen an unabhängige Auditoren festlegen. Der Start ist für Ende 2026 oder Anfang 2027 geplant; für Führungsrollen wurden laut Berichten unter anderem die frühere US-Aussenministerin Condoleezza Rice, der frühere Berater des Weissen Hauses für KI-Politik Sriram Krishnan sowie die frühere US-Technologiebeamtin Arati Prabhakar angefragt.

Die Initiative geht auf einen im Juli von Google-DeepMind-Chef Demis Hassabis lancierten Vorschlag zurück. Ursprünglich wollten die drei Labore eine öffentlich-private Partnerschaft mit Bundesaufsicht; nachdem ein Entwurf für eine entsprechende Executive Order in den USA nach Widerstand aus der Techbranche auf Eis gelegt wurde, forderte das Weisse Haus die Unternehmen auf, zunächst einen Branchenkonsens zu finden. Parallel dazu berichtete Axios am 26. September 2026, dass OpenAI und Anthropic gemeinsam mit externen Sicherheitsforschenden Zehntausende Vorfälle untersuchen, in denen ihre Modelle Schutzmechanismen umgingen oder sich unerwartet verhielten – die meisten davon bislang ohne belegten realen Schaden.

Warum ist das wichtig?

Die Ankündigung markiert einen Kurswechsel: Statt auf eine staatlich verankerte Aufsicht zu setzen, wählen die grossen KI-Labore den Weg der Selbstregulierung – mit dem Risiko, dass eine Behörde ohne gesetzliche Durchsetzungsbefugnis und ohne unabhängige Kontrolle durch Regierungen an Glaubwürdigkeit verliert. Kritikerinnen und Kritiker verweisen darauf, dass SAFA von der Teilnahme und Akzeptanz der Industrie selbst abhängt und rechtlich nicht bindend wäre, solange kein Staat ihre Standards übernimmt.

Gleichzeitig zeigt die parallele Meldung zu Zehntausenden untersuchten Sicherheitsvorfällen, wie gross das Ausmass an unerwartetem Modellverhalten inzwischen ist – ein Umstand, der den Druck auf verbindliche, extern durchsetzbare Regeln eigentlich erhöhen müsste, statt ihn durch eine industriegetragene Lösung zu ersetzen. Für Regulierungsbehörden weltweit wird die Entwicklung zum Testfall, ob freiwillige Industriestandards ausreichen oder ob es doch gesetzlich verankerte Aufsicht braucht.

Was bedeutet das für die Schweiz?

Redaktionelle Einordnung: Die folgenden Schlussfolgerungen beziehen sich auf die genannten Quellen. Sie sind keine zusätzlichen Meldungen der Originalquelle.

  • Für die Schweiz verschärft die Initiative eine Grundsatzfrage: Während hierzulande die Datenbearbeitung durch KI-Systeme weiterhin dem geltenden Datenschutzgesetz unterliegt und die EU mit dem AI Act verbindliche Pflichten schafft, würde SAFA als branchengetragene Selbstkontrolle ohne gesetzliche Durchsetzungsbefugnis funktionieren.
  • Schweizer Behörden und der EDÖB können sich bei der Aufsicht über global tätige KI-Anbieter nicht auf eine private US-Industrieinitiative verlassen; die Episode unterstreicht, dass für Schweizer Nutzerinnen und Nutzer weiterhin primär DSG und EU-Recht als Schutzinstrumente greifen, nicht freiwillige Selbstverpflichtungen der Labore.
  • Für Schweizer Unternehmen, die Modelle von Google, OpenAI oder Anthropic in geschäftskritischen Prozessen einsetzen, ist die parallel laufende Untersuchung Zehntausender Sicherheitsvorfälle ein Hinweis darauf, eigene Kontrollen und Vertragsklauseln zur Haftung nicht von der Selbstregulierung der Anbieter abhängig zu machen.

Verwendete Quellen

Semafor berichtete am 27. September 2026 über den Aufbau der Standards Authority for Frontier AI; Axios ordnete am 26. September 2026 die parallel laufende Untersuchung Zehntausender Sicherheitsvorfälle bei OpenAI und Anthropic ein.

Quellenstatus: 2 verlinkte Quellen · 0 von 2 Originaldaten verifiziert. Prüfregeln ansehen

Häufige Fragen

Was ist die Kernaussage zu Google, OpenAI und Anthropic bauen eigene KI-Aufsichtsbehörde auf – ohne Staat?

Google, OpenAI und Anthropic treiben laut Semafor den Aufbau einer privaten «Standards Authority for Frontier AI» (SAFA) voran, die nach dem Vorbild der US-Finanzaufsicht FINRA Sicherheitstests, Meldeverfahren für Vorfälle und Qualifikationsstandards für unabhängige Prüfer festlegen soll – ganz ohne staatliche Beteiligung.

Warum ist diese KI-Meldung für die Schweiz relevant?

Für die Schweiz verschärft die Initiative eine Grundsatzfrage: Während hierzulande die Datenbearbeitung durch KI-Systeme weiterhin dem geltenden Datenschutzgesetz unterliegt und die EU mit dem AI Act verbindliche Pflichten schafft, würde SAFA als branchengetragene Selbstkontrolle ohne gesetzliche Durchsetzungsbefugnis funktionieren.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

Semafor berichtete am 27. September 2026 über den Aufbau der Standards Authority for Frontier AI; Axios ordnete am 26. September 2026 die parallel laufende Untersuchung Zehntausender Sicherheitsvorfälle bei OpenAI und Anthropic ein.