Kurzfassung
Erstmals veröffentlichen die CEOs von OpenAI, Google DeepMind und Anthropic – Sam Altman, Demis Hassabis und Dario Amodei – innerhalb von fünf Wochen je einen ausführlichen Essay zur KI-Regulierung mit erstaunlich ähnlichen Diagnosen und Vorschlägen.
- Erstmals veröffentlichen die CEOs von OpenAI, Google DeepMind und Anthropic – Sam Altman, Demis Hassabis und Dario Amodei – innerhalb von fünf Wochen je einen ausführlichen Essay zur KI-Regulierung mit erstaunlich ähnlichen Diagnosen und Vorschlägen.
- Amodei fordert in seinem Essay «Policy on the AI Exponential» (10. Juni) eine FAA-ähnliche Behörde mit der Befugnis, die Freigabe riskanter Modelle sofort zu blockieren; Hassabis wirbt für ein FINRA-Modell mit zunächst freiwilligen, später verbindlichen Marktzugangsregeln; Altman schlägt in der Financial Times eine an die IAEA angelehnte, US-geführte internationale Instanz vor.
- Alle drei fordern verpflichtende externe Prüfung von Spitzenmodellen vor der Veröffentlichung und eine von den USA angeführte statt fragmentierte globale Aufsicht – eine Abkehr von der bisherigen Selbstauskunfts-Praxis der Branche.
Was ist passiert?
Innerhalb von fünf Wochen haben die Chefs der drei einflussreichsten KI-Labore – Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) und Sam Altman (OpenAI) – je einen ausführlichen, öffentlichen Essay zur Regulierung fortgeschrittener KI-Systeme veröffentlicht. Den Auftakt machte Amodei am 10. Juni mit «Policy on the AI Exponential»: Er fordert eine verpflichtende Prüfung von Modellen oberhalb bestimmter Rechenleistungs-Schwellen durch qualifizierte Dritte in vier Risikobereichen – Cybersicherheit, biologische Waffen, Kontrollverlust über KI-Systeme und automatisierte Forschung, die diese Risiken beschleunigen könnte. Die Regierung soll die Freigabe eines Modells blockieren können, wenn die Prüfung inakzeptable Risiken feststellt.
Mitte Juli doppelten Hassabis und Altman nach. Hassabis plädiert für ein an die Finanzaufsicht FINRA angelehntes, industriefinanziertes, aber staatlich beaufsichtigtes Gremium, das mit freiwilligen Prüfungen vor der Veröffentlichung beginnt und sich später zu verbindlichen Marktzugangsregeln entwickeln könnte. Altman wiederum warb in der Financial Times für eine an die Internationale Atomenergiebehörde IAEA angelehnte, US-geführte internationale Instanz, die Länder, Unternehmen und Sicherheitsstandards zertifiziert – mit dem Zugang zu Spitzenmodellen und Märkten als Druckmittel für die Einhaltung.
Warum ist das wichtig?
Bemerkenswert ist weniger jeder einzelne Vorschlag als die Tatsache, dass drei scharfe Konkurrenten erstmals schriftlich zur gleichen Diagnose gelangen: KI-Modelle werden so leistungsfähig, dass die bisherige Selbstauskunfts-Praxis der Branche nicht mehr ausreicht. Alle drei fordern verpflichtende externe Prüfung vor der Marktfreigabe und – fast identisch – eine von den USA geführte statt fragmentierte globale Aufsicht, anstelle eines Flickenteppichs aus Einzelstaaten oder rivalisierenden nationalen Regimes.
Kritikerinnen und Kritiker weisen darauf hin, dass alle drei Modelle vor allem jene Anbieter begünstigen würden, die bereits über Rechtsabteilungen, Sicherheitsteams und Regierungskontakte verfügen – während Start-ups und Open-Source-Entwicklerinnen und -Entwickler einen deutlich steileren Weg zur Zertifizierung hätten. Der Zeitpunkt fällt zudem in eine Phase, in der Washington gleich zweimal regulatorisch eingriff, um den Zugang zu Spitzenmodellen einzuschränken oder zu verzögern.
Was bedeutet das für die Schweiz?
Die Schweiz verfolgt bewusst keinen übergreifenden KI-Gesetzesansatz wie die EU, sondern passt bestehende Sektoralgesetze an und bereitet die Ratifizierung der KI-Konvention des Europarats vor. Sollte sich international ein von den USA geführtes Zertifizierungsregime durchsetzen, wie es alle drei CEOs vorschlagen, müssten Schweizer Behörden und Unternehmen prüfen, wie sich ein solcher Rahmen mit dem hiesigen, föderal-sektoriellen Ansatz verträgt.
Für Schweizer Unternehmen, die auf Modelle von OpenAI, Google oder Anthropic setzen, sind die Vorschläge sehr konkret: Neue, verpflichtende Prüfregime könnten Zulassungszeiten, Preise oder Vertragsbedingungen für Spitzenmodelle verändern. Gleichzeitig unterstreicht die von Kritikern befürchtete Marktkonzentration den Wert offener, in der Schweiz entwickelter Alternativen wie des ETH/EPFL-Modells Apertus, die nicht von einem einzelnen internationalen Zertifizierungsregime abhängig sind.
Häufige Fragen
Was ist die Kernaussage zu Amodei, Hassabis und Altman einigen sich erstmals auf Grundzüge einer globalen KI-Regulierung?
Erstmals veröffentlichen die CEOs von OpenAI, Google DeepMind und Anthropic – Sam Altman, Demis Hassabis und Dario Amodei – innerhalb von fünf Wochen je einen ausführlichen Essay zur KI-Regulierung mit erstaunlich ähnlichen Diagnosen und Vorschlägen.
Warum ist diese KI-Meldung für die Schweiz relevant?
Die Konvergenz der drei grössten KI-Anbieter auf ähnliche Aufsichtsmodelle könnte den internationalen Rahmen prägen, an dem sich auch die Schweizer Regulierung orientiert – etwa im Rahmen der geplanten Ratifizierung der KI-Konvention des Europarats.
Welche Quelle nutzt KI News Schweiz für diese Einordnung?
Axios ordnet ein, wie die CEOs von OpenAI, Anthropic und Google DeepMind erstmals schriftlich zu ähnlichen Diagnosen und Vorschlägen für eine globale KI-Regulierung gelangen.