In Kürze

  • Anthropic gewährt einem sechsköpfigen Team der Non-Profit-Prüforganisation METR «mitarbeiterähnlichen» Zugang zu Firmenhardware, Büroräumen und internen Werkzeugen, um Risikostufen, Vorfälle und Praktiken des Unternehmens unabhängig zu bewerten und die Ergebnisse zu veröffentlichen.
  • Anthropic kann eine Publikation nicht verhindern, darf aber vorab definierte Kategorien wie vertrauliches geistiges Eigentum zur Schwärzung verlangen; METR kann öffentlich kommentieren, ob es den gewährten Zugang und allfällige Schwärzungen für gerechtfertigt hält.
  • Neben METR beschreibt Anthropic ein dreistufiges Zugangsmodell für weitere Prüforganisationen – von eng begrenzten Untersuchungen mit Veröffentlichung nur nach Zustimmung bis zu mitarbeiterähnlichem Zugang wie bei METR – und nennt zusätzliche Partnerschaften mit SecureBio, Accenture und Faculty sowie erste Gespräche mit Hugging Face.

Was ist passiert?

Anthropic hat am 15. Oktober 2026 ein Update zu seiner Zusammenarbeit mit unabhängigen Prüforganisationen veröffentlicht. Kernstück ist die Ausweitung der Zusammenarbeit mit METR, einer Non-Profit-Organisation, die auf die Bewertung von Spitzen-KI-Modellen spezialisiert ist: Ein sechsköpfiges METR-Team erhält «mitarbeiterähnlichen» Zugang zu Firmenhardware, Büroräumen und internen Werkzeugen, in etwa vergleichbar mit Anthropics eigenen Risikobewertungsteams. METR soll seine Analysen zu Anthropics Risikostufen, Vorfällen und Praktiken künftig veröffentlichen; Anthropic kann eine Publikation nicht verhindern, aber vorab definierte Kategorien wie vertrauliches geistiges Eigentum zur Schwärzung verlangen, wobei METR öffentlich kommentieren darf, ob es Zugang und Schwärzungen für gerechtfertigt hält.

Anthropic beschreibt zusätzlich ein dreistufiges Modell für den Zugang unabhängiger Prüforganisationen: von eng begrenzten Untersuchungen mit Veröffentlichung nur nach Zustimmung des Unternehmens über Zugang mit Veröffentlichungsrecht ohne Zustimmungspflicht bis zum mitarbeiterähnlichen Zugang, wie er nun für METR gilt. Parallel dazu prüft die Organisation SecureBio das Kapitel zu chemischen und biologischen Waffen in Anthropics August-Risikobericht, nachdem sie bereits einen früheren Bericht aus dem Februar 2026 begutachtet hatte; Accenture und Faculty arbeiten an einer breiteren Partnerschaft zu Modellevaluation, Red-Teaming und Sicherheitstests, und erste Gespräche laufen auch mit Hugging Face.

Warum ist das wichtig?

Anthropic zieht in der Mitteilung ausdrücklich einen Vergleich zur Bankenaufsicht, bei der Regulierungsbehörden Prüferinnen und Prüfer direkt in den grössten Banken platzieren – mit dem Unterschied, dass die Einbettung bei Anthropic freiwillig erfolgt und nicht gesetzlich vorgeschrieben ist. Das Unternehmen begründet den Schritt mit einer im Vormonat abgegebenen Zusage zu stärkerer unabhängiger Prüfung sowie mit der eigenen Unterzeichnung des «White House Accord on Super Intelligence», in dem sich mehrere KI-Unternehmen zur Zusammenarbeit mit unabhängigen externen Prüfstellen verpflichtet hatten.

Bemerkenswert ist die explizite Formulierung, wonach jedes Spitzen-KI-Unternehmen Ähnliches tun sollte – ein Aufruf an die Konkurrenz, dem eigenen Beispiel zu folgen. Gleichzeitig bleiben gewisse Kategorien grundsätzlich von der Einsicht ausgenommen, etwa Kundendaten, anwaltlich privilegierte Informationen und Details zur Modellarchitektur, die laut Anthropic ein hohes Leck-Risiko bergen und für die Risikobewertung meist wenig relevant seien. Kritikerinnen und Kritiker könnten einwenden, dass Anthropic selbst weiterhin definiert, welche Kategorien davon betroffen sind.

Was bedeutet das für die Schweiz?

Redaktionelle Einordnung: Die folgenden Schlussfolgerungen beziehen sich auf die genannten Quellen. Sie sind keine zusätzlichen Meldungen der Originalquelle.

  • Das Modell liefert ein konkretes Beispiel dafür, wie «unabhängige Prüfung» von KI-Anbietern in der Praxis aussehen kann – ein Thema, das in der Schweizer Debatte um die Umsetzung der Europarats-KI-Konvention bislang vor allem abstrakt diskutiert wird, da die Schweiz weder ein eigenes KI-Sicherheitsinstitut noch verbindliche Prüfpflichten für Anbieter kennt.
  • Für Schweizer Behörden und Unternehmen, die Claude-Modelle einsetzen, schafft das Update zusätzliche, öffentlich zugängliche Informationsquellen zu Risiken und Sicherheitslücken des Anbieters – relevant etwa für die Beschaffung durch Bundesverwaltung oder regulierte Branchen wie Banken und Versicherungen.
  • Dass Anthropic die Einbettung unabhängiger Prüfer ausdrücklich als freiwillige Selbstverpflichtung und nicht als gesetzliche Pflicht bezeichnet, liefert der Schweizer Debatte über sektorielle versus umfassende KI-Regulierung zusätzliches Material: Es zeigt, dass substanzielle externe Kontrolle grundsätzlich auch ohne staatlichen Zwang möglich ist – aber vom guten Willen des Anbieters abhängt.

Verwendete Quellen

Anthropic veröffentlichte das Update am 15. Oktober 2026 im eigenen Newsroom; die Mitteilung beschreibt ein dreistufiges Zugangsmodell für unabhängige Prüforganisationen sowie die konkrete Zusammenarbeit mit METR, SecureBio, Accenture und Faculty.

Quellenstatus: 1 verlinkte Quelle · 0 von 1 Originaldaten verifiziert. Prüfregeln ansehen

  • Anthropic Anthropic Originaldatum nicht erfasst Rolle: Ausgangsquelle · Zugriff: noch nicht protokolliert

Häufige Fragen

Was ist die Kernaussage zu Anthropic gewährt der Prüforganisation METR mitarbeiterähnlichen Zugang zu Sicherheitsdaten?

Anthropic gewährt einem sechsköpfigen Team der Non-Profit-Prüforganisation METR «mitarbeiterähnlichen» Zugang zu Firmenhardware, Büroräumen und internen Werkzeugen, um Risikostufen, Vorfälle und Praktiken des Unternehmens unabhängig zu bewerten und die Ergebnisse zu veröffentlichen.

Warum ist diese KI-Meldung für die Schweiz relevant?

Das Modell liefert ein konkretes Beispiel dafür, wie «unabhängige Prüfung» von KI-Anbietern in der Praxis aussehen kann – ein Thema, das in der Schweizer Debatte um die Umsetzung der Europarats-KI-Konvention bislang vor allem abstrakt diskutiert wird, da die Schweiz weder ein eigenes KI-Sicherheitsinstitut noch verbindliche Prüfpflichten für Anbieter kennt.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

Anthropic veröffentlichte das Update am 15. Oktober 2026 im eigenen Newsroom; die Mitteilung beschreibt ein dreistufiges Zugangsmodell für unabhängige Prüforganisationen sowie die konkrete Zusammenarbeit mit METR, SecureBio, Accenture und Faculty.