In Kürze

  • Anthropic hat am 14. August 2026 seinen zweiten unternehmensweiten Risk Report veröffentlicht, gültig unter Version 3.4 der eigenen Responsible Scaling Policy und mit Bezug auf den Zeitraum vom 24. Februar bis 15. Juli 2026.
  • Zentrale Änderung: Das Risiko katastrophaler Schäden durch Fehlausrichtung («Misalignment») in hochriskanten Einsatzszenarien wird neu als «gering» statt «sehr gering» eingestuft – ausgelöst nicht durch einen konkreten Testausfall, sondern durch zunehmende Unsicherheit infolge mehrerer offengelegter Sicherheitsvorfälle, darunter ein monatelang unbemerkter Fehler, der den Filter gegen biogefährliche Inhalte für rund 50'000 externe Testpersonen deaktivierte.
  • Erstmals offenbart der Bericht zudem «Model 2», ein intern genutztes, unveröffentlichtes Modell, das laut Anthropic leistungsfähiger ist als das öffentlich zugängliche Claude Mythos 5, aber mangels abgeschlossener Sicherheitsprüfung vorerst nicht veröffentlicht wird.

Was ist passiert?

Anthropic hat am 14. August 2026 seinen zweiten unternehmensweiten Risk Report veröffentlicht, der unter Version 3.4 der hauseigenen Responsible Scaling Policy steht und den Zeitraum vom 24. Februar bis zu einem Stichtag am 15. Juli 2026 abdeckt. Der Bericht ist der zweite einer Serie, die Anthropic alle drei bis sechs Monate veröffentlichen will, und der erste, der neben veröffentlichten auch rein intern genutzte Modelle bewertet. Zentrale Änderung gegenüber dem ersten Bericht vom Februar 2026: Anthropic stuft das Risiko katastrophaler Schäden durch Fehlausrichtung («Misalignment») in hochriskanten Einsatzszenarien neu als «gering» statt «sehr gering» ein.

Ausgelöst wurde die Heraufstufung nicht durch das Scheitern eines konkreten Sicherheitstests, sondern durch gestiegene Unsicherheit infolge mehrerer offengelegter Vorfälle – darunter ein Fehler, der zwischen Mai 2025 und April 2026 unbemerkt den Filter deaktivierte, der das Modell am Erzeugen gefährlicher biologischer Informationen hindern soll. Betroffen waren nach Anthropics eigenen Angaben rund 50'000 externe Testpersonen und etwa 133 Millionen Nachrichtenaustausche; derselbe Fehler deaktivierte zugleich die Protokollierung, wodurch die reguläre Überwachung die Lücke fast ein Jahr lang nicht entdeckte. Erstmals offenbart der Bericht zudem ein intern genutztes Modell namens «Model 2», das laut Anthropic auf dem hauseigenen CoBench-Massstab mit 62.8 Prozent deutlich besser abschneidet als das öffentlich zugängliche Claude Mythos 5 mit 50.3 Prozent, bereits intensiv für Programmierung, agentische Arbeit und Datengenerierung im eigenen Haus eingesetzt wird, aber mangels abgeschlossener Vorab-Sicherheitsprüfung vorerst nicht extern veröffentlicht werden soll.

Warum ist das wichtig?

Der Bericht ist bemerkenswert, weil Anthropic damit freiwillig Einblick in die eigene Risikobewertung und in bislang unveröffentlichte Modellfähigkeiten gewährt – eine Transparenzpraxis, die über die gesetzlichen Mindestanforderungen der meisten Länder hinausgeht. Dass die Risikoeinstufung nicht wegen eines akuten Sicherheitsversagens, sondern wegen wachsender struktureller Unsicherheit angehoben wurde, verweist auf ein grundsätzliches Problem: Je komplexer und autonomer KI-Systeme werden, desto schwerer lässt sich mit Sicherheit ausschliessen, dass unentdeckte Schwachstellen wie der monatelang unbemerkte Filterfehler bestehen.

Die Offenlegung von Model 2 wirft zudem eine grundsätzliche Frage auf: Wenn führende Labore intern bereits deutlich leistungsfähigere Modelle einsetzen, als sie öffentlich zur Verfügung stellen, verschiebt sich die eigentliche Front der KI-Entwicklung zunehmend hinter verschlossene Türen – nachvollziehbar nur noch über freiwillige Berichte wie den vorliegenden. Für die öffentliche Debatte um KI-Sicherheit und -Regulierung bedeutet das, dass sich Aufsichtsbehörden nicht allein auf die Fähigkeiten öffentlich zugänglicher Modelle stützen können, um die tatsächliche Grenze des technisch Machbaren einzuschätzen.

Was bedeutet das für die Schweiz?

  • Für Schweizer Forschungsinstitutionen und Aufsichtsbehörden, die sich im Rahmen der laufenden Vernehmlassung zur Umsetzung der Europarats-KI-Konvention mit Transparenz- und Governance-Anforderungen an KI-Anbieter befassen, liefert Anthropics freiwilliger Risk Report ein konkretes Beispiel dafür, wie ein Frontier-Labor eigene Risikoeinschätzungen strukturiert offenlegen kann – als möglicher Massstab für künftige Berichtspflichten.
  • Die Existenz eines intern genutzten, aber nicht veröffentlichten Modells wie Model 2 unterstreicht für Schweizer Unternehmen, die Claude-Modelle produktiv einsetzen, dass die extern zugänglichen Systeme nicht zwingend den aktuellen Stand der Fähigkeiten eines Anbieters widerspiegeln – ein relevanter Faktor bei der Einschätzung künftiger Entwicklungssprünge.
  • Die Heraufstufung des Fehlausrichtungsrisikos auf «gering» dürfte auch Schweizer Betreiber kritischer Infrastruktur, die zunehmend auf Cloud-KI-Dienste US-amerikanischer Anbieter setzen, in ihrer Einschätzung bestärken, dass Sicherheitsvorkehrungen und Notfallpläne für KI-gestützte Systeme kontinuierlich überprüft werden müssen, statt einmalig festgelegte Risikoeinstufungen unverändert zu übernehmen.

Verwendete Quellen

SiliconANGLE berichtete am 14. August 2026 über den Risk Report; Axios und weitere Fachmedien lieferten ergänzende Einordnung zu Model 2 und der veränderten Risikoeinstufung.

Quellenstatus: 1 strukturierte Quelle · 0 von 1 Originaldaten verifiziert. Prüfregeln ansehen

Häufige Fragen

Was ist die Kernaussage zu Anthropic hebt Fehlausrichtungsrisiko auf «gering» und enthüllt unveröffentlichtes Modell «Model 2»?

Anthropic hat am 14. August 2026 seinen zweiten unternehmensweiten Risk Report veröffentlicht, gültig unter Version 3.4 der eigenen Responsible Scaling Policy und mit Bezug auf den Zeitraum vom 24. Februar bis 15. Juli 2026.

Warum ist diese KI-Meldung für die Schweiz relevant?

Für Schweizer Forschungsinstitutionen und Aufsichtsbehörden, die sich im Rahmen der laufenden Vernehmlassung zur Umsetzung der Europarats-KI-Konvention mit Transparenz- und Governance-Anforderungen an KI-Anbieter befassen, liefert Anthropics freiwilliger Risk Report ein konkretes Beispiel dafür, wie ein Frontier-Labor eigene Risikoeinschätzungen strukturiert offenlegen kann – als möglicher Massstab für künftige Berichtspflichten.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

SiliconANGLE berichtete am 14. August 2026 über den Risk Report; Axios und weitere Fachmedien lieferten ergänzende Einordnung zu Model 2 und der veränderten Risikoeinstufung.