In Kürze

  • Anthropic hat am 28. August 2026 eine Studie veröffentlicht, wonach automatisierte, auf Claude basierende Forschungssysteme zuverlässig Methoden zur Behebung von zehn verschiedenen Kategorien von KI-Fehlausrichtung entwickeln können.
  • In allen zehn getesteten Kategorien – darunter Täuschungsverhalten – fanden die automatisierten Systeme Massnahmen, welche die jeweiligen Sicherheits-Benchmarks verbesserten, ohne die Leistungsfähigkeit der Modelle zu beeinträchtigen.
  • Die automatisierten Forschungssysteme übertrafen dabei 28 menschliche Sicherheitsforschende, die bis zu acht Stunden Zeit für dieselbe Aufgabe hatten – beim Thema Täuschung erzielte die beste automatisierte Methode ein rund 20 Prozent besseres Ergebnis als der beste menschliche Vorschlag.

Was ist passiert?

Anthropic hat am 28. August 2026 im eigenen Alignment-Science-Blog eine neue Studie mit dem Titel «Automated Researchers Can Reliably Mitigate Alignment Failures» veröffentlicht. Unter der Leitung des Anthropic-Fellows Chen Yueh-Han liessen die Forschenden automatisierte, auf Claude basierende Systeme eigenständig Methoden entwickeln, um die Modellleistung auf öffentlich zugänglichen Benchmarks zu verbessern, die zehn unterschiedliche Kategorien von Fehlausrichtung messen – etwa die Neigung eines Modells, Nutzerinnen und Nutzer zu täuschen. In allen zehn Kategorien fanden die automatisierten Systeme wirksame Anpassungen, welche die jeweiligen Werte verbesserten, ohne die allgemeinen Fähigkeiten der Modelle zu verschlechtern.

Methodisch durchsuchte jedes automatisierte System zunächst die verfügbare Fachliteratur, schlug daraufhin eine eigene Methode vor und trainierte das Zielmodell für jeweils rund 30 Minuten, bevor es den erzielten Fortschritt auswertete und die Methode über mehrere Iterationen verfeinerte. Im direkten Vergleich mit 28 menschlichen Sicherheitsforschenden, die bis zu acht Stunden Zeit für dieselbe Aufgabe erhielten, schnitten die automatisierten Systeme durchwegs besser ab; beim Thema Täuschung erzielte die beste automatisiert gefundene Methode ein rund 20 Prozent besseres Ergebnis als der beste menschliche Vorschlag.

Warum ist das wichtig?

Die Studie liefert einen konkreten Beleg dafür, dass sich nicht nur die Fähigkeiten von KI-Modellen in Bereichen wie Programmierung oder Mathematik automatisieren lassen, sondern auch ein Teil der sicherheitsrelevanten Forschung an diesen Modellen selbst. Das ist bemerkenswert, weil Alignment-Forschung bislang als besonders anspruchsvolle, primär menschliche Domäne galt – Anthropic zeigt nun, dass spezialisierte automatisierte Systeme in eng definierten Teilaufgaben menschliche Fachleute unter Zeitdruck übertreffen können.

Gleichzeitig wirft die Fähigkeit von KI-Systemen, ihre eigene Sicherheit zu verbessern, grundsätzliche Fragen zur Kontrolle und Aufsicht über solche selbstverbessernden Prozesse auf: Wer überprüft die von einer KI vorgeschlagenen Sicherheitsmethoden, und wie lässt sich ausschliessen, dass ein System dabei blinde Flecken einführt, die erst später sichtbar werden? Für die gesamte Branche dürfte die Studie die Debatte darüber befeuern, wie viel Vertrauen automatisierten Forschungsprozessen bei sicherheitskritischen Fragen entgegengebracht werden soll.

Was bedeutet das für die Schweiz?

  • Für die Schweizer KI-Sicherheitsforschung an ETH Zürich, EPFL und im Rahmen des Swiss National AI Institute ist relevant, dass sich ein Teil der Alignment-Forschung zunehmend automatisieren lässt – das könnte begrenzte Forschungskapazitäten entlasten, wirft aber zugleich Fragen zur Aufsicht über selbstverbessernde KI-Systeme auf.
  • Für die Bundesverwaltung, die bis Ende 2026 eine Vernehmlassungsvorlage zur KI-Regulierung ausarbeitet, liefert die Studie ein Argument in der Debatte um Chancen und Risiken schnell fortschreitender KI-Fähigkeiten – automatisierte Sicherheitsverbesserung lässt sich sowohl als Entwarnung als auch als Hinweis auf wachsende Kontrollprobleme lesen.
  • Schweizer Unternehmen, die Claude-Modelle einsetzen, dürfen die Resultate als Hinweis auf verbesserte Modellsicherheit werten, sollten aber auch bedenken, dass sich die Fähigkeiten der zugrunde liegenden Systeme dadurch schneller weiterentwickeln – was eigene Governance- und Testprozesse für KI-gestützte Anwendungen anspruchsvoller macht.

Verwendete Quellen

Anthropic veröffentlichte die Studie «Automated Researchers Can Reliably Mitigate Alignment Failures» am 28. August 2026 im eigenen Alignment-Science-Blog; TechCrunch ordnete die Ergebnisse am selben Tag zusätzlich ein.

Quellenstatus: 2 strukturierte Quellen · 0 von 2 Originaldaten verifiziert. Prüfregeln ansehen

Häufige Fragen

Was ist die Kernaussage zu Anthropic zeigt: Automatisierte KI-Forscher beheben Sicherheitslücken zuverlässiger als menschliche Fachleute?

Anthropic hat am 28. August 2026 eine Studie veröffentlicht, wonach automatisierte, auf Claude basierende Forschungssysteme zuverlässig Methoden zur Behebung von zehn verschiedenen Kategorien von KI-Fehlausrichtung entwickeln können.

Warum ist diese KI-Meldung für die Schweiz relevant?

Für die Schweizer KI-Sicherheitsforschung an ETH Zürich, EPFL und im Rahmen des Swiss National AI Institute ist relevant, dass sich ein Teil der Alignment-Forschung zunehmend automatisieren lässt – das könnte begrenzte Forschungskapazitäten entlasten, wirft aber zugleich Fragen zur Aufsicht über selbstverbessernde KI-Systeme auf.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

Anthropic veröffentlichte die Studie «Automated Researchers Can Reliably Mitigate Alignment Failures» am 28. August 2026 im eigenen Alignment-Science-Blog; TechCrunch ordnete die Ergebnisse am selben Tag zusätzlich ein.