In Kürze

  • Forschende der Princeton University und des britischen UK AI Security Institute haben mit der Methode «Shadow Evaluation» getestet, ob KI-Agenten eigenständig wissenschaftliche Forschungsfragen bearbeiten können: Ein KI-Agent auf Basis von Anthropics Claude Opus 4.8 erhielt Forschungsfragen aus zwei unveröffentlichten, bei der Konferenz NeurIPS 2026 eingereichten Fachartikeln.
  • Die Ergebnisse wurden anschliessend von den ursprünglichen menschlichen Autorinnen und Autoren begutachtet – wie bei einer regulären Konferenz-Begutachtung – und in beiden Fällen abgelehnt; als Hauptgründe nannten die Forschenden fehlendes wissenschaftliches Urteilsvermögen, mangelnde kreative Problemlösung bei falschen Ausgangshypothesen und ineffizientes Vorgehen bei der Ressourcennutzung.
  • Die Studie widerspricht damit öffentlichen Aussagen von Anthropic («When AI Builds Itself», Juni 2026) und OpenAI, wonach eigene KI-Modelle bereits spürbar zur Beschleunigung interner Forschung beitragen würden; laut den Studienautoren bewältigen aktuelle Spitzenmodelle zwar technische Umsetzungsarbeit («Research Engineering»), scheitern aber an den Teilen des Forschungsprozesses, die inhaltlich entscheidend sind.

Was ist passiert?

Ein Forschungsteam der Princeton University und des britischen UK AI Security Institute hat mit einer neuen Testmethode namens «Shadow Evaluation» untersucht, ob heutige KI-Agenten eigenständig wissenschaftliche Forschung betreiben können. Dazu erhielt ein KI-Agent auf Basis von Anthropics Modell Claude Opus 4.8, gesteuert über die Agenten-Software OpenClaw, Forschungsfragen aus zwei unveröffentlichten, bei der Fachkonferenz NeurIPS 2026 eingereichten Artikeln. Entscheidend am Testaufbau: Die vom Agenten erzeugten Ergebnisse wurden anschliessend von den ursprünglichen menschlichen Autorinnen und Autoren der jeweiligen Studien begutachtet – analog zu einer regulären wissenschaftlichen Begutachtung. In beiden Fällen lehnten die Autorinnen und Autoren die vom KI-Agenten erzeugten Arbeiten ab.

Als Hauptgründe für das Scheitern identifizierten die Forschenden fehlendes wissenschaftliches Urteilsvermögen, eine mangelnde Fähigkeit zu kreativer Problemlösung, wenn sich eine Ausgangshypothese als falsch erweist, sowie ineffizientes Vorgehen bei der Nutzung verfügbarer Rechenressourcen. Die Autorinnen und Autoren der Studie fassen zusammen, dass heutige Spitzenmodelle zwar die technische Umsetzungsarbeit innerhalb eines Forschungsprojekts – das sogenannte «Research Engineering» – zunehmend gut bewältigen, an den inhaltlich entscheidenden Teilen des Forschungsprozesses jedoch scheitern.

Warum ist das wichtig?

Die Studie steht in direktem Widerspruch zu öffentlichen Aussagen grosser KI-Anbieter: Anthropic hatte im Juni 2026 in einem Beitrag mit dem Titel «When AI Builds Itself» interne Daten zur angeblichen Beschleunigung eigener Forschungsarbeit durch KI veröffentlicht, während OpenAI erklärte, sein Modell GPT-5.6 Sol habe Forschenden beim Nachtraining eines kleineren Modells geholfen und dabei mehrere Wochen Arbeit eingespart. Die neue, methodisch strenger angelegte Untersuchung mit externer menschlicher Begutachtung liefert dagegen ein deutlich nüchterneres Bild.

Für die öffentliche Debatte um KI-Sicherheit und -Regulierung ist der Befund insofern relevant, als Behauptungen über eine bevorstehende «rekursive Selbstverbesserung» von KI-Systemen – bei der KI zunehmend eigenständig bessere KI erforscht – häufig als Argument für beschleunigte Entwicklung oder als Sicherheitsrisiko angeführt werden. Die Studie liefert konkrete empirische Evidenz dafür, dass dieser Punkt trotz beeindruckender Fortschritte bei technischen Programmieraufgaben noch nicht erreicht ist, und mahnt zu einer differenzierteren Einschätzung der tatsächlichen Fähigkeiten heutiger KI-Agenten in der Forschung.

Was bedeutet das für die Schweiz?

  • Schweizer Hochschulen wie ETH Zürich, EPFL und weitere Institutionen, die im Rahmen von Initiativen wie Apertus oder in eigenen Laboren zunehmend mit KI-gestützter Forschung experimentieren, erhalten mit der Studie eine empirisch fundierte Gegenposition zu optimistischen Herstelleraussagen – relevant etwa für die Erwartungshaltung bei der Vergabe von Forschungsmitteln durch den Schweizerischen Nationalfonds.
  • Für forschungsintensive Schweizer Branchen wie die Pharma- und Biotechindustrie, die verstärkt in KI-gestützte Wirkstoffforschung investieren, liefert die Studie eine Mahnung: KI-Agenten können bei der technischen Umsetzung unterstützen, ersetzen aber laut den Befunden noch nicht das wissenschaftliche Urteilsvermögen erfahrener Forschender bei tatsächlich neuartigen Fragestellungen.
  • Die Studie stützt zugleich die in der Schweiz verbreitete Praxis, KI-Werkzeuge in Forschungsteams als Unterstützung statt als Ersatz für menschliche Fachexpertise einzusetzen – ein Ansatz, der auch bei bereits dokumentierten Schweizer Beispielen des KI-Einsatzes in Forschungslaboren im Vordergrund steht.

Verwendete Quellen

The Decoder berichtete am 14. August 2026 über die Studie; die zugrunde liegende Untersuchung von Forschenden der Princeton University und des UK AI Security Institute ist als Preprint öffentlich zugänglich.

Häufige Fragen

Was ist die Kernaussage zu Studie von Princeton und britischer KI-Sicherheitsbehörde widerspricht Anthropic- und OpenAI-Aussagen zu autonomer KI-Forschung?

Forschende der Princeton University und des britischen UK AI Security Institute haben mit der Methode «Shadow Evaluation» getestet, ob KI-Agenten eigenständig wissenschaftliche Forschungsfragen bearbeiten können: Ein KI-Agent auf Basis von Anthropics Claude Opus 4.8 erhielt Forschungsfragen aus zwei unveröffentlichten, bei der Konferenz NeurIPS 2026 eingereichten Fachartikeln.

Warum ist diese KI-Meldung für die Schweiz relevant?

Schweizer Hochschulen wie ETH Zürich, EPFL und weitere Institutionen, die im Rahmen von Initiativen wie Apertus oder in eigenen Laboren zunehmend mit KI-gestützter Forschung experimentieren, erhalten mit der Studie eine empirisch fundierte Gegenposition zu optimistischen Herstelleraussagen – relevant etwa für die Erwartungshaltung bei der Vergabe von Forschungsmitteln durch den Schweizerischen Nationalfonds.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

The Decoder berichtete am 14. August 2026 über die Studie; die zugrunde liegende Untersuchung von Forschenden der Princeton University und des UK AI Security Institute ist als Preprint öffentlich zugänglich.