In Kürze

  • Der «AI Safety Index – Summer 2026» des Future of Life Institute bewertet neun führende KI-Labore; Anthropic erhält mit einem C+ die beste Note, OpenAI und Google DeepMind folgen mit einem C, Meta erhält ein D+, Z.ai und Alibaba Cloud ein D-, während xAI, DeepSeek und Mistral mit einem F durchfallen.
  • Der Bericht kritisiert, dass mehrere Labore – darunter Anthropic, OpenAI, Google DeepMind und Meta – frühere Zusagen aufgeweicht oder faktisch aufgegeben haben, die Entwicklung oder Freigabe von KI-Systemen bei Erreichen bestimmter Risikoschwellen zu stoppen.
  • Zudem verzeichnen die Autoren einen Trend zu militärischen Kooperationen: Firmen, die militärische Anwendungen ihrer KI früher ausschlossen, suchen zunehmend aktiv Verteidigungspartnerschaften – bei der «existenziellen Sicherheit» erhalten alle bewerteten Labore nur ein D+ oder schlechter.

Was ist passiert?

Das Future of Life Institute hat seinen «AI Safety Index – Summer 2026» veröffentlicht und darin neun führende KI-Labore nach Sicherheitskriterien bewertet. Anthropic erhält mit einem C+ die beste Note, OpenAI und Google DeepMind folgen mit einem C, Meta erhält ein D+, Z.ai und Alibaba Cloud ein D-, während xAI, DeepSeek und das französische Mistral mit einem F durchfallen. Keines der bewerteten Unternehmen erreicht eine Note A oder B.

Zu den zentralen Kritikpunkten gehört, dass mehrere Labore – darunter Anthropic, OpenAI, Google DeepMind und Meta – frühere Selbstverpflichtungen aufgeweicht oder faktisch aufgegeben haben, wonach sie die Entwicklung oder Freigabe von KI-Systemen bei Erreichen bestimmter Risikoschwellen stoppen wollten. Zusätzlich beobachten die Autoren einen Trend zu militärischen Kooperationen: Firmen, die militärische Anwendungen früher explizit ausschlossen, suchen nun aktiv Verteidigungspartnerschaften – ähnlich wie xAI und Mistral, die dies bereits länger tun. Bei der «existenziellen Sicherheit» erhalten alle bewerteten Labore nur ein D+ oder schlechter.

Warum ist das wichtig?

Der Index legt eine wachsende Lücke offen zwischen den öffentlichen Sicherheitszusagen, welche die grossen KI-Labore 2023 und 2024 gemacht hatten, und ihrer tatsächlichen Praxis im Jahr 2026, in dem kommerzieller und militärischer Druck zunimmt. Ein unabhängiger, wiederkehrender Index wie dieser schafft eine Rechenschaftsebene ausserhalb der PR-Kommunikation der Labore selbst.

Der Befund trifft mitten in die globale Debatte, ob KI-Governance auf freiwilliger Selbstregulierung oder auf verbindlichem Recht beruhen soll. Just zu diesem Zeitpunkt hatte sich Bundesrat Albert Rösti am UN-Regierungsdialog in Genf für minimale internationale Regeln und eine branchenweite Selbstzertifizierung ausgesprochen – eine Position, die durch die im Index dokumentierte Erosion freiwilliger Zusagen zusätzlich unter Druck gerät.

Was bedeutet das für die Schweiz?

Redaktionelle Einordnung: Die folgenden Schlussfolgerungen beziehen sich auf die genannten Quellen. Sie sind keine zusätzlichen Meldungen der Originalquelle.

  • Der Befund, dass selbst führende Labore ihre eigenen Sicherheitszusagen aufweichen, stützt indirekt die Position von Bundesrat Albert Rösti, der international auf minimale KI-Regulierung und branchenweite Selbstzertifizierung statt strikter Gesetze setzt – der Bericht zeigt aber auch die Grenzen solch freiwilliger Zusagen ohne verbindliche Kontrolle auf.
  • Für Schweizer Forschungsinstitutionen und Behörden, die KI-Systeme der bewerteten Anbieter einsetzen oder über Cloud-Verträge beschaffen, liefert der Index eine unabhängige Vergleichsgrundlage, um Sicherheitsversprechen der Anbieter kritisch zu hinterfragen.
  • Die Kritik an mangelnder existenzieller Sicherheit bei allen Laboren unterstreicht die Bedeutung offener, in der Schweiz entwickelter Alternativen wie des ETH/EPFL-Modells Apertus, dessen Trainings- und Sicherheitsprozesse öffentlich einsehbar sind – ein Gegenmodell zur Blackbox-Praxis der grossen kommerziellen Anbieter.

Verwendete Quellen

Das Future of Life Institute veröffentlicht den AI Safety Index Summer 2026, der neun führende KI-Labore nach Sicherheitskriterien bewertet und dabei geschwächte Sicherheitszusagen sowie zunehmende Militärkooperationen kritisiert.

Quellenstatus: 1 verlinkte Quelle · 0 von 1 Originaldaten verifiziert. Prüfregeln ansehen

Häufige Fragen

Was ist die Kernaussage zu AI Safety Index 2026: Keine grosse KI-Firma erhält mehr als eine Note C+?

Der «AI Safety Index – Summer 2026» des Future of Life Institute bewertet neun führende KI-Labore; Anthropic erhält mit einem C+ die beste Note, OpenAI und Google DeepMind folgen mit einem C, Meta erhält ein D+, Z.ai und Alibaba Cloud ein D-, während xAI, DeepSeek und Mistral mit einem F durchfallen.

Warum ist diese KI-Meldung für die Schweiz relevant?

Der Befund, dass selbst führende Labore ihre eigenen Sicherheitszusagen aufweichen, stützt indirekt die Position von Bundesrat Albert Rösti, der international auf minimale KI-Regulierung und branchenweite Selbstzertifizierung statt strikter Gesetze setzt – der Bericht zeigt aber auch die Grenzen solch freiwilliger Zusagen ohne verbindliche Kontrolle auf.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

Das Future of Life Institute veröffentlicht den AI Safety Index Summer 2026, der neun führende KI-Labore nach Sicherheitskriterien bewertet und dabei geschwächte Sicherheitszusagen sowie zunehmende Militärkooperationen kritisiert.