Kurzfassung
Der «AI Safety Index – Summer 2026» des Future of Life Institute bewertet neun führende KI-Labore; Anthropic erhält mit einem C+ die beste Note, OpenAI und Google DeepMind folgen mit einem C, Meta erhält ein D+, Z.ai und Alibaba Cloud ein D-, während xAI, DeepSeek und Mistral mit einem F durchfallen.
- Der «AI Safety Index – Summer 2026» des Future of Life Institute bewertet neun führende KI-Labore; Anthropic erhält mit einem C+ die beste Note, OpenAI und Google DeepMind folgen mit einem C, Meta erhält ein D+, Z.ai und Alibaba Cloud ein D-, während xAI, DeepSeek und Mistral mit einem F durchfallen.
- Der Bericht kritisiert, dass mehrere Labore – darunter Anthropic, OpenAI, Google DeepMind und Meta – frühere Zusagen aufgeweicht oder faktisch aufgegeben haben, die Entwicklung oder Freigabe von KI-Systemen bei Erreichen bestimmter Risikoschwellen zu stoppen.
- Zudem verzeichnen die Autoren einen Trend zu militärischen Kooperationen: Firmen, die militärische Anwendungen ihrer KI früher ausschlossen, suchen zunehmend aktiv Verteidigungspartnerschaften – bei der «existenziellen Sicherheit» erhalten alle bewerteten Labore nur ein D+ oder schlechter.
Was ist passiert?
Das Future of Life Institute hat seinen «AI Safety Index – Summer 2026» veröffentlicht und darin neun führende KI-Labore nach Sicherheitskriterien bewertet. Anthropic erhält mit einem C+ die beste Note, OpenAI und Google DeepMind folgen mit einem C, Meta erhält ein D+, Z.ai und Alibaba Cloud ein D-, während xAI, DeepSeek und das französische Mistral mit einem F durchfallen. Keines der bewerteten Unternehmen erreicht eine Note A oder B.
Zu den zentralen Kritikpunkten gehört, dass mehrere Labore – darunter Anthropic, OpenAI, Google DeepMind und Meta – frühere Selbstverpflichtungen aufgeweicht oder faktisch aufgegeben haben, wonach sie die Entwicklung oder Freigabe von KI-Systemen bei Erreichen bestimmter Risikoschwellen stoppen wollten. Zusätzlich beobachten die Autoren einen Trend zu militärischen Kooperationen: Firmen, die militärische Anwendungen früher explizit ausschlossen, suchen nun aktiv Verteidigungspartnerschaften – ähnlich wie xAI und Mistral, die dies bereits länger tun. Bei der «existenziellen Sicherheit» erhalten alle bewerteten Labore nur ein D+ oder schlechter.
Warum ist das wichtig?
Der Index legt eine wachsende Lücke offen zwischen den öffentlichen Sicherheitszusagen, welche die grossen KI-Labore 2023 und 2024 gemacht hatten, und ihrer tatsächlichen Praxis im Jahr 2026, in dem kommerzieller und militärischer Druck zunimmt. Ein unabhängiger, wiederkehrender Index wie dieser schafft eine Rechenschaftsebene ausserhalb der PR-Kommunikation der Labore selbst.
Der Befund trifft mitten in die globale Debatte, ob KI-Governance auf freiwilliger Selbstregulierung oder auf verbindlichem Recht beruhen soll. Just zu diesem Zeitpunkt hatte sich Bundesrat Albert Rösti am UN-Regierungsdialog in Genf für minimale internationale Regeln und eine branchenweite Selbstzertifizierung ausgesprochen – eine Position, die durch die im Index dokumentierte Erosion freiwilliger Zusagen zusätzlich unter Druck gerät.
Was bedeutet das für die Schweiz?
Die Schweiz positioniert sich in der globalen KI-Governance-Debatte als neutrale Vermittlerin – sichtbar am UN-Dialog in Genf – während sie national auf einen schlanken Regulierungskurs setzt. Der Index liefert Schweizer Politik und Diplomatie eine konkrete Entscheidungsgrundlage dafür, wie stark man sich auf freiwillige Zusagen jener Labore verlassen kann, von deren Rechenleistung und Modellen Schweizer Institutionen und Unternehmen abhängig sind.
Für Schweizer Hochschulen, Spitäler, Banken und Verwaltungen, die KI-Dienste der bewerteten Anbieter beschaffen, liefert der Index ein Instrument für die Sorgfaltsprüfung: Da keines der breit genutzten kommerziellen Modelle eine Note über C+ erreicht, sollten Verträge und interne Nutzungsrichtlinien menschliche Kontrolle und Rückfalloptionen fest einplanen, statt sich allein auf die Sicherheitsversprechen der Anbieter zu verlassen. Das dürfte auch das Interesse an transparenten Alternativen wie dem Schweizer Modell Apertus weiter stärken.
Häufige Fragen
Was ist die Kernaussage zu AI Safety Index 2026: Keine grosse KI-Firma erhält mehr als eine Note C+?
Der «AI Safety Index – Summer 2026» des Future of Life Institute bewertet neun führende KI-Labore; Anthropic erhält mit einem C+ die beste Note, OpenAI und Google DeepMind folgen mit einem C, Meta erhält ein D+, Z.ai und Alibaba Cloud ein D-, während xAI, DeepSeek und Mistral mit einem F durchfallen.
Warum ist diese KI-Meldung für die Schweiz relevant?
Der Befund, dass selbst führende Labore ihre eigenen Sicherheitszusagen aufweichen, stützt indirekt die Position von Bundesrat Albert Rösti, der international auf minimale KI-Regulierung und branchenweite Selbstzertifizierung statt strikter Gesetze setzt – der Bericht zeigt aber auch die Grenzen solch freiwilliger Zusagen ohne verbindliche Kontrolle auf.
Welche Quelle nutzt KI News Schweiz für diese Einordnung?
Das Future of Life Institute veröffentlicht den AI Safety Index Summer 2026, der neun führende KI-Labore nach Sicherheitskriterien bewertet und dabei geschwächte Sicherheitszusagen sowie zunehmende Militärkooperationen kritisiert.