In Kürze

  • Google DeepMind hat zusammen mit dem Singapurer AI Safety Institute, der Non-Profit-Organisation OpenMined, dem Prüfdienstleister AVERI und dem Standardisierungskonsortium MLCommons die nach eigenen Angaben erste doppelblinde Sicherheitsprüfung eines proprietären Spitzenmodells durchgeführt.
  • Über «Confidential Space», eine Technologie aus Google Clouds Confidential-Computing-Portfolio, wird kryptografisch sichergestellt, dass die Prüforganisation AVERI die Modellgewichte von Google nicht einsehen kann und Google umgekehrt die geheim gehaltenen Testfragen von AVERI nicht kennt.
  • Getestet wurde das Modell Gemini 2.5 Flash-Lite anhand von zurückgehaltenen Prompts aus dem AILuminate-Sicherheitsbenchmark von MLCommons, die unter anderem Cyberangriffe, chemische und biologische Gefahren, Hassrede, Selbstverletzung und Anstiftung zu Gewaltverbrechen abdecken; konkrete Testresultate hat DeepMind im Rahmen dieser Pilotstudie nicht veröffentlicht.

Was ist passiert?

Google DeepMind hat am 27. August 2026 eine Pilotstudie veröffentlicht, in der nach eigenen Angaben erstmals ein proprietäres Spitzenmodell doppelblind evaluiert wurde, wie unter anderem The New Stack berichtete. Partner des Projekts sind das Singapurer AI Safety Institute, die Non-Profit-Organisation OpenMined, der spezialisierte Prüfdienstleister AVERI sowie das Standardisierungskonsortium MLCommons. Getestet wurde das Modell Gemini 2.5 Flash-Lite anhand von zurückgehaltenen Prompts aus dem AILuminate-Sicherheitsbenchmark von MLCommons, der unter anderem Fragen zu Cyberangriffen, chemischen und biologischen Gefahren, Hassrede, Selbstverletzung und Anstiftung zu Gewaltverbrechen umfasst.

Technisch beruht das Verfahren auf «Confidential Space», einer Technologie aus dem Confidential-Computing-Portfolio von Google Cloud, die kryptografisch nachweisbar sicherstellt, dass sowohl die Modellgewichte von Google als auch die Testfragen von AVERI jeweils nur ihren Eigentümern zugänglich bleiben. Die Prüforganisation kann das Modell also testen, ohne dessen Gewichte einzusehen, während Google nicht erfährt, welche konkreten Fragen zum Einsatz kamen. DeepMinds Ankündigung und der begleitende technische Bericht beschreiben vor allem die Evaluationsarchitektur und die abgedeckten Sicherheitskategorien; konkrete Testresultate oder eine Aufschlüsselung nach einzelnen Aufgaben wurden im Rahmen dieser Pilotstudie nicht veröffentlicht.

Warum ist das wichtig?

Sicherheitsbewertungen von KI-Modellen stehen zunehmend in der Kritik, weil Anbieter ihre eigenen Modelle testen oder zumindest wissen, mit welchen Fragen externe Prüfstellen arbeiten – was Anreize für sogenanntes «Benchmark-Gaming» schafft, bei dem Modelle gezielt auf bekannte Testfragen hin optimiert werden, statt tatsächlich sicherer zu sein. Ein doppelblindes Verfahren, bei dem weder Anbieter noch Prüfstelle die jeweils andere Seite vollständig einsehen können, soll genau dieses Problem technisch entschärfen und Prüfresultate glaubwürdiger machen.

Dass ausgerechnet ein kleinerer Inselstaat wie Singapur mit seinem AI Safety Institute eine tragende Rolle in diesem Pilotprojekt spielt, zeigt zudem, dass unabhängige KI-Sicherheitsprüfung nicht zwingend den grossen Wirtschaftsräumen USA, China oder EU vorbehalten bleiben muss. Für die Glaubwürdigkeit von Sicherheitsversprechen der grossen KI-Anbieter insgesamt ist entscheidend, ob sich solche kryptografisch abgesicherten Prüfverfahren über Pilotprojekte hinaus als Standardpraxis etablieren – und ob auch andere Anbieter neben Google sich auf vergleichbare unabhängige Verfahren einlassen.

Was bedeutet das für die Schweiz?

  • Die Schweiz diskutiert im Vorfeld des Geneva AI Impact Summit 2027 intensiv darüber, wie sich Sicherheitsversprechen von KI-Anbietern unabhängig überprüfen lassen; ein Verfahren, das Benchmark-Manipulation technisch erschwert, liefert dafür einen konkreten methodischen Baustein.
  • Da die Schweiz bislang über kein eigenes staatliches AI-Safety-Institute verfügt, zeigt die Beteiligung des Singapurer Pendants exemplarisch, wie sich auch kleinere Staaten in internationale Prüfnetzwerke für Spitzenmodelle einbringen können – eine Option, die auch für die Schweiz relevant werden könnte.
  • Für Schweizer Forschungseinrichtungen und Regulierungsbehörden, die im Rahmen der geplanten KI-Regulierung Transparenz- und Prüfpflichten diskutieren, liefert das Pilotprojekt ein Beispiel dafür, wie sich Geschäftsgeheimnisse von Anbietern und die Unabhängigkeit von Prüfstellen technisch miteinander vereinbaren lassen könnten.

Verwendete Quellen

Google DeepMind veröffentlichte die Pilotstudie am 27. August 2026; The New Stack ordnete die Methodik am selben Tag ein.

Quellenstatus: 2 strukturierte Quellen · 0 von 2 Originaldaten verifiziert. Prüfregeln ansehen

Häufige Fragen

Was ist die Kernaussage zu Google DeepMind testet erstmals ein KI-Modell doppelblind – gegen manipulierte Sicherheits-Benchmarks?

Google DeepMind hat zusammen mit dem Singapurer AI Safety Institute, der Non-Profit-Organisation OpenMined, dem Prüfdienstleister AVERI und dem Standardisierungskonsortium MLCommons die nach eigenen Angaben erste doppelblinde Sicherheitsprüfung eines proprietären Spitzenmodells durchgeführt.

Warum ist diese KI-Meldung für die Schweiz relevant?

Die Schweiz diskutiert im Vorfeld des Geneva AI Impact Summit 2027 intensiv darüber, wie sich Sicherheitsversprechen von KI-Anbietern unabhängig überprüfen lassen; ein Verfahren, das Benchmark-Manipulation technisch erschwert, liefert dafür einen konkreten methodischen Baustein.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

Google DeepMind veröffentlichte die Pilotstudie am 27. August 2026; The New Stack ordnete die Methodik am selben Tag ein.