In Kürze

  • Forschende des MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) haben zusammen mit dem Fahrzeugunternehmen Motional das «Concept-Wrapper Network» (CW-Net) entwickelt, das die internen Entscheidungsprozesse eines selbstfahrenden Autos in nachvollziehbare Konzepte wie «nähert sich stehendem Fahrzeug» oder «in Nähe eines Velofahrers» übersetzt, ohne die eigentliche Fahrleistung des Systems zu verändern; die Ergebnisse erschienen laut MIT News vom 2. September 2026 in der Fachzeitschrift Nature.
  • In Strassentests auf einer privaten Teststrecke konnten Sicherheitsfahrerinnen und -fahrer das Verhalten des Fahrzeugs dank der CW-Net-Erklärungen genauer vorhersagen; eine grössere Simulationsstudie mit Personen ohne Fachkenntnisse zeigte vergleichbare Verbesserungen.
  • Die Auswertung deckte zudem einen konkreten Trainingsfehler auf: Das Bremsen des Fahrzeugs vor einem Velofahrer beruhte entgegen der Erwartung nicht tatsächlich auf der erkannten Präsenz des Velofahrers – ein Befund, der Sicherheitsfahrerinnen und -fahrer dazu veranlasste, in solchen Situationen erhöhte Vorsicht walten zu lassen.

Was ist passiert?

Forschende des MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) haben gemeinsam mit dem auf selbstfahrende Autos spezialisierten Unternehmen Motional ein System namens CW-Net («Concept-Wrapper Network») entwickelt und laut einer am 2. September 2026 veröffentlichten Mitteilung des MIT in der Fachzeitschrift Nature beschrieben. Das System übersetzt die internen Entscheidungsprozesse des tiefen neuronalen Netzes eines selbstfahrenden Autos in für Menschen verständliche Konzepte wie «nähert sich stehendem Fahrzeug» oder «in der Nähe eines Velofahrers» und zwingt die letzte Stufe der Planungssoftware, diese Konzepte bei der Entscheidung über das nächste Fahrmanöver explizit zu verwenden – ohne dass sich dadurch die eigentliche Fahrleistung des Systems verändert.

In Strassentests auf einer privaten Teststrecke konnten Sicherheitsfahrerinnen und -fahrer das Verhalten des Fahrzeugs dank der CW-Net-Erklärungen deutlich genauer vorhersagen als ohne solche Erklärungen; eine grössere begleitende Simulationsstudie mit Personen ohne Fachkenntnisse in autonomem Fahren bestätigte diesen Effekt. Dabei deckte das Team auch einen konkreten Trainingsfehler auf: Das Bremsen des Fahrzeugs vor einem Velofahrer beruhte den Erklärungen zufolge gar nicht auf der tatsächlich erkannten Präsenz des Velofahrers – ein Befund, der die begleitenden Sicherheitsfahrerinnen und -fahrer dazu veranlasste, in vergleichbaren Situationen künftig erhöhte Vorsicht walten zu lassen.

Warum ist das wichtig?

Selbstfahrende Autos gelten seit Jahren als eindrückliches, aber schwer nachvollziehbares Beispiel für «Black-Box»-KI: Ein tiefes neuronales Netz trifft in Sekundenbruchteilen Fahrentscheidungen, deren genaue Begründung sich selbst für Fachleute kaum rekonstruieren lässt. CW-Net adressiert dieses Problem nicht nachträglich, sondern direkt im Planungsprozess des Fahrzeugs – ein Unterschied zu vielen bisherigen Erklärbarkeits-Ansätzen, die KI-Entscheidungen erst im Nachhinein zu interpretieren versuchen, ohne Einfluss auf das eigentliche Entscheidungsmodell zu nehmen.

Besonders aufschlussreich ist der entdeckte Trainingsfehler beim Bremsverhalten vor Velofahrenden: Er zeigt exemplarisch, dass ein KI-System auch bei augenscheinlich korrektem Verhalten aus den falschen Gründen richtig handeln kann – ein Risiko, das sich ohne Erklärbarkeits-Werkzeuge kaum aufdecken lässt und das gerade bei sicherheitskritischen Anwendungen wie dem automatisierten Fahren gravierende Folgen haben könnte, sollte sich das zugrunde liegende Fehlverhalten in einer anderen Situation anders auswirken.

Was bedeutet das für die Schweiz?

  • Für Schweizer Pilotprojekte mit autonomen Shuttles und Testfahrzeugen – etwa im Rahmen von durch das Bundesamt für Strassen (Astra) bewilligten Versuchen – liefert CW-Net einen Ansatz, wie sich das Verhalten solcher Fahrzeuge gegenüber Aufsichtsbehörden, Testpersonal und im Streitfall auch vor Gericht nachvollziehbar dokumentieren liesse, bevor weitergehende Bewilligungen erteilt werden.
  • Schweizer Motorfahrzeugversicherer, die sich mit der Haftungsfrage bei automatisierten Fahrzeugen auseinandersetzen müssen, könnten von Systemen wie CW-Net profitieren, sollten Unfallabklärungen künftig nachvollziehbare Erklärungen der Fahrzeug-Software erfordern, statt sich allein auf nachträglich rekonstruierte Sensordaten zu stützen.
  • Für Forschungsgruppen an ETH Zürich und EPFL, die selbst an autonomen Systemen und an der Interpretierbarkeit von KI-Modellen arbeiten, zeigt die MIT-Motional-Zusammenarbeit ein Beispiel dafür, wie sich Erklärbarkeits-Forschung direkt mit einem Industriepartner in echte Strassentests überführen lässt – ein Modell, das auch für Schweizer Hochschulen mit ähnlichen Industriekooperationen relevant sein dürfte.

Verwendete Quellen

MIT News berichtete am 2. September 2026 über die in der Fachzeitschrift Nature veröffentlichte Studie von MIT CSAIL und Motional zu CW-Net.

Quellenstatus: 1 strukturierte Quelle · 0 von 1 Originaldaten verifiziert. Prüfregeln ansehen

Häufige Fragen

Was ist die Kernaussage zu MIT-System lässt selbstfahrende Autos ihre Entscheidungen in Alltagssprache erklären?

Forschende des MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) haben zusammen mit dem Fahrzeugunternehmen Motional das «Concept-Wrapper Network» (CW-Net) entwickelt, das die internen Entscheidungsprozesse eines selbstfahrenden Autos in nachvollziehbare Konzepte wie «nähert sich stehendem Fahrzeug» oder «in Nähe eines Velofahrers» übersetzt, ohne die eigentliche Fahrleistung des Systems zu verändern; die Ergebnisse erschienen laut MIT News vom 2. September 2026 in der Fachzeitschrift Nature.

Warum ist diese KI-Meldung für die Schweiz relevant?

Für Schweizer Pilotprojekte mit autonomen Shuttles und Testfahrzeugen – etwa im Rahmen von durch das Bundesamt für Strassen (Astra) bewilligten Versuchen – liefert CW-Net einen Ansatz, wie sich das Verhalten solcher Fahrzeuge gegenüber Aufsichtsbehörden, Testpersonal und im Streitfall auch vor Gericht nachvollziehbar dokumentieren liesse, bevor weitergehende Bewilligungen erteilt werden.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

MIT News berichtete am 2. September 2026 über die in der Fachzeitschrift Nature veröffentlichte Studie von MIT CSAIL und Motional zu CW-Net.