25.05.2018  Bericht zum tödlichen Uber-Unfall

Der Roboterauto-Albtraum - Software erkannte Passantin nicht

Von
Die bei einem Unfall mit einem Uber-Roboterauto getötete Radfahrerin hätte womöglich überleben können, wenn die Software sie rechtzeitig als Mensch erkannt und die Notbremsung ausgelöst hätte
ntsb.gov
Die bei einem Unfall mit einem Uber-Roboterauto getötete Radfahrerin hätte womöglich überleben können, wenn die Software sie rechtzeitig als Mensch erkannt und die Notbremsung ausgelöst hätte

Erst identifizierte die Software die Radfahrerin nicht, auch warnte sie den Testfahrer nicht. Der Bericht der US-Verkehrssicherheitsbehörde zu dem tödlichen Unfall durch ein Uber-Roboterauto offenbart dramatische Fehler - und bestätigt damit schlimmste Befürchtungen der Zweifler und Kritiker.

Um ein Hindernis auf der Straße zu erkennen und zu bremsen, sind 6 Sekunden eine lange Zeit, möchte man meinen. Doch der Roboterwagen von Uber bremste nicht, die Fahrerin griff nicht ein, überrollte die Fußgängerin und verletzte sie tödlich.

Der Unfall im März im US-Bundesstaat Arizona war auch ein Schock für eine ganze Branche: Die Protagonisten des autonomen Fahrens befürchteten das Schlimmste, die Kritiker wiederum sahen sich bestätigt. Denn die im Volvo XC 90 verbauten Lidar- und Radarsensoren hätten die Passantin doch erkennen und das Auto dann sofort bremsen müssen.

Ganz offensichtlich aber hat die dafür verantwortliche von Uber verwendete Software versagt, eine Notbremsung wurde nicht ausgelöst, wird jetzt durch den Bericht der Verkehrssicherheitsbehörde NTSB klar.

Die Sensoren hätten die Frau zwar bereits sechs Sekunden vor der Kollision als Hindernis wahrgenommen. Doch erst 1,3 Sekunden vor dem Aufprall habe das System festgestellt, dass eine Notbremsung notwendig sei. Diese Notbremsfunktion sei laut Uber aber abgeschaltet gewesen, um ein unberechenbares Verhalten des Roboterwagens zu verhindern. Genau das hatte ein Zulieferer von Volvo zuvor kritisiert und Uber für den Unfall verantwortlich gemacht. Laut Uber hätte der Kontrollfahrer in diesem Fall eingreifen sollen und müssen - tat dies aber nicht.

Lesen Sie den Kommentar: Roboterauto-Entwickler müssen auf die Bremse treten

Trotz des Einwandes des Volvo-Zulieferers, Uber habe die Standardsoftware deaktiviert - die Erkenntnisse der NTSB darf man für Roboterauto-Protagonisten gleichwohl als "worst case" bezeichnen. Denn das Vertrauen in solche Systeme ist damit zunächst einmal grundtief erschüttert. Behörden nicht nur in den USA dürften sich vor diesem Hintergrund künftig dreimal überlegen, ob und wo sie eine Erlaubnis zum Test für selbstfahrende Autos auf öffentlichen Straßen erteilen.

Denn die nähere Erläuterung der NTSB zum Unfall bestätigt den Verdacht, dass diese Technologie noch lange nicht ausgereift ist und eine Gefahr für Verkehrsteilnehmer und Fahrer darstellen kann:

So habe die Software die Passantin, die ihr Fahrrad über eine mehrspurige Straße schob und aus dem Halbschatten trat, zunächst als unbekanntes Objekt und dann als Fahrrad eingeordnet. Doch sei sich das System nicht "sicher" gewesen, in welche Richtung sich das Objekt überhaupt bewege. So heißt es in dem Bericht: "As the vehicle and pedestrian paths converged, the self-driving system software classified the pedestrian as an unknown object, as a vehicle, and then as a bicycle with varying expectations of future travel path."

Die 1,3 Sekunden vor dem Crash berechnete und notwendige Notbremsung erfolgte aber nicht, die Funktion sei deaktiviert gewesen. Die Uber-Programmierer hatten für diesen Fall ganz offensichtlich auf das Eingreifen des Fahrers gesetzt. Allerdings habe das System den Fahrer nicht alarmiert, heißt es in dem Bericht. "Das System sieht keine Warnmeldungen an den Operator vor."

Die NTSB-Experten erklärten, dass die Sicherheitsfahrerin nach eigener Aussage auf einen Bildschirm des Roboterwagen-Systems geschaut und erst dann unmittelbar vor der Kollision zu dem Lenkrad gegriffen habe. Die Bremsung sei eine Sekunde nach der Kollision erfolgt. Die Smartphones der Frau seien nicht in Betrieb gewesen, heißt es.

Im Video: Tödlicher Unfall - autonomer Uber-Wagen rammt Fußgängerin

Früher waren Roboterwagen von Uber mit einem Sicherheitsfahrer und einem Ingenieur, der die Systeme überwachte, unterwegs. Uber schien aber später von der Sicherheit des Systems weitgehend überzeugt gewesen zu sein und verzichtete auf den Techniker.

Seit dem Unfall hat der Fahrdienstvermittler seine Roboterwagen stillgelegt. Die selbstfahrenden Gefährte seien aus Arizona komplett abgezogen worden. Die Entwicklung der Technik für autonomes Fahren werde Uber aber nicht einstellen und das Unternehmen die Testfahrten "in naher Zukunft" wieder aufnehmen, erklärte eine Sprecherin laut Nachrichtenagenturen.

Die NTSB untersucht derzeit verschiedene Unfälle, bei denen der Fahrzeugführer sich auf Selbstfahrtechnologie oder deren Unterstützung verlassen hat. So war ein Apple-Ingenieur mit eingeschaltetem "Autopiloten" seines Tesla Model X auf gerader Strecke in Kalifornien gegen einen Betonpolder gefahren und dabei ums Leben gekommen. Tesla hatte bereits vor Abschluss der offiziellen Untersuchung dem Fahrer die Schuld an dem Unfall gegeben und war darüber mit der Bundesbehörde in heftigen Streit geraten.

mit dpa

Mehr zum Thema